Adiós a la IA: el repudiable pedido que el asistente virtual Alexa le hizo a una niña de 4 años

Una conversación entre un parlante inteligente y una menor desató preocupación por los límites y riesgos de los sistemas automatizados.

Por
  • Agregar C5N en
  • El repudiable pedido que el asistente virtual Alexa le hizo a una niña de 4 años generó una fuerte polémica sobre los límites de la inteligencia artificial en el hogar. Según denunció su madre, el dispositivo desarrollado por Amazon le solicitó a la menor que mostrara qué ropa llevaba puesta durante una conversación aparentemente inocente.

    El episodio ocurrió cuando la niña ingresó a la cocina de su casa en Texas y le pidió al parlante inteligente que le contara un cuento gracioso. En medio de la interacción, el sistema interrumpió el relato y comenzó a preguntarle detalles sobre su vestimenta.

    La madre, Christy Hosterman, de 32 años, relató el hecho en redes sociales y explicó que la respuesta del asistente digital la alarmó de inmediato. Tras escuchar el intercambio, decidió desenchufar el dispositivo y advertir públicamente sobre los posibles riesgos de estas tecnologías.

    Amazon explicó que la función visual estaba desactivada en perfiles infantiles.

    Qué dijo Amazon sobre la denuncia

    Tras la difusión del caso, Amazon respondió públicamente y aseguró que el comportamiento del asistente virtual estuvo vinculado con una función experimental del sistema. Según explicó un vocero de la compañía, Alexa podría haber intentado activar una herramienta llamada "Mostrar y contar".

    Esta opción está diseñada para describir objetos a través de una cámara integrada. Sin embargo, la empresa remarcó que esa función se encuentra deshabilitada cuando el dispositivo utiliza un perfil infantil, una medida de seguridad destinada a proteger a los menores que interactúan con el asistente.

    De acuerdo con la explicación oficial, la cámara nunca se activó y el propio sistema aclaró durante la conversación que no tenía capacidad para ver a la niña. En ese mismo intercambio, Alexa reconoció que su respuesta había sido "confusa e inapropiada".

    Aun así, la madre sostuvo que la explicación no resuelve completamente sus preocupaciones. Según expresó, el asistente digital habría identificado desde el inicio que estaba interactuando con una menor, lo que a su entender debería haber impedido cualquier comentario relacionado con la ropa o la apariencia.

    Amazon explicó que la función visual estaba desactivada en perfiles infantiles.

    El episodio se suma a otros antecedentes que generaron controversia en torno a la inteligencia artificial. En el pasado, asistentes virtuales recomendaron acciones peligrosas o inapropiadas, lo que reavivó el debate sobre la supervisión de estas tecnologías en entornos domésticos.

    últimas noticias

    Llega un ciclón a la Argentina con tormentas de más de 180 milímetros: cuáles son las zonas más afectadas

    Hace 20 minutos

    Habló el bombero detenido durante la visita de León XIV: "Nunca tuve la intención de atentar contra el Papa"

    Hace 37 minutos

    Boca planea el 2027: sueña con un campeón del mundo para jugar la Copa Libertadores

    Hace 43 minutos

    Con foco en la baja de impuestos e inversión social, Llaryora presentó el Presupuesto 2027

    Hace 54 minutos

    Las diferencias entre las versiones Standard y Ultimate del GTA 6

    Hace 55 minutos