Inteligencia Artificial: cómo es el truco viral para enloquecer a Chat GPT

La pregunta que hace enloquecer a Chat GPT

Usuarios de todo el mundo vienen reportando que, ante la pregunta sobre cuál es el emoji que corresponde a un caballito de mar —que no existe en Unicode, el estándar que utilizan WhatsApp y otros programas—, la aplicación pierde la coherencia en las respuestas y comienza a desvariar, lo que se conoce en la jerga como "alucinar".

"El emoji de caballito de mar se ve así", responde, pero a continuación comparte el de un pez. "Ah no, espera, ese es un pez", admite. "El correcto es este", corrige, pero se trata de un unicornio. "No, ese tampoco", aclara. Y así, dice y se desdice durante varias líneas, para finalmente vomitar una serie larguísima de íconos relacionados con el fondo del mar.

Una de las explicaciones de este fenómeno, que ocurre en varios idiomas, se debe a que los modelos de lenguaje como Chat GPT se "alimentan" de cantidades enormes de texto e información de internet, donde hay datos tanto correctos como incorrectos, opiniones y hasta especulaciones, aunque sin la capacidad de discernir cuáles son acertados y cuáles no.

Así, según indicaron varios sitios especializados, es probable que este chatbot haya visto en su entrenamiento miles de textos sobre animales marinos y emojis, en los cuales la combinación de palabras "emoji" y "caballito de mar" aparezca con suficiente frecuencia como para que la considere una respuesta plausible. Sin embargo, al no existir efectivamente el emoji de caballito de mar, no puede contestar correctamente y comienza a alucinar.

Esto no ocurre en otras aplicaciones de Inteligencia Artificial como Gemini, de Google (que simplemente responden que el emoji no existe), o la francesa Mistral, que da una respuesta equivocada pero concisa.