La inteligencia artificial retrasa un lanzamiento que pone en riesgo a la humanidad: de qué se trata

Se trata de un modelo desarrollado por la compañía OpenAI: Voice Engine, que tiene la facultad de clonar voces humanas para luego reproducirlas.

Retraso del lanzamiento de la IA para la clonación de voces

OpenAI viene trabajando en el proyecto del modelo Voice Engine hace ya un tiempo, pero cuando parecía tener todo listo para sacarla al mercado, pisaron el freno debido a los riesgos de su aplicación. Los propios creadores reconocieron que la generación de un discurso similar al de las personas plantea serios problemas, sobre todo durante períodos electorales, como el que atraviesa Estados Unidos.

En ese contexto, en 2024 se han reportado varios casos de llamadas automáticas con una voz clonada similar a la del presidente Joe Biden en el país norteamericano. Otro gran problema de los sonidos sintéticos generados por inteligencia artificial es que los estafadores tendrían más acceso a cuentas bancarias.

Es que el nuevo software desarrollado por la compañía transforma texto en expresiones habladas, lo que permite, por ejemplo, la traducción de cualquier discurso a otros idiomas, sin perder los acentos nativos. OpenAI presentó un ejemplo en el cual un texto en inglés es perfectamente llevado al español, mandarín, alemán, francés y japonés, siempre manteniendo la voz original.

Por el momento, son pocas las firmas con acceso a esa tecnología: la compañía educativa Age of Learning, la plataforma de narración visual HeyGen, el fabricante Dimagi, el desarrollador Livox y el sistema de salud Lifespan. Sin embargo, desde OpenAI apuntan a la necesidad de un enfoque cauteloso y con fuertes trabajos en sus políticas de seguridad.

Qué se sabe sobre la clonación de voces de OpenAI

La empresa es una de las pioneras en el desarrollo de programas que utilicen a la inteligencia artificial como "aliado" de las personas, y es reconocida por crear ChatGPT, una de las aplicaciones que generaron un boom mundial de la IA por fuera del nicho tecnológico.

Voice Engine es capaz de crear voces “emotivas y realistas”, según describió la compañía, con una sola muestra de 15 segundos de audio de la voz original del hablante. También tiene entre sus funciones la de asistir a la lectura y, en el ámbito académico, generar respuestas personalizadas en tiempo real para interactuar con los estudiantes.

Por otro lado, es además un modelo útil para traducir contenido como videos o podcast, de manera que los creadores de contenido puedan llegar a más usuarios a nivel global en varios idiomas, pero utilizando su propia voz. Y dispone de aplicaciones terapéuticas para usuarios con afecciones que afectan al habla. Por ejemplo, para ayudar a los usuarios en el aprendizaje del habla a la hora de recuperar la voz o para permitir la comunicación de personas con discapacidad utilizando voces no robóticas y en diversos idiomas.

Pese al gran avance, desde OpenAI insistieron en darle un uso responsable y seguro a esta herramienta, motivo por el cual continuarán trabajando en mejoras de seguridad antes de lanzar Voice Engine al mercado. Lo cierto es que la clonación de pasos es un nuevo paso hacia la cercanía de las personas con la tecnología.