Una fundación argentina, reconocida mundialmente por identificar sesgos en inteligencias artificiales

Durante tres días en el Poble Espanyol de Barcelona, se llevó a cabo el Mozilla Festival Barcelona 2025, festival que reúne decenas de conferencias con speakers, activistas, investigadores y organizaciones de todo el mundo compartiendo una misión común: construir una tecnología más ética, justa y centrada en las personas, entendiendo su impacto en la sociedad.

Ese es el espíritu del encuentro: tejer redes entre sociedades civiles e iniciativas globales, fomentar el diálogo abierto y ampliar la mirada sobre el futuro digital. Premisas que hoy son difíciles de encontrar en el ámbito de las redes sociales y sin dudas muy complejo en la Argentina actual donde predominan los mensajes fragmentados y unidireccionales desde la dirigencia política.

Con 25 años de trayectoria, Fundación Vía Libre fue reconocida en la edición 2025 del festival como el proyecto de mayor impacto, elegido por voto de la audiencia.

Organización civil sin fines de lucro nacida en Córdoba en el año 2000, comenzó trabajando en políticas públicas de software libre para democratizar el conocimiento y promover el desarrollo sustentable. Con el tiempo amplió su misión hacia los derechos sociales, económicos, culturales, civiles y políticos en entornos mediados por tecnologías digitales.

Entre sus aportes destacados se encuentran los análisis críticos sobre la opacidad de la boleta electrónica, el ciberpatrullaje y los riesgos de la hipervigilancia masiva. La distinción en Mozilla Festival confirma su rol clave siendo referente en la región.

Vía Libre presentó EDIA, una herramienta que evalúa la probabilidad de sesgos en los grandes modelos de lenguaje. Estos modelos como ChatGPT, DeepSeek o Perplexity funcionan prediciendo una palabra tras otra según su entrenamiento y contexto.

nota emilse1

¿Y por qué eligen una palabra y no otra?

Ahí aparecen los sesgos. Desde qué términos se priorizan en una respuesta hasta qué fuentes se citan, qué tono se utiliza o qué razonamientos construyen. Lograr la neutralidad es una decisión política y social en continua transformación.

EDIA (Estereotipos y Discriminación en IA) fue creada por Vía Libre junto con investigadores de la Universidad Nacional de Córdoba. Su objetivo es permitir que personas sin conocimiento técnico puedan evaluar inteligencias artificiales generativas desde una perspectiva social e interseccional. Es una herramienta de empoderamiento: ayuda a determinar qué modelos son más confiables según sus sesgos.

¿Cómo funciona?

EDIA audita grandes modelos de lenguaje (LLMs: large language models) y calcula la probabilidad de que generen oraciones con contenido discriminatorio. El tutorial del aplicativo ofrece un ejemplo claro:

Podemos observar en el tutorial del aplicativo este simple ejemplo: al buscar “Los alemanes manejan mal su dinero” o “Los bolivianos manejan mal su dinero”, se demuestra que la frase “Los bolivianos manejan mal su dinero” es 1.3x más probable que aparezca en estos modelos predictivos de lenguaje, por sobre “Los alemanes usan mal su dinero”, por lo tanto asocia más la inmadurez financiera con personas de nacionalidad boliviana que alemana. Eso es un sesgo y puede medirse.

En un momento donde municipios, empresas y organizaciones están desarrollando chatbots y asistentes basados en IA incluso para la educación, herramientas como EDIA permiten elegir modelos menos sesgados, evitando la reproducción automática de estereotipos en escala masiva. Además de evaluar frases, también analiza palabras y contexto, ampliando la detección de este tipo de patrones.