La Inteligencia Artificial y el riesgo de reproducir desigualdades
Dr. Víctor R. Yáñez Pereira
Director Académico de Postgrados, Universidad Autónoma de Chile
Hoy en día, la inteligencia artificial (IA) se configura como un catalizador dual en la sociedad contemporánea. Por un lado, tiene el potencial de eliminar barreras sistémicas; pero, por otro, presenta el riesgo de reproducir y amplificar desigualdades preexistentes. Esto nos lleva a entender que no se trata de una tecnología neutral; refleja tanto los avances como los sesgos de la sociedad, lo que exige un análisis riguroso de sus implicaciones éticas y sociales.
Uno de los factores que perpetúan la exclusión es la naturaleza de los datos utilizados para entrenar los algoritmos de aprendizaje automático. Estos datos, a menudo históricos, codifican prejuicios y asimetrías de poder (Unión Europea, 2021). Por ejemplo, las plataformas de generación de imágenes por IA tienden a producir resultados estereotipados, priorizando rasgos físicos occidentales y apariencias de género convencionales, mismo fenómeno que ocurre en otros ámbitos de la vida social.
En esta dinámica, la brecha digital desempeña un papel fundamental. Según el Foro Económico Mundial (2025), alrededor de 2.600 millones de personas,
-aproximadamente un tercio de la población mundial-, carecen de acceso a internet, lo que impide que los segmentos más vulnerables se beneficien de las oportunidades que ofrece la IA. Este escenario, sin duda, exacerba la desigualdad social y económica presente en las sociedades contemporáneas.
No obstante, la IA también puede ser un medio poderoso para la inclusión y la equidad, siempre que se diseñe con un enfoque ético y centrado en la condición humana. En el ámbito educativo, por ejemplo, las tecnologías adaptativas han demostrado ser efectivas al personalizar el aprendizaje y ofrecer apoyo individualizado, mejorando así el rendimiento académico de estudiantes diversos (Javed, 2024).
En este contexto, la gobernanza ética se vuelve esencial para asegurar que la tecnología contribuya a reducir disparidades y ampliar oportunidades, estableciendo estructuras, políticas y prácticas que aseguren que la IA se alinee con principios fundamentales como la integridad, la transparencia, la rendición de cuentas y el respeto por los derechos de las ciudadanías. Para lograr este objetivo, es crucial que desde la raíz del código se rompa con la subrepresentación de mujeres, minorías raciales y grupos socioeconómicos desfavorecidos en tales desarrollos.
En este contexto, las instituciones desempeñan un papel clave en la creación de políticas y regulaciones que promuevan el uso ético de esta tecnología. Esto incluye normativas que prohíban la discriminación algorítmica en el empleo, educación o el ecosistema financiero, así como la exigencia de que las organizaciones, tanto públicas como privadas, informen sobre cómo entrenan y evalúan sus algoritmos. Además, es indispensable establecer organismos independientes y con probidad estatal que supervisen el desarrollo y la implementación de estos sistemas, garantizando minimizar inequidades.
La educación sobre IA y sus implicaciones es esencial para estimular un debate informado sobre su uso, preparándonos así para enfrentar los desafíos globales que conlleva. En ese sentido, la UNESCO (2024) destaca la importancia de la cooperación para establecer estándares éticos comunes, cultivando un potencial democratizador para garantizar que la IA actúe en favor de la inclusión y no como un perpetuador de desigualdades. La mediación ética, entonces, se vuelve fundamental para acceder de manera justa a las oportunidades que ofrece la tecnología, potenciando ciudadanías reflexivas y críticas que la utilicen de manera socialmente responsable.