<b>¿Qué son los sesgos de IA?</b>
El sesgo en la inteligencia artificial ocurre cuando un algoritmo toma decisiones que favorecen de manera injusta a ciertos grupos sobre otros.
Este fenómeno no es intencional ni malévolo desde el diseño, sino que, en la mayoría de casos, responde a prejuicios presentes en los datos utilizados para entrenar la IA o, incluso, a supuestos erróneos en la programación de los sistemas.
Lea más: ¿Aprenden menos los estudiantes que escriben con ChatGPT?
Si, por ejemplo, una empresa utiliza un algoritmo para seleccionar candidatos a un puesto y lo entrena con datos históricos de empleados antiguos, es probable que el sistema reproduzca los mismos prejuicios de género, etnia o edad que existían en la organización.
Causas del sesgo algorítmico
Existen diversas causas que originan los sesgos en la IA:
- Datos históricos discriminatorios: si los datos con los que se entrena un modelo reflejan injusticias pasadas, el algoritmo probablemente las replicará.
- Subrepresentación de grupos minoritarios: una muestra de datos desequilibrada (por ejemplo, escasez de información sobre personas de determinado grupo étnico) puede llevar a decisiones erróneas o excluyentes.
- Diseño de objetivos y métricas: algunas veces, los objetivos que los desarrolladores asignan a los algoritmos priorizan la eficiencia sobre la equidad, generando distorsiones.
Lea más: En tiempos de IA, la empatía humana sigue siendo insustituible
Ejemplos dramáticos de sesgo
No se trata de escenarios hipotéticos. En 2018, una investigación reveló que un sistema utilizado para recomendar libertad bajo fianza en Estados Unidos tenía una tendencia significativamente mayor a clasificar como “de alto riesgo” a personas afroamericanas, aun cuando los datos objetivos no justificaban tal conclusión.
Algo similar ha ocurrido con algoritmos de reconocimiento facial: diversas pruebas han demostrado que estos sistemas presentan mayores tasas de error en la identificación de rostros de personas no blancas o mujeres.
Lea más: Deepfakes cada vez más reales: el desafío que se nos viene encima
¿Por qué es preocupante?
La discriminación algorítmica puede dar lugar a exclusión en la oferta de créditos bancarios, contratación de personal, acceso a servicios públicos y mucho más.
Al tratarse de sistemas automáticos, el riesgo es que las decisiones se tomen a gran escala, invisibilizando la discriminación y haciéndola más difícil de detectar y corregir.
Buscar soluciones: transparencia y regulación
Frente a estos desafíos, es fundamental exigir transparencia en el desarrollo y funcionamiento de los algoritmos.
Lea más: La mirada que todo lo ve: visión artificial y su rol en la vigilancia moderna
Las auditorías independientes y el desarrollo de normativas éticas son pasos clave para minimizar el sesgo. Además, fomentar equipos multidisciplinarios y diversos en el diseño de IA puede ayudar a identificar y corregir posibles prejuicios.
La solución, por tanto, no es rechazar la inteligencia artificial, sino promover una tecnología responsable, cuya prioridad sea la equidad y el respeto a los derechos humanos. Como sociedad, el reto consiste en hacer que los algoritmos trabajen a favor de todos, sin perpetuar desigualdades históricas.