[Artículo escrito por Isaías Nadal Saifán para CEEII]

Los sesgos: El sueño de una inteligencia artificial (IA) objetiva e imparcial choca con un fenómeno complicado de analizar por su naturaleza inconsciente, los sesgos.

Cuando hablamos de sesgos, en cualquier actividad o disciplina humana, nos referimos a prejuicios, a concepciones de la realidad por las cuales tomamos decisiones de forma inconsciente. Los prejuicios se desprenden de la necesidad de anticiparse a la realidad para responder rápidamente, un mecanismo natural de pensamiento del ser humano. Es decir que forma parte de los mecanismos de defensa de nuestra mente primitiva, cuyo sentido es protegernos de posibles peligros en base al conocimiento previo.

Los sesgos de la IA se refieren a la presencia de prejuicios sistemáticos en los resultados generados por sistemas de IA, es decir, estos resultados reflejan los valores humanos que están implicados en el desarrollo del sistema y en la recolección y codificación de los datos utilizados para entrenar al algoritmo. Estos sesgos no son creados por la propia IA, sino que ella los adquiere de los seres humanos, tanto de los creadores como de los usuarios.

Tipos de sesgos en inteligencia artificial:

1. 1.-Sesgos de datos: si los datos utilizados para entrenar un algoritmo contienen desigualdades o reflejan prejuicios existentes en la sociedad, la IA puede aprender y perpetuar esas discriminaciones.

• 2.-Sesgos algorítmicos: ocurren durante el diseño y la implementación de los algoritmos. Pueden surgir debido a la elección de características o variables que pueden influir en la toma de decisiones y crear parcialidades no intencionadas en los resultados.
• 3.-Sesgos contextuales: resultan de la falta de comprensión del contexto en el que se utilizará la IA. Un algoritmo puede funcionar bien en un entorno específico, pero no en otros, lo que lleva a resultados parciales o erróneos.
• 4.-Sesgos de confirmación: se refieren a la tendencia de los algoritmos a favorecer o dar más peso a la información que confirma las expectativas preexistentes, lo que puede llevar a un ciclo de retroalimentación y reforzar los sesgos existentes.
• 5.-Sesgos de interpretación: surgen cuando los humanos interpretan los resultados de los modelos de IA de manera sesgada, favoreciendo información que confirma sus creencias preexistentes o malinterpretando la salida de la IA.
• 6.-Sesgos de retroalimentación: Se producen cuando las decisiones basadas en los resultados de la IA afectan el conjunto de datos utilizado para entrenarla, creando un ciclo de retroalimentación que amplifica los sesgos originales.
• 7.-Sesgos de omisión: pueden ocurrir cuando los datos utilizados para entrenar la IA no incluyen ciertos grupos o situaciones, lo que resulta en la omisión de información relevante y, por lo tanto, en decisiones parciales o inexactas.

¿Por qué los sesgos de la IA representan un peligro?

En un mundo como el de hoy, en el que utilizamos inteligencias artificiales para cada vez más tareas, la principal preocupación es el riesgo de que la IA pueda perpetuar o incluso amplificar los sesgos, socavando los avances en igualdad de derechos y en la eliminación de todas las formas de discriminación. Por ejemplo, en la actualidad muchas empresas utilizan inteligencias artificiales en la selección de aspirantes a un empleo, si estas IA están sesgadas siempre tendrán preferencia por aquellas personas que posean una determinada característica (por ejemplo, ser varón), llegando incluso a ser más determinantes para las inteligencias artificiales los sesgos que los demás requisitos exigidos por la empresa. El caso de este ejemplo puede deberse a que la IA tiene el sesgo de asociar a los varones con un tipo empleos y a las mujeres con otros. Por lo general se asocia al genero masculino a trabajos donde se requiera tomar decisiones y ejecutarlas o mandar a ejecutarlas, y a las mujeres con prestaciones de servicios, cuidado y asistencia (el típico caso del médico y la enfermera).

Lamentablemente el problema no acaba en la IA, sino que se convierte en un círculo vicioso. Podemos pensar que se solucionaría identificando los sesgos y corrigiendo a la IA (cosa que no es tarea fácil), pero una investigación llevada a cabo por las psicólogas Lucia Vicente y Helena Matute, de la Universidad de Deusto, demuestra que los seres humanos somos propensos a heredar los sesgos de la IA. El estudio consistió en un simulacro de clasificación médica en el que dos grupos de personas debían analizar muestras de tejidos y clasificarlas según si estaban “infectadas” o “sanas”. El criterio de clasificación era el color de las mismas, si mas de la mitad del tejido poseía celdas de color rosa oscuro estaba infectado, si más de la mitad era de color amarillo claro estaba sano. Un grupo de personas fue asistido por una IA, mientras que el otro lo hizo sin asistencia. El resultado final fue el siguiente: el grupo que no fue asistido por IA pudo identificar claramente cuales eran las muestras infectadas y cuales no, según el criterio dado, mientras que el grupo asistido por IA fue afectado por un sesgo proveniente de la misma, llegando a clasificar como infectadas algunas muestras que tenían un 60 por ciento de amarillo claro y un cuarenta por ciento de rosa oscuro. Pero el experimento no terminó allí, a continuación, el grupo que fue asistido por IA realizó la prueba sin asistencia. El resultado fue el esperado, ese grupo cometió los mismos errores que la IA anteriormente, clasificando como infectados aquellos tejidos que, según el criterio de clasificación, estaban sanos. Las investigadoras llegaron a la conclusión de que no solo las IA son afectadas por los sesgos, sino que los seres humanos se retroalimentan de los mismos en su interacción con las IA. 

Los sesgos de la IA y el mercado laboral: Sobran pruebas de que las IA utilizadas principalmente en empresas, pero también en algunos organismos de los Estados, tienen sesgos, y el avance tecnológico lo único que hace es profundizarlos. Esto puede provocar en un futuro cercano que gran parte de las mujeres, y demás grupos discriminados, queden fuera del mercado laboral.

En palabras de Eleonora Lamm, doctora en Bioética y Derecho: “Naciones Unidas anticipa que las mujeres perderán cinco puestos de trabajo por cada uno ganado a través de la Industria 4.0, en comparación con la pérdida de tres por cada uno ganado, entre los hombres”. También señala que la presencia de mujeres en el campo de la IA es minoritaria. A nivel global, solo el 22 por ciento de profesionales en IA son mujeres, lo cual contrasta aún más con el casi 14 por ciento de las mujeres autoras en el campo de la IA y el 18 por ciento que ocupan posiciones como oradores principales en conferencias de IA.

La IA genera riesgo de tener un impacto negativo en el empoderamiento económico de las mujeres y diversidades sexuales y de género y las oportunidades del mercado laboral al llevar a la automatización del trabajo. Una investigación reciente del Fondo Monetario Internacional y el Instituto de Investigación de Políticas de la Mujer encontró que las mujeres tienen un riesgo significativamente mayor de desplazamiento laboral debido a la automatización del trabajo en comparación a los hombres. A medida que se automatizan más trabajos de baja calificación, tener un mayor nivel de educación y habilidades será cada vez más buscado en el mercado laboral.

Datos disponibles evidencian que las mujeres hacen un uso más limitado de los dispositivos digitales y de internet. Este rezago en las habilidades digitales limita su posibilidad de obtener los beneficios que ofrece esta tecnología. Para realizar con éxito las transiciones necesarias hacia la fuerza laboral del futuro, las mujeres, diversidades sexuales y de género necesitan adquirir habilidades y competencias tecnológicas adecuadas. Es vital que tengan más influencia en la creación y uso de tecnología. Solo así podremos contribuir a la creación de un futuro igualitario que aborde las preocupaciones sobre los sesgos de género que se arrastran y se están trasladando a las nuevas tecnologías.

¿Como se podrían eliminar los sesgos? La Agencia de Aplicación de la ley de IA en la Unión Europea predice que hasta el 90 por ciento del contenido de internet podría ser creado o editado por IA para el 2026, esto significa que el impacto del sesgo no hará más que crecer si no es controlado, de ahí la importancia de encontrar una solución a este gran problema.

Los sesgos se encuentran principalmente en las bases de datos con las que se entrenan a las IA. Las bases de datos son producto de los seres humanos, por lo que la IA no hace mas que heredar sesgos propios de las personas. En principio la solución a esto debería venir desde la tecnología, realizando controles e incluyendo bases de datos diversas y representativas en el desarrollo.

Pero existen más causas de los sesgos, como la baja representatividad de las mujeres y grupos marginados en el desarrollo de estas tecnologías, y la propia interacción de los seres humanos con las IA una vez que pueden ser utilizadas por el público, por lo que la otra solución debe ser cultural y ética, haciendo uso consciente de estas herramientas e impulsando la inclusión de los grupos discriminados al mundo de la tecnología. También es importante la existencia de un ordenamiento legal preventivo y precautorio que exija determinados controles durante el desarrollo y la vida de las inteligencias artificiales. [Por Isaías Nadas Saifán]

Bibliografía: Group, M. (24 de 11 de 2023). Sesgos De La IA: ¿Cuáles Son Y Qué Consecuencias Tienen?: https://meltgroup.com/sesgos-de-la-ia/ Lamm, E. (03 de 04 de 2024). “El riesgo es que la IA perpetúe los sesgos de género”. (M. Carabajal, Entrevistador) Pagina 12. https://www.pagina12.com.ar/726000-el-riesgo-es-que-la-ia-perpetue-los-sesgos-de-genero?ampOptimize=1 Matute, L. V. (03 de 10 de 2023). Humans inherit artificial intelligence biases. Humans inherit artificial intelligence biases(15737), 13. Scientific Reports: https://doi.org/10.1038/s41598-023-42384-8 Sacristán, E. (06 de 10 de 2023). La inteligencia artificial tiene los sesgos de sus creadores, y puede transferírselos a una persona. La Nación. doi:https://www.lanacion.com.ar/tecnologia/la-inteligencia-artificial-tiene-sesgos-y-puede-transferirselos-a-una-persona-segun-un-estudio-nid06102023/?gad_source=1&gclid=Cj0KCQjwiYOxBhC5ARIsAIvdH50-oixzcnNDKKPxcalsJep8L7tK-spJr_KiJHEGALWljAGkDHOkGmkaAhOPEALw_ Sáez, C. d. (2022). Inteligencia artificial, uso de algoritmos y sesgo étnico-racial. Impacto en la comunidad gitana. FUNDACIÓN SECRETARIADO GITANO: https://informesdiscriminacion.gitanos.org/a-fondo/inteligencia-artificial-uso-de-algoritmos-y-sesgo-%C3%A9tnico-racial-impacto-en-la-comunidad?gad_source=1&gclid=Cj0KCQjwiYOxBhC5ARIsAIvdH53_SJdryWCTC7wRKeeDwUQ5OU04ZToDaStUiTYYuw5OcnZBtsaYL-saAjT8EALw_wcB