10 casos donde la Inteligencia Artificial jugó en contra de la diversidad

En la actualidad, la tecnología ha transformado la manera en que vivimos y nos ha brindado numerosos beneficios. Sin embargo, es importante reconocer que la tecnología también presenta desafíos en cuanto a la diversidad de género, edad y raza. A medida que avanzamos hacia un mundo cada vez más conectado, es fundamental analizar los casos en los que la tecnología ha perjudicado la inclusión y la igualdad para identificar áreas de mejora y trabajar en soluciones que fomenten la diversidad en todas las esferas de la sociedad.

A continuación, te presentamos 10 ejemplos en los que la Inteligencia Artificial ha afectado negativamente la diversidad.

1. Sesgos en sistemas de reconocimiento facial: Uno de los obstáculos más conocidos en los sistemas de reconocimiento facial son los sesgos algorítmicos. Estos sistemas han presentado dificultades para reconocer adecuadamente a personas de diferentes razas y etnias, especialmente a aquellos con tonos de piel más oscuros. Esto se debe a que los algoritmos utilizados en estos sistemas suelen basarse en conjuntos de datos desequilibrados y poco representativos, lo que resulta en un trato injusto y discriminación hacia ciertos grupos. En una oportunidad, la empresa IBM enfrentó críticas cuando su sistema de reconocimiento facial mostró un sesgo racial al tener dificultades para reconocer adecuadamente a personas de piel más oscura. Por otro lado, según un estudio realizado por el Instituto Nacional de Normas y Tecnología de los Estados Unidos (NIST), se descubrió que algunos sistemas de reconocimiento facial tenían tasas de error más altas en la identificación de personas de raza negra o asiática en comparación con las personas de raza blanca, lo que lleva a la discriminación en áreas como la seguridad, la vigilancia y la identificación.

   
   

2. Discriminación en el reclutamiento laboral: El uso de algoritmos en el proceso de selección de personal puede generar discriminación sin que seamos conscientes de ello. Algunas plataformas utilizan algoritmos para analizar currículums y seleccionar candidatos/as, pero estos algoritmos pueden estar sesgados hacia ciertos perfiles y excluir a personas de diferentes orígenes o con trayectorias no convencionales. Esto hace que se perpetúen desigualdades y se dificulte la diversidad en el lugar de trabajo. En 2018, Amazon recibió críticas por su sistema de inteligencia artificial utilizado en el reclutamiento laboral, ya que mostraba un sesgo de género al penalizar automáticamente los currículums que contenían términos relacionados con mujeres. Asimismo, algunos estudios han revelado que los algoritmos utilizados en plataformas de publicidad en línea pueden mostrar anuncios de empleo solo a un público específico, lo que excluye a las mujeres de áreas como la ingeniería o la tecnología. 

   
   

3. Sesgos en la publicidad en línea: Los algoritmos de publicidad en línea a menudo refuerzan los estereotipos de género y raza, excluyendo a ciertos grupos de oportunidades comerciales, laborales o educativas, lo que perpetúa las desigualdades y limita las opciones disponibles. Además, pueden mostrar anuncios o contenido que contribuyen a la segregación ocupacional y limitan la representación en diversas áreas, restringiendo así las oportunidades de ciertos grupos.

   
   

4. Asistentes de voz y estereotipos de género: Los asistentes de voz más populares, como Siri, Alexa y Google Assistant, a menudo tienen voces femeninas y están diseñados para responder con un tono servicial, lo que puede reforzar los estereotipos de género y perpetuar la desigualdad de género. 

   
   

5. Sesgos en los algoritmos de recomendación: Las redes sociales y plataformas en línea utilizan algoritmos para personalizar la experiencia del usuario, pero es importante tener en cuenta que estos algoritmos pueden limitar la exposición a diferentes perspectivas y crear burbujas de filtro que reafirman los prejuicios y estereotipos existentes. 

   
   

6. Discriminación algorítmica en la concesión de créditos: Los algoritmos que evalúan el crédito pueden perpetuar la exclusión financiera de ciertos grupos, impidiendo su acceso a préstamos y oportunidades económicas. Por ejemplo, se descubrió que una importante compañía de tarjetas de crédito asignaba límites de crédito más bajos a las mujeres, incluso cuando sus perfiles financieros eran similares a los de los hombres. 

   
   

7. Chatbots y atención al cliente automatizada: Los chatbots y sistemas de atención al cliente automatizados pueden perpetuar la discriminación si no se considera la diversidad y las necesidades de diferentes grupos de usuarios. Es posible que estos sistemas no tengan la capacidad de comprender acentos, empatía cultural o lidiar con situaciones que requieran sensibilidad cultural, lo que puede generar experiencias negativas para algunos usuarios.

   
   

8. Tecnologías biométricas y privacidad: Las tecnologías biométricas, como el reconocimiento facial y de huellas dactilares, pueden ser utilizadas de manera inadecuada, lo que plantea preocupaciones en cuanto a la privacidad y la discriminación. Si no se considera la diversidad y las necesidades de diferentes grupos de usuarios, estas tecnologías pueden llevar a la vigilancia masiva y la recolección de datos sensibles, lo que podría tener impactos negativos en comunidades minoritarias y grupos vulnerables.

   
   

9. Aplicaciones de citas y sesgos raciales: Las apps de citas en línea pueden ser propensas a sesgos raciales y reforzar estereotipos. Algunas de estas apps han sido criticadas por la discriminación racial presente en la elección de parejas.

   
   

10. Automatización y pérdida de empleo: La automatización puede ser una herramienta efectiva para aumentar la eficiencia y la productividad, pero también puede tener efectos negativos en la diversidad y la igualdad laboral. Según algunos estudios, los trabajadores de bajos ingresos y los mayores podrían ser los más afectados por la pérdida de empleos debido a la automatización, lo que podría empeorar las desigualdades existentes. 

    
    

Es muy importante tomar en cuenta la diversidad en todos los aspectos, y especialmente en el desarrollo de tecnología como la IA, que puede reflejar y amplificar sesgos y prejuicios presentes en los datos utilizados para entrenarla. Por eso, es esencial que los equipos que crean tecnología estén formados por colaboradores con diferentes pensamientos, identidades y formaciones, para aportar diversas perspectivas al producto o servicio. De esta manera, podremos aprovechar todo el potencial de la tecnología para construir un futuro más justo y diverso.