Cuatro preguntas esenciales sobre los prejuicios de la IA


Por Hayley Pike

A medida que la IA se integra cada vez más en las empresas, también lo hace el sesgo de la IA.

El 2 de febrero de 2023, Microsoft publicó una declaración del vicepresidente y presidente Brad Smith sobre la IA responsable. A raíz de la nueva influencia de ChatGPT y Stable Diffusion, tener en cuenta la historia de los prejuicios raciales en las tecnologías de IA es más importante que nunca.

El debate en torno a los prejuicios raciales en la IA lleva años en marcha y, con él, han surgido indicios de problemas. Google despidió a dos de tus investigadores, el Dr. Timnit Gebru y la Dra. Margaret Mitchell, después de que publicaran artículos de investigación en los que se describía cómo la IA de reconocimiento facial y del lenguaje de Google tenía un sesgo en contra de las mujeres de color. Y el software de reconocimiento de voz de Amazon, Microsoft, Apple, Google e IBM identificó erróneamente el habla de personas negras en un 35%, en comparación con el 19% del habla de personas blancas.

En noticias más recientes, la empresa de tecnología DEI Textio analizó ChatGPT y demostró que se inclinaba a escribir anuncios de empleo para candidatos más jóvenes, hombres y blancos, y que el sesgo aumentaba en los anuncios de empleos más específicos.

Si está trabajando en un producto o proyecto de IA, debe tomar medidas para abordar el sesgo de la IA. Aquí tienes cuatro preguntas importantes para que tu IA sea más inclusiva:

  1. ¿Hemos incorporado evaluaciones éticas de la IA en el flujo de trabajo de producción desde el principio del proyecto? Los recursos de IA responsable de Microsoft incluyen una guía de evaluación de proyectos.
  2. ¿Estamos preparados para revelar los puntos fuertes y las limitaciones de nuestras fuentes de datos? La inteligencia artificial es tan sesgada como las fuentes de datos de las que se nutre. El proyecto debe revelar a quién priorizan los datos y a quién excluyen.
  3. ¿Es diverso nuestro equipo de producción de IA? ¿Cómo ha tenido en cuenta las perspectivas de las personas que utilizarán su producto de IA y que no están representadas en el equipo del proyecto o en la industria tecnológica?
  4. ¿Hemos escuchado a diversos expertos en IA? La Dra.Joy Buolamwini y la Dra. Inioluwa Deborah Raji, actualmente en el MIT Media Lab, son dos investigadoras negras pioneras en el campo del sesgo racial en la IA.

Rediet Adebe es informático y cofundador de Black in AI. Adebe lo resume así:

"La investigación en IA también debe reconocer que los problemas que queremos resolver no son puramente técnicos, sino que interactúan con un mundo complejo lleno de desafíos estructurales y desigualdades. Por lo tanto, es crucial que los investigadores de IA colaboren estrechamente con personas que posean formación y conocimientos especializados diversos."

Para obtener más información sobre inteligencia artificial y Machine Learning, póngase en contacto con nosotros hoy mismo. Kopius es líder en consultoría y servicios de tecnología digital nearshore.


Recursos adicionales:


Mes de la Historia de la Mujer: Hagamos que la tecnología sea más inclusiva


Por Deborah Keltner

Puede que estemos a punto de concluir el Mes de la Historia de la Mujer 2022, pero aún no hemos terminado de trabajar para que la tecnología sea inclusiva. El Mes de la Historia de la Mujer educa sobre cómo las mujeres ayudaron a dar forma a la nación y empodera a los niños presentándoles modelos históricos. También nos ha inspirado para compartir prácticas que hacen que nuestra empresa y nuestro sector sean más inclusivos para las mujeres.

Aunque el mes ha terminado, nuestro esfuerzo por introducir la igualdad de género en nuestra empresa y nuestro sector sigue en marcha.  

Las mujeres han desempeñado un papel clave en el avance de la tecnología y la informática desde su creación. Por ejemplo, la pionera de la informática Grace Hopper ideó la teoría de los lenguajes de programación independientes de la máquina, que llevó a la creación de COBOL. Y aunque las mujeres son una parte cada vez mayor de la comunidad tecnológica, persiste la desigualdad salarial y de oportunidades.

mujeres en la tecnología

Sea cual sea tu sexo, aquí tienes algunas maneras de hacer que nuestra industria sea más inclusiva y mejor para las mujeres:

Como profesional

  • Tutoría. Es importante que tanto hombres como mujeres asesoren a otras mujeres en el campo de la tecnología. Hacer saber a las mujeres y las niñas que tienen un futuro en la tecnología ayuda a aumentar el número de mujeres que siguen careers informáticas. Este pilar de apoyo puede ofrecerse a través de grupos profesionales o de forma individual. Si eres una mujer en el mundo de la tecnología, hacerte visible inspirará a otras mujeres y niñas. Y los hombres de la tecnología deben evaluar a quién buscan u ofrecen tutoría, para asegurarse de que lo hacen en igualdad de condiciones.
  • Infórmate. Lee libros y blogs para, por y sobre mujeres tecnológicas. Esta lista de lecturas contiene algunas recomendaciones estupendas. Sigue a Women in Tech en las redes sociales. Busca el hashtag #womenintech para empezar.
  • Diga lo que piensa. Señale los comportamientos no inclusivos, incluso si proceden de alguien por encima de usted en la cadena de liderazgo.
  • Evalúe tus círculos profesionales. ¿Te parece que tu red no es tan diversa como te gustaría? Empieza a entablar relaciones profesionales con mujeres y personas de color para que tu red se parezca más a tu comunidad.

Como gestor

  • Elimine los prejuicios en el proceso de contratación. Busque formas de atraer a candidatos cualificados de diversos orígenes. Nuestro equipo de contratación utiliza varias técnicas para que el proceso sea inclusivo para las mujeres, como anonimizar a los solicitantes, supervisar las descripciones de los puestos en busca de lenguaje sexista o excluyente, animar a los solicitantes a incluir tus pronombres personales y establecer recordatorios del sistema para ser inclusivos al revisar a los solicitantes o completar los comentarios de las entrevistas.
  • Puedes hacer el Compromiso de Paridad aquí.
  • La visibilidad es un grave problema al que se enfrentan muchas mujeres. A menudo se encarga a las mujeres el "trabajo invisible", como las tareas cotidianas y de mantenimiento, por lo que se les reconoce su diligencia, pero no su capacidad estratégica. Los directivos deben asegurarse de que todo el mundo tiene el mismo acceso a los proyectos estratégicos y de que a todo el mundo se le asigna por igual el trabajo invisible.
  • Abordar las diferencias salariales: las trabajadoras tecnológicas ganan entre un 10% y un 33% menos que tus homólogos masculinos, dependiendo del nivel de antigüedad. Pregunta por la equidad cuando establezcas la escala salarial de un puesto para no perpetuar la desigualdad salarial.

En el trabajo

  • Amplifica las voces de las mujeres y pon de tu parte para que se las escuche. Para amplificar la voz de una compañera que ha compartido una buena idea en una reunión, habla, nombra y da crédito a la mujer, y repite su idea.
  • Utilice un lenguaje inclusivo. Siempre que sea posible, utilice términos neutros. He aquí una guía:
tustituir estoCon este
Él, ellaEllos/ellas
De él, de ellaSu
ChicosAmigos, equipo, y'all
Señoras, señoritasMujeres, amigos, gente, todos ustedes, amigos
PresidentePresidente
El hombre, la humanidadHumanidad, género humano
Derechos adquiridosSituación heredada, preexistente
Mano derechaContrapartida, indispensable
Horas hombre, mano de obraHoras persona, horas ingeniero, nivel de esfuerzo, horas
IntermediarioMediador, enlace
LimpiezaMantenimiento, limpieza, resumen
Conectores macho o hembra/ cierresConector y receptáculo, clavija y enchufe
Man (verbo, "Yo me encargaré de la mesa")Personal, trabajo
Mano de obraMano de obra, esfuerzo humano
Pronombres preferidosPronombres, pronombres personales
Preferencia sexualOrientación sexual
Gay (como término genérico)LGBTQIA
VirgenPrimera career, primer lanzamiento

Los desafíos de la industria tecnológica dificultan el acceso de las mujeres a career en nuestro campo, e incluso una vez que las mujeres se incorporan a la tecnología, es menos probable que permanezcan en ella, tanto por la falta de modelos a seguir como porque a menudo está dominada por los hombres y es excluyente en cuanto al género. Valence trabaja para mejorar la situación de las mujeres en la tecnología y sensibilizar sobre este problema es una forma de contribuir al progreso.

¿Qué más deberíamos hacer para que la tecnología sea inclusiva? Nos encantaría saber más de quienes apoyan a las mujeres en la tecnología.

Recursos adicionales: