Por Hayley Pike
A medida que la IA se integra cada vez más en las empresas, también lo hace el sesgo de la IA.
El 2 de febrero de 2023, Microsoft publicó una declaración del vicepresidente y presidente Brad Smith sobre la IA responsable. A raíz de la nueva influencia de ChatGPT y Stable Diffusion, tener en cuenta la historia de los prejuicios raciales en las tecnologías de IA es más importante que nunca.
El debate en torno a los prejuicios raciales en la IA lleva años en marcha y, con él, han surgido indicios de problemas. Google despidió a dos de tus investigadores, el Dr. Timnit Gebru y la Dra. Margaret Mitchell, después de que publicaran artículos de investigación en los que se describía cómo la IA de reconocimiento facial y del lenguaje de Google tenía un sesgo en contra de las mujeres de color. Y el software de reconocimiento de voz de Amazon, Microsoft, Apple, Google e IBM identificó erróneamente el habla de personas negras en un 35%, en comparación con el 19% del habla de personas blancas.
En noticias más recientes, la empresa de tecnología DEI Textio analizó ChatGPT y demostró que se inclinaba a escribir anuncios de empleo para candidatos más jóvenes, hombres y blancos, y que el sesgo aumentaba en los anuncios de empleos más específicos.
Si está trabajando en un producto o proyecto de IA, debe tomar medidas para abordar el sesgo de la IA. Aquí tienes cuatro preguntas importantes para que tu IA sea más inclusiva:
- ¿Hemos incorporado evaluaciones éticas de la IA en el flujo de trabajo de producción desde el principio del proyecto? Los recursos de IA responsable de Microsoft incluyen una guía de evaluación de proyectos.
- ¿Estamos preparados para revelar los puntos fuertes y las limitaciones de nuestras fuentes de datos? La inteligencia artificial es tan sesgada como las fuentes de datos de las que se nutre. El proyecto debe revelar a quién priorizan los datos y a quién excluyen.
- ¿Es diverso nuestro equipo de producción de IA? ¿Cómo ha tenido en cuenta las perspectivas de las personas que utilizarán su producto de IA y que no están representadas en el equipo del proyecto o en la industria tecnológica?
- ¿Hemos escuchado a diversos expertos en IA? La Dra.Joy Buolamwini y la Dra. Inioluwa Deborah Raji, actualmente en el MIT Media Lab, son dos investigadoras negras pioneras en el campo del sesgo racial en la IA.
Rediet Adebe es informático y cofundador de Black in AI. Adebe lo resume así:
"La investigación en IA también debe reconocer que los problemas que queremos resolver no son puramente técnicos, sino que interactúan con un mundo complejo lleno de desafíos estructurales y desigualdades. Por lo tanto, es crucial que los investigadores de IA colaboren estrechamente con personas que posean formación y conocimientos especializados diversos."
Para obtener más información sobre inteligencia artificial y Machine Learning, póngase en contacto con nosotros hoy mismo. Kopius es líder en consultoría y servicios de tecnología digital nearshore.
Recursos adicionales:
- Negro en AI
- ChatGPT y modelos de fundación: El futuro del trabajo asistido por IA
- ¿Qué diferencia a los modelos ChatGPT y Foundation de los modelos habituales de IA?
- Tendencias de datos: Seis formas en que los datos cambiarán en las empresas a partir de 2023
- Diseñar para el bien: Diseño equitativo
- Tipos de Machine Learning
