El sesgo de la IA ya está perjudicando a las empresas y existe un apetito significativo por una mayor regulación para ayudar a contrarrestar el problema.
Los hallazgos provienen del informe State of AI Bias de DataRobot en colaboración con el Foro Económico Mundial y líderes académicos mundiales. El informe involucró respuestas de más de 350 organizaciones de todas las industrias.
Kay Firth-Butterfield, directora de IA y aprendizaje automático en el Foro Económico Mundial , dijo:
“La investigación de DataRobot muestra lo que muchos en el campo de la inteligencia artificial saben desde hace mucho tiempo: la línea de lo que es y no es ético cuando se trata de soluciones de IA ha sido demasiado borrosa durante demasiado tiempo.
Los CIO, directores y gerentes de TI, científicos de datos y líderes de desarrollo encuestados en esta investigación entienden y aprecian claramente la gravedad y el impacto en juego cuando se trata de IA y ética”.
Un poco más de la mitad (54 %) de los encuestados tiene “profundas preocupaciones” sobre el riesgo de sesgo de la IA, mientras que un porcentaje mucho mayor (81 %) quiere más regulación gubernamental para prevenirlo.
Dada la todavía relativamente pequeña adopción de la IA en esta etapa en la mayoría de las organizaciones; hay un número preocupante que informa daños por prejuicios.
Más de un tercio (36 %) de las organizaciones experimentaron desafíos o un impacto comercial negativo directo debido al sesgo de IA en sus algoritmos. Esto incluye:
- Ingresos perdidos (62%)
- Clientes perdidos (61%)
- Empleados perdidos (43%)
- Honorarios legales incurridos debido a una demanda o acción legal (35%)
- Reputación de marca dañada/reacción negativa en los medios (6 %)
Ted Kwartler, vicepresidente de Trusted AI en DataRobot, comentó:
“El principal desafío para eliminar el sesgo es comprender por qué los algoritmos llegaron a ciertas decisiones en primer lugar.
Las organizaciones necesitan orientación cuando se trata de navegar por el sesgo de la IA y los complejos problemas adjuntos. Ha habido avances, incluidos los principios y reglamentos de IA propuestos por la UE, pero aún queda mucho por hacer para garantizar que los modelos sean justos, confiables y explicables”.
Se identificaron cuatro desafíos clave en cuanto a por qué las organizaciones están luchando para contrarrestar el sesgo:
- Comprender por qué una IA se vio obligada a tomar una decisión específica
- Comprensión de patrones entre valores de entrada y decisiones de IA
- Desarrollo de algoritmos confiables
- Determinar qué datos se utilizan para entrenar la IA
Afortunadamente, cada vez hay más soluciones disponibles para ayudar a contrarrestar/reducir el sesgo de la IA a medida que la industria madura.
“El mercado de soluciones de IA responsable se duplicará en 2022”, escribió el vicepresidente y analista principal de Forrester, Brandon Purcell, en su informe Predictions 2022: Artificial Intelligence (paywall).
“Las soluciones de IA responsable ofrecen una gama de capacidades que ayudan a las empresas a convertir los principios de IA, como la equidad y la transparencia, en prácticas coherentes. Es probable que la demanda de estas soluciones se duplique el próximo año, ya que el interés se extiende más allá de las industrias altamente reguladas hacia todas las empresas que utilizan IA para operaciones comerciales críticas”.
(Foto de Darren Halstead en Unsplash )
¿Quiere aprender más sobre IA y big data de los líderes de la industria? Echa un vistazo a AI & Big Data Expo . Los próximos eventos de la serie se llevarán a cabo en Santa Clara los días 11 y 12 de mayo de 2022, Ámsterdam los días 20 y 21 de septiembre de 2022 y Londres los días 1 y 2 de diciembre de 2022.
Explore otros próximos eventos y seminarios web de tecnología empresarial impulsados por TechForge aquí.
El sesgo posterior a la IA perjudica a más de un tercio de las empresas, el 81% quiere más regulación apareció primero en AI News .
