El informe dice además que más allá de los riesgos establecidos desde hace mucho tiempo, como el sesgo, la explicabilidad y el uso malicioso, la IA generativa conlleva otros adicionales, como alucinaciones, procedencia de los datos de entrenamiento y propiedad de los resultados. Por lo que,  que «basándose en las experiencias de las industrias de tecnología y servicios financieros, las organizaciones deben asumir seis compromisos para gestionarlos», dice.

Y detalla tres componentes clave para habilitar la nueva tecnología:

1. Aspiraciones y compromisos. Para demostrar a sus partes interesadas que serán administradores responsables, las empresas deben explicar claramente cómo pretenden gestionar los riesgos de estas nuevas tecnologías. Esto comienza con el reconocimiento de los desafíos nuevos y mejorados: que incluyen no solo cuestiones tecnológicas sino también preocupaciones sociales y de equidad, y que requieren atención, divulgación y comunicación proactivas.
2. Procesos de gobernanza, roles y tecnología. Deberán complementar los enfoques existentes con nuevas tecnologías y prácticas que aborden el ciclo de vida único de los sistemas de las soluciones de IA. Las prácticas de gobernanza y gestión de datos deberán cubrir nuevos desafíos de seguridad, privacidad y propiedad, por ejemplo. Será necesario revisar y ampliar las funciones, responsabilidades, foros y consejos para monitorear eficazmente estos nuevos sistemas y cómo se utilizan. Esto podría incluir el nombramiento de un director de ética de IA y un consejo de ética de IA.
3. Cultura. Dado el amplio impacto y el rápido avance y adopción de las tecnologías de IA generativa, se necesitará capacitación y compromiso en toda la organización que abarque su uso, así como las aspiraciones y compromisos de la organización. Al garantizar que estos esfuerzos sean iterativos, una empresa puede fomentar una cultura de vigilancia y aprendizaje que mejore continuamente su capacidad para utilizar la IA de manera responsable.

Cultura IA

Una IA exitosa requiere incorporar la responsabilidad en la cultura de la organización. Bain advierte que «las empresas bien gobernadas y de alto rendimiento garantizan que»:

• Los principios de IA responsable están arraigados en su mentalidad organizacional.
• Los líderes comprenden las capacidades existentes de la organización y sólo asumen riesgos que son capaces de gestionar y mitigar.
• Los gerentes son responsables de la colaboración interfuncional en las políticas, procesos y gobernanza para una IA responsable.
• Los miembros del equipo reciben los recursos y habilidades para utilizar las herramientas de IA de manera efectiva y responsable.
• La organización comunica, monitorea y refuerza sus compromisos de responsabilidad y mantiene un diálogo activo con sus grupos de interés sobre el equilibrio entre riesgos y beneficios.