El auge de la inteligencia artificial (IA) en todos los sectores ha planteado un desafío crítico: ¿cómo aprovechar su potencial sin comprometer la ética, la seguridad y el cumplimiento regulatorio?

En ese contexto es que PwC Chile publicó «Equilibrando el control y la innovación. Guía para la gobernanza: El uso de COSO 2013 en la era de la IA», un documento que adapta el reconocido Marco Integrado de Control Interno Cpara enfrentar los riesgos específicos que introduce la IA.

Desde los algoritmos de recomendación hasta los sistemas de reconocimiento facial, la IA alimenta decisiones que afectan a personas y procesos críticos. Sin embargo, también puede perpetuar sesgos, exponer vulnerabilidades de seguridad y chocar con regulaciones cada vez más estrictas.

Para evitar estos peligros, PwC Chile advierte que las organizaciones deben estructurar su gobernanza de IA sobre cinco pilares consolidados:

• Entorno de control: establece valores éticos, define roles claros y responsabiliza a los líderes por los resultados de la IA.
• Evaluación de riesgos: identifica amenazas como sesgo algorítmico o manipulación de datos y evalúa su impacto.
• Actividades de control: incluye validaciones previas, límites automáticos y pruebas de sesgo para garantizar un funcionamiento within parámetros seguros.
• Información y comunicación: mantiene flujos de datos de calidad y canales claros tanto internos como externos.
• Monitoreo: realiza vigilancia continua, auditorías y reportes de deficiencias para corregir a tiempo.
  La fuerza del enfoque COSO reside en sus principios: desde la supervisión del directorio hasta la transparencia en la gestión de incidentes. En la práctica, esto significa que el consejo directivo debe recibir reportes periódicos sobre los sistemas de IA desplegados, sus objetivos SMART y las métricas de desempeño asociadas.

Escalar y documentar

La recomendación de PwC es que cualquier fallo (una decisión injusta de un modelo o un ataque adversario) debe escalarse y documentarse, reforzando la «responsabilidad humana» para decisiones críticas.

Un ejemplo ilustrativo proviene del reconocimiento facial: al detectarse altas tasas de error en grupos subrepresentados, empresas líderes rediseñaron sus conjuntos de datos para incluir rostros diversos, reduciendo así el sesgo y mejorando la confianza del usuario.

En el entorno regulatorio, la inminente Ley de IA europea impondrá requisitos más estrictos sobre aplicaciones de alto riesgo, confirmando que la adopción de COSO 2013 no es solo una buena práctica, sino una ventaja competitiva.

¿Cómo empezar hoy?

Esto propone la guía de PwC:

• Diagnóstico inicial: Evalar situación actual frente a los cinco componentes de COSO.
• Identificación de brechas: Comparar prácticas de IA con los 17 principios y priorizar áreas críticas.
• Plan de acción: Desarrollar políticas, protocolos de validación y un calendario de capacitación para líderes y equipos técnicos.
• Monitoreo continuo: Implementar paneles de rendimiento con alertas automáticas y establecer auditorías periódicas, internas y externas.

Aquí puedes leer la guía completa