AXA XL y S-RM, consultora especializada en inteligencia y ciberseguridad, han elaborado y publicado el informe 'Building Resilient AI: Managing AI risk through governance, security and resilience', que se puede traducir como 'Construyendo una IA resiliente: gestión de riesgos de la IA mediante la gobernanza, la seguridad y la resiliencia'.

Una de las principales conclusiones que se extrae de este informe es que la IA se está integrando en los procesos empresariales críticos a una gran velocidad, que es superior al ritmo al que las organizaciones están adaptando sus capacidades de gobernanza, seguridad y respuesta ante incidentes. Por tanto, los promotores de este estudio instan a los líderes empresariales a tratar el riesgo de la IA como una cuestión de resiliencia empresarial, en lugar de considerarlo únicamente un problema tecnológico o de cumplimiento regulatorio.

Además, los autores de este informe han identificado 5 prioridades que tienen que tener en cuenta los líderes empresariales: establecer una responsabilidad clara respecto a la IA en toda la empresa, incluyendo implementaciones formales, funciones de software integradas y la 'IA en la sombra'; proteger los datos sensibles y reforzar los controles de identidad y acceso a medida que los sistemas de IA se vuelven más autónomos; gestionar el riesgo de la IA a lo largo de todo su ciclo de vida, desde la recopilación de datos y el desarrollo de modelos hasta la implementación, la supervisión y la respuesta ante incidentes; aplicar una gobernanza rigurosa y la debida diligencia a los proveedores de IA y otros terceros críticos; y prepararse para escenarios de pérdidas relacionadas con la IA que puedan afectar a las áreas de ciberseguridad, fraude, responsabilidad civil, interrupción del negocio y otras áreas de cobertura de seguros.

"La IA está pasando de la fase experimental a los sistemas y procesos en los que las organizaciones confían a diario, pero la gobernanza no siempre sigue el ritmo", ha afirmado Jonathan Salter, Head of Risk Consulting de AXA XL, que ha añadido: "Las organizaciones mejor posicionadas para aprovechar el valor de la IA serán aquellas que sepan dónde se está utilizando, comprendan las consecuencias empresariales cuando falle e incorporen seguridad y resiliencia en su implementación desde el principio".

Por su parte, Rebiah Bardot-Girard, Head of Cyber Risk Consulting Services de AXA XL, ha subrayado: "El riesgo de la IA rara vez surge de forma aislada". Y precisa: "Amplifica las debilidades existentes en la gestión de identidades, la gobernanza de datos, la supervisión de proveedores y la preparación ante incidentes. Hacer un inventario práctico de dónde se usa la IA, a qué datos puede acceder y dónde puede tomar decisiones o influir en ellas es ahora un punto de partida fundamental para la resiliencia".

Si quiere recibir diariamente y GRATIS noticias como esta, pinche aquí.