El gobierno de Estados Unidos ha presentado nuevas directrices de seguridad destinadas a reforzar la infraestructura crítica contra amenazas relacionadas con la inteligencia artificial (IA).
«Estas directrices se basan en el esfuerzo de todo el gobierno para evaluar los riesgos de la IA en los dieciséis sectores de infraestructura críticos y abordar las amenazas tanto hacia como desde los sistemas de IA, y que involucran a estos», dijo el lunes el Departamento de Seguridad Nacional (DHS).
Además, la agencia dijo que está trabajando para facilitar el uso seguro, responsable y confiable de la tecnología de una manera que no infrinja la privacidad, los derechos civiles y las libertades civiles de las personas.
La nueva guía se refiere al uso de la IA para aumentar y escalar los ataques a infraestructuras críticas, la manipulación adversa de los sistemas de IA y las deficiencias en dichas herramientas que podrían tener consecuencias no deseadas, lo que requiere la necesidad de transparencia y prácticas de diseño seguras para evaluar y mitigar la IA. riesgos.
Específicamente, esto abarca cuatro funciones diferentes, como gobernar, mapear, medir y gestionar, que cubren diferentes aspectos del ciclo de vida de la IA:
Establecer una cultura organizacional de gestión de riesgos de IA.
Comprenda su contexto de uso individual de IA y su perfil de riesgo
Desarrollar sistemas para evaluar, analizar y rastrear los riesgos de la IA.
Priorizar y actuar sobre los riesgos de la IA para la seguridad y la protección
«Los propietarios y operadores de infraestructuras críticas deben tener en cuenta su propio uso de la IA en cada sector y contexto al evaluar los riesgos de la IA y seleccionar las mitigaciones adecuadas. Además, deben comprender dónde existen estas dependencias de los proveedores de IA y trabajar para compartir y delinear las responsabilidades de mitigación en consecuencia», dijo la agencia.
«Los propietarios y operadores de infraestructuras críticas deben comprender dónde existen estas dependencias de los proveedores de IA y trabajar para compartir y delinear las responsabilidades de mitigación en consecuencia».
El desarrollo llega semanas después de que la alianza de inteligencia Five Eyes (FVEY), compuesta por Australia, Canadá, Nueva Zelanda, el Reino Unido y los EE. UU., publicara una hoja de información de ciberseguridad en la que se señala la cuidadosa instalación y configuración requerida para implementar sistemas de IA.
Las mejores prácticas recomendadas incluyen tomar medidas para proteger el entorno de implementación, revisar el origen de los modelos de IA y la seguridad de la cadena de suministro, garantizar una arquitectura sólida del entorno de implementación, reforzar las configuraciones del entorno de implementación, validar el sistema de IA para garantizar su integridad, proteger los pesos de los modelos, hacer cumplir estrictos controles de acceso, realizar auditorías externas e implementar registros sólidos.
No cumplir con medidas de seguridad sólidas puede tener consecuencias graves, permitiendo a partes infames organizar ataques de inversión de modelos y corromper modelos de IA con el objetivo de alterar deliberadamente el comportamiento esperado de tal manera que pueda desencadenar impactos en cascada.