El gobierno del Reino Unido ha anunciado un nuevo Código de prácticas de IA que, según afirma, formará la base de un estándar global para proteger la tecnología, a través del Instituto Europeo de Normas de Telecomunicaciones (ETSI).
Publicado el viernes como un código de prácticas voluntario, junto con una guía de implementación, se desarrolló en estrecha colaboración con el Centro Nacional de Seguridad Cibernética (NCSC) y varias partes interesadas externas.
Los 13 principios del código cubren los aspectos de diseño seguro, desarrollo, implementación, mantenimiento y fin de vida del ciclo de vida de la IA. Afectan a los proveedores de software que desarrollan IA, utilizan IA de terceros y la ofrecen a los clientes, así como a las organizaciones regulares que crean sus propios servicios y componentes de IA o utilizan servicios y componentes de IA proporcionados externamente.
El código no se aplicará a los proveedores de inteligencia artificial que ofrecen o venden modelos y componentes, pero no participan en su desarrollo o implementación. Estas entidades estarán regidas por un Código de Prácticas de Software y un Código de Gobernanza Cibernética independientes, afirmó el gobierno.
Lea más sobre las iniciativas de seguridad de la IA del gobierno: El gobierno del Reino Unido lanza un plan de seguridad de la IA para abordar las falsificaciones profundas
Los principios son los siguientes:
- Concientizar sobre las amenazas y los riesgos de seguridad de la IA mediante la capacitación del personal.
- Diseñar sistemas de IA para la seguridad, la funcionalidad y el rendimiento.
- Evaluar/modelar las amenazas y gestionar los riesgos relacionados con el uso de la IA.
- Permitir la responsabilidad humana por los sistemas de IA.
- Identificar, rastrear y proteger los activos, incluidas las interdependencias/conectividad.
- Proteger la infraestructura, incluidas las API, los modelos, los datos y las canalizaciones de capacitación y procesamiento.
- Proteger la cadena de suministro de software.
- Documentar los datos, los modelos y las indicaciones con un registro de auditoría claro del diseño del sistema y los planes de mantenimiento posteriores a la implementación.
- Realizar pruebas y evaluaciones adecuadas.
- Implementar de forma segura, incluidas las pruebas previas a la implementación y la información para los usuarios finales sobre cómo se utilizarán, accederán y almacenarán sus datos, y cómo utilizar, gestionar, integrar y configurar de forma segura la IA.
- Mantener actualizaciones de seguridad, parches y mitigaciones periódicas.
- Monitorear el comportamiento del sistema con registros de acciones del sistema y del usuario para respaldar el cumplimiento de la seguridad, las investigaciones de incidentes y la remediación de vulnerabilidades.
La medida se produce solo un mes después de que el gobierno anunciara planes para penalizar la creación de deepfakes sexualmente explícitos.