La principal agencia de seguridad del Reino Unido, ha publicado una nueva guía diseñada para ayudar a los desarrolladores y a otras personas a erradicar y corregir las vulnerabilidades de los sistemas de aprendizaje automático (ML).
El Centro Nacional de Ciberseguridad (NCSC) del GCHQ ha reunido sus Principios para la seguridad del aprendizaje automático para cualquier organización que quiera mitigar un posible aprendizaje automático adverso (AML).
Los ataques de AML explotan las características únicas de los sistemas de ML o de IA para lograr diversos objetivos. El AML se ha convertido en una preocupación más apremiante a medida que la tecnología se abre camino en una gama cada vez más crítica de sistemas, apuntalando la atención médica, las finanzas, la seguridad nacional y más.
«En su base, la seguridad del software se basa en la comprensión de cómo funciona un componente o sistema. Esto permite al propietario de un sistema comprobar y evaluar las vulnerabilidades, que luego pueden mitigarse o aceptarse», explicó la directora de investigación de ciencia de datos del NCSC, Kate S.
«Por desgracia, es difícil hacer esto con el ML. El ML se utiliza precisamente porque permite a un sistema aprender por sí mismo cómo obtener información de los datos, con una supervisión mínima de un desarrollador humano. Dado que la lógica interna de un modelo depende de los datos, su comportamiento puede ser difícil de interpretar, y a menudo es un reto (o incluso imposible) entender completamente por qué está haciendo lo que está haciendo.»
Por ello, los componentes de ML no han tenido históricamente el mismo nivel de escrutinio que los sistemas normales, y por ello pueden pasarse por alto las vulnerabilidades, añadió.
«En el NCSC, reconocemos los enormes beneficios que una buena ciencia de los datos y el ML pueden aportar a la sociedad, sobre todo en la propia ciberseguridad», concluyó Kate S. «Queremos asegurarnos de que esos beneficios se realicen, de forma segura y protegida».