Un nuevo informe del Instituto Alan Turing advierte que la investigación de IA en el Reino Unido es vulnerable a los ciberdelincuentes de estados-nación que buscan robar datos e información confidencial.
El Instituto instó al gobierno y al mundo académico a desarrollar una estrategia a largo plazo para abordar las barreras de seguridad sistémicas, culturales y estructurales, que impiden una investigación de IA eficaz.
Los investigadores señalaron que el «ecosistema de investigación de IA líder a nivel mundial» del Reino Unido es un objetivo prioritario para los actores estatales que buscan usar la tecnología con fines maliciosos.
El acceso a los conjuntos de datos confidenciales subyacentes utilizados para entrenar el modelo de IA también podría proporcionar información estratégica que influya en la planificación de la defensa y las iniciativas de inteligencia.
China, Rusia, Corea del Norte e Irán son los estados que representan la mayor amenaza para la investigación académica en IA, según el Instituto.
A pesar de estos riesgos, actualmente existen importantes limitaciones para la ciberseguridad de la investigación en IA. Estas crean oportunidades para que los actores estatales adquieran conocimiento o roben propiedad intelectual (PI).
Gran parte de esto se debe a una «tensión fundamental» entre la libertad académica y la seguridad de la investigación, según los investigadores.
Los investigadores observaron que los académicos se encuentran bajo una presión considerable para brindar transparencia sobre los datos y los métodos que utilizaron para elaborar sus hallazgos. Las revistas académicas a menudo rechazan los envíos cuando no se facilitan los datos y el código.
Estas prácticas de transparencia «incorporan una vulnerabilidad inherente a la cultura académica», ya que los actores de amenazas pueden utilizar estos datos subyacentes y las técnicas descritas con fines maliciosos.
Las colaboraciones académicas informales entre pares agravan este problema debido a la cultura de intercambio de información del ámbito académico en las etapas iniciales de la investigación, añadieron los investigadores.
El informe también concluyó que la seguridad de la investigación académica puede requerir más recursos que otras formas de diligencia debida debido a la multitud de consideraciones necesarias para comprender los riesgos potenciales.
Esto incluye la gran cantidad de departamentos gubernamentales involucrados en la seguridad de la investigación, lo que genera fricción para académicos y personal de servicios profesionales que buscan orientación.
Esta fricción ha resultado en una falta de incentivos para que los investigadores sigan las directrices de seguridad no vinculantes emitidas por el gobierno.
Otro obstáculo importante es la falta de concienciación sobre la amenaza a la seguridad de la investigación en IA dentro de la comunidad académica.
Los académicos a menudo tienen que emitir juicios personales sobre los riesgos de su investigación, lo que puede ser difícil de hacer en la práctica.
La falta de acceso a la financiación y la escasa retención del talento en el académico también introducen nuevas vulnerabilidades relacionadas con la seguridad de la investigación.
En ocasiones, los académicos se ven incentivados a aceptar financiación de fuentes dudosas o a aceptar puestos mejor remunerados en organizaciones que luego pueden explotar su conocimiento y experiencia.
Estas organizaciones podrían estar vinculadas a estados-nación con intenciones maliciosas en torno a la investigación en IA.
El informe ofreció varias recomendaciones para que el gobierno y el mundo académico del Reino Unido logren un equilibrio entre la naturaleza abierta de la investigación académica en IA y prácticas eficaces de seguridad en la investigación.
Estas incluyen:
- El gobierno debería otorgar oportunidades de financiación para actividades de seguridad en la investigación con el fin de incentivar a las instituciones a invertir en formación en seguridad en la investigación.
- El gobierno debería priorizar los esfuerzos para subsanar la falta de competencias en IA y animar a los jóvenes a asumir roles de investigación académica en el Reino Unido.
Estudios de caso de amenazas relevantes que se han interceptado o interrumpido. - El gobierno debería estandarizar los términos y condiciones de sus subvenciones, proporcionando a los investigadores mayor claridad sobre las directrices y las disposiciones legales que deben seguir.
- Todas las instituciones académicas deberían estar obligadas a impartir formación en seguridad en la investigación para el nuevo personal y los estudiantes de posgrado como requisito previo para la financiación de las subvenciones.
- El sector académico debería desarrollar un repositorio centralizado de diligencia debida para documentar los riesgos e informar la toma de decisiones sobre las colaboraciones y alianzas en la investigación en IA.
- El gobierno debería colaborar con el mundo académico y las publicaciones científicas para mitigar el sesgo hacia la publicación de investigaciones de acceso público.
- El desarrollo de comités de escrutinio en el mundo académico para ayudar a los investigadores a identificar y mitigar los riesgos.