El gobierno del Reino Unido ha anunciado un nuevo programa de investigación de seguridad de la IA que espera que acelere la adopción de la tecnología mejorando la resiliencia a los deepfakes, la desinformación, los ciberataques y otras amenazas de la IA.
La primera fase del Programa de subvenciones de seguridad sistémica del Instituto de seguridad de la IA proporcionará a los investigadores hasta 200 000 libras esterlinas (260 000 dólares) en subvenciones.
Lanzado en asociación con el Consejo de investigación en ingeniería y ciencias físicas (EPSRC) e Innovate UK, apoyará la investigación para mitigar las amenazas de la IA y los fallos sistémicos potencialmente importantes.
La esperanza es que este escrutinio científico identifique los riesgos más críticos de la llamada «adopción de IA de frontera» en sectores como la atención médica, la energía y los servicios financieros, junto con posibles soluciones que ayudarán al desarrollo de herramientas prácticas para mitigar estos riesgos.
El Programa de Subvenciones de Seguridad Sistémica respaldará en última instancia alrededor de 20 proyectos con una financiación de hasta £ 200,000 cada uno en esta primera fase. Eso es aproximadamente la mitad de los 8,5 millones de libras anunciados por el gobierno anterior en la Cumbre de IA de Seúl de mayo. Habrá fondos adicionales disponibles a medida que se inicien otras fases.
La investigación publicada en mayo reveló que el 30% de los profesionales de seguridad de la información habían experimentado un incidente relacionado con deepfake en los 12 meses anteriores, la segunda respuesta más popular después de “infección de malware”.