Geoffrey Hinton y Yoshua Bengio encabezan un llamado a crear un organismo internacional que supervise estándares de contención — mientras Microsoft reconoce que la IA tiene menos regulación que las lavadoras
Un grupo de 487 investigadores de inteligencia artificial publicó una carta abierta que demanda el uso de air-gapping (desconexión física de internet) como mecanismo obligatorio de contención para cualquier modelo de IA capaz de ejecutar ciberataques. Entre los firmantes figuran Geoffrey Hinton y Yoshua Bengio, dos de los referentes más citados en el campo del aprendizaje profundo. La carta propone además la creación de un nuevo organismo internacional que establezca estándares de seguridad para el desarrollo de IA y funcione como punto de reporte de fallas de contención, con el objetivo de mejorar la transparencia y la rendición de cuentas en un sector que, según el presidente de Microsoft Brad Smith, está menos regulado que la leche o las lavadoras.
Por qué los investigadores consideran insuficientes los protocolos actuales de entrenamiento
La carta sostiene que los procedimientos de seguridad vigentes para entrenar modelos de IA son inadecuados frente al riesgo que representan sistemas con capacidad de realizar ciberataques autónomos. Los firmantes plantean que los mecanismos de sandboxing actuales no ofrecen garantías suficientes de contención y que el air-gapping — la desconexión física de redes — debería ser el estándar mínimo para modelos que demuestren capacidades ofensivas en ciberseguridad. La propuesta no se limita a una recomendación técnica: exige que estos controles se implementen como requisito obligatorio, respaldado por un marco regulatorio internacional.
El llamado a mayor investigación en tecnologías de contención refleja una preocupación que ya había aparecido en una carta anterior firmada por Hinton y Bengio en octubre del año pasado, donde advertían sobre los peligros de desarrollar IA superinteligente. Aquella advertencia no frenó el ritmo de desarrollo de la industria. La nueva carta intenta ir más allá de la advertencia genérica: propone mecanismos concretos de supervisión y reporte que obliguen a los desarrolladores a documentar y notificar fallas de contención, algo que hoy no existe en ningún marco regulatorio vigente.
El organismo internacional que los firmantes quieren crear antes de que sea tarde
La carta plantea la creación de un organismo internacional que se establezca en consulta con gobiernos y especialistas en IA y seguridad. Este organismo tendría dos funciones principales: definir estándares de seguridad para el desarrollo de modelos de IA y actuar como punto centralizado de reporte de fallas de contención. La idea es que cualquier incidente en el que un modelo de IA escape de sus controles de sandboxing o demuestre capacidades no previstas en ciberataques se reporte de manera obligatoria, generando un registro público que permita aprender de los fallos y exigir responsabilidades.
El modelo propuesto se asemeja a los organismos de supervisión que existen en sectores como la aviación o la energía nuclear, donde los incidentes se documentan y analizan de forma sistemática. La diferencia es que en IA no existe hoy ningún equivalente: no hay un registro centralizado de fallas de contención, no hay estándares internacionales de seguridad para modelos con capacidades ofensivas y no hay un marco legal que obligue a reportar incidentes. La carta busca que ese vacío se llene antes de que un modelo con capacidad de ciberataque autónomo cause un incidente de escala.
La brecha entre el ritmo de desarrollo y la velocidad de la regulación
Brad Smith, presidente de Microsoft, declaró esta semana que la IA está menos regulada que las lavadoras o la leche. La afirmación resume una realidad que los firmantes de la carta conocen bien: mientras los modelos de IA avanzan en capacidades técnicas a un ritmo que se mide en meses, los marcos regulatorios se mueven en años. El parlamento del Reino Unido está examinando formas de mejorar la seguridad de la IA, pero cualquier avance enfrenta desacuerdos entre las empresas del sector, que temen que regulaciones demasiado estrictas frenen la innovación o las pongan en desventaja competitiva frente a actores en jurisdicciones menos reguladas.
La carta de los 487 investigadores no propone frenar el desarrollo de IA, pero sí exige que la seguridad y la contención dejen de tratarse como aspectos secundarios que se abordan después de que un modelo ya está en producción. La demanda de air-gapping obligatorio para modelos con capacidad de ciberataque es una línea roja técnica: si un modelo puede ejecutar ataques autónomos, no debería tener acceso a internet durante su entrenamiento ni en ninguna fase de desarrollo. Es una medida que hoy ninguna empresa de IA implementa de forma sistemática.
Qué significa esto para América Latina, donde la adopción de IA avanza sin marcos de supervisión propios
América Latina no tiene hoy ningún marco regulatorio específico para IA con capacidades ofensivas en ciberseguridad. Países como Brasil, México, Argentina y Chile están adoptando modelos de IA desarrollados en Estados Unidos, Europa y China, pero sin capacidad técnica propia para auditar si esos modelos cumplen con estándares de contención o si han sido entrenados con air-gapping. La dependencia de proveedores externos implica que cualquier falla de contención en un modelo desplegado en la región se descubriría después de que el incidente ya ocurrió, no antes.
La propuesta de crear un organismo internacional de supervisión podría beneficiar a la región si ese organismo establece estándares que los proveedores globales tengan que cumplir de forma obligatoria. Pero también expone una vulnerabilidad estructural: América Latina no tiene representación significativa en los debates sobre regulación de IA que se están dando en Europa, Estados Unidos y el Reino Unido. Si el organismo propuesto se crea sin participación activa de la región, los estándares que defina podrían no considerar las particularidades de infraestructura, capacidad técnica y riesgo geopolítico que enfrentan los países latinoamericanos al adoptar IA desarrollada en otras jurisdicciones.
Nuestro análisis
La carta de los 487 investigadores marca un punto de inflexión en el debate sobre seguridad de IA: por primera vez, un grupo numeroso de especialistas técnicos no se limita a advertir sobre riesgos abstractos, sino que propone mecanismos concretos de contención y supervisión. La demanda de air-gapping obligatorio para modelos con capacidad de ciberataque es técnicamente viable — la industria nuclear y aeroespacial ya usan desconexión física como estándar de seguridad — pero políticamente compleja, porque implica frenar el acceso a internet de sistemas que las empresas de IA entrenan con datos en tiempo real. La propuesta de un organismo internacional de supervisión enfrenta el mismo problema que cualquier intento de regulación global: requiere consenso entre actores que compiten por liderazgo tecnológico y que operan bajo marcos legales contradictorios.
Lo que la carta deja claro es que el modelo actual — donde cada empresa define sus propios estándares de seguridad y no existe obligación de reportar fallas de contención — no es sostenible. La pregunta que queda abierta es si los gobiernos y las empresas de IA van a esperar a que un modelo con capacidad de ciberataque autónomo cause un incidente de escala para actuar, o si van a implementar controles de contención antes de que eso pase.