El profesor Yoshua Bengio, pionero del aprendizaje profundo y padrino de la IA, anunció el jueves la publicación del primer informe internacional sobre seguridad de la IA del mundo, que ha concluido que «el futuro de la IA de uso general es notablemente incierto».
«Existe una amplia gama de posibles resultados incluso en el futuro cercano, incluidos tanto los muy positivos como los muy negativos, así como cualquier cosa intermedia», afirma el informe, aunque también elogia la IA de uso general por su «inmenso potencial» en campos como la educación, las aplicaciones médicas, la investigación científica avanzada y para «mejorar sustancialmente las vidas de las personas en todo el mundo».
El profesor de la Universidad de Montreal y «el científico informático más citado» publicó el anuncio el jueves X, calificándolo de «un esfuerzo a gran escala y sin precedentes de 100 expertos independientes en IA de todo el mundo, incluidos premios Nobel y ganadores del Premio Turing».
Bengio describió el libro blanco colaborativo como un resumen «del estado de la ciencia sobre las capacidades y los riesgos de la IA, y cómo mitigar esos riesgos», publicando un enlace al documento de 298 páginas.
El primer Informe internacional sobre seguridad de la IA, respaldado por 30 países y la OCDE, la ONU y la UE. El mismo, resume el estado de la ciencia sobre las capacidades y los riesgos de la IA, y cómo mitigar esos riesgos.
El informe es presentado por la Cumbre de Acción de Inteligencia Artificial, una organización global colaborativa que promueve un “diálogo internacional intenso” entre gobiernos, investigadores, empresas, profesionales creativos y la sociedad civil, todo “para garantizar que la ciencia, las soluciones y los estándares que dan forma a la inteligencia artificial” representen una visión unilateral para construir “la sociedad del mañana”.
Elogiando las diferentes perspectivas aportadas por el panel, la publicación de 16 partes de Bengio señaló que el informe se centró en responder tres preguntas principales sobre el rápido crecimiento de la IA:
El informe en sí cubre todo lo relacionado con la IA, desde cómo se desarrolla la IA de propósito general hasta los riesgos del uso malintencionado, como los ciberataques, la manipulación de la opinión pública y los ataques con armas biológicas o químicas, pasando por cuestiones de fiabilidad y riesgos sistémicos, como la brecha mundial en investigación y desarrollo, el impacto en el medio ambiente y los puntos únicos de fallo.
El «Informe científico internacional sobre la seguridad de la IA avanzada» también cubre los enfoques tecnológicos para gestionar esos riesgos, incluidos los desafíos tecnológicos y sociales para la formulación de políticas y la gestión de riesgos, así como notas sobre el ciclo de vida de la gestión de riesgos que incorpora la identificación, la evaluación, la mitigación y el seguimiento.
Bengio, presidente del panel asesor de expertos de la Cumbre de Acción de la IA, señaló en el prólogo del informe hasta qué punto han aumentado las capacidades de la IA de propósito general desde que la organización se comprometió a crear el informe en la primera Cumbre de Seguridad de la IA del mundo en Bletchley Park en noviembre de 2023.
“Las capacidades de las capacidades avanzadas de la IA han seguido creciendo. «Sabemos que esta tecnología, si se desarrolla y se utiliza de forma segura y responsable, ofrece oportunidades extraordinarias: hacer crecer nuestras economías, modernizar nuestros servicios públicos y mejorar la vida de nuestra gente», escribió Bengio.
«Para aprovechar estas oportunidades, es imperativo que profundicemos nuestra comprensión colectiva de cómo se puede desarrollar la IA de forma segura», dijo Bengio.
Los modelos de IA de propósito general han experimentado un rápido aumento del rendimiento a la hora de responder a preguntas científicas de nivel de doctorado. Este gráfico muestra que las capacidades del sistema de IA de propósito general se pueden aumentar significativamente si se dedica más tiempo y cálculo a cada problema individual. Imagen de AI Safety Report. Fuente: Epoch AI, 2024
El panel de expertos de 98 personas incluye colaboradores de 30 países, las Naciones Unidas, la Unión Europea y la Organización para la Cooperación y el Desarrollo Económicos (OCDE), una organización internacional sin fines de lucro que desarrolla estándares de políticas para promover el crecimiento económico y el comercio entre naciones.
El padrino de la IA y ganador del Premio Nobel de Física 2024, Geoffrey Hinton, también figura como asesor principal del artículo, mientras que el trabajo del tercer padrino de la IA reconocido del mundo, el científico jefe de IA de Meta, Yann LeCun, también se menciona en el Informe de seguridad de la IA.
«La IA sigue siendo un campo en rápida evolución. Para seguir este ritmo, los responsables políticos y los gobiernos deben tener acceso a la comprensión científica actual sobre los riesgos que podría plantear la IA avanzada», dijo Bengio.
«La IA no sucede. Para nosotros, las decisiones que toman las personas determinan su futuro”, afirma el informe.