Se ha observado que más de 57 actores de amenazas distintos con vínculos con China, Irán, Corea del Norte y Rusia utilizan tecnología de inteligencia artificial (IA) impulsada por Google para facilitar aún más sus operaciones maliciosas de información y cibernética.
«Los actores de amenazas están experimentando con Gemini para facilitar sus operaciones, encontrando ganancias de productividad pero aún no desarrollando capacidades novedosas», dijo Google Threat Intelligence Group (GTIG) en un nuevo informe. «En la actualidad, utilizan principalmente IA para investigación, resolución de problemas de código y creación y localización de contenido».
Los atacantes respaldados por el gobierno, también conocidos como grupos de amenazas persistentes avanzadas (APT), han buscado utilizar sus herramientas para reforzar múltiples fases del ciclo de ataque, incluidas las tareas de codificación y creación de scripts, desarrollo de carga útil, recopilación de información sobre objetivos potenciales, investigación de vulnerabilidades conocidas públicamente y habilitación de actividades posteriores al compromiso, como la evasión de defensa.
GTIG describió a los actores iraníes de APT como los «usuarios más intensivos de Gemini» y dijo que el grupo de piratas informáticos conocido como APT42, que representaba más del 30% del uso de Gemini por parte de los piratas informáticos del país, aprovechó sus herramientas para crear campañas de phishing, realizar reconocimientos sobre expertos y organizaciones de defensa y generar contenido con temas de ciberseguridad.
APT42, que se superpone con los grupos rastreados como Charming Kitten y Mint Sandstorm, tiene un historial de orquestar esquemas mejorados de ingeniería social para infiltrarse en redes objetivo y entornos de nube. En mayo pasado, Mandiant reveló que el actor de amenazas apuntaba a ONG, organizaciones de medios, academia, servicios legales y activistas occidentales y de Oriente Medio haciéndose pasar por periodistas y organizadores de eventos.
También se ha descubierto que el colectivo adversario investiga sistemas militares y de armas, estudia tendencias estratégicas en la industria de defensa de China y obtiene una mejor comprensión de los sistemas aeroespaciales fabricados en Estados Unidos.
Se encontraron grupos APT chinos que buscaban en Gemini formas de realizar reconocimiento, solucionar problemas de código y métodos para penetrar profundamente en las redes de las víctimas mediante técnicas como movimiento lateral, escalada de privilegios, exfiltración de datos y evasión de detección.
Mientras que los actores APT rusos limitaron su uso de Gemini para convertir malware disponible públicamente en otro lenguaje de codificación y agregar capas de cifrado al código existente, los actores norcoreanos emplearon el servicio de inteligencia artificial de Google para investigar proveedores de infraestructura y alojamiento.
El gigante tecnológico señaló que ha visto publicaciones en foros clandestinos que anuncian versiones nefastas de modelos de lenguaje grandes (LLM) que son capaces de generar respuestas sin ninguna restricción ética o de seguridad.
Entre los ejemplos de dichas herramientas se incluyen WormGPT, WolfGPT, EscapeGPT, FraudGPT y GhostGPT, que están diseñadas explícitamente para crear correos electrónicos de phishing personalizados, generar plantillas para ataques de compromiso de correo electrónico empresarial (BEC) y diseñar sitios web fraudulentos.
Los intentos de hacer un uso indebido de Gemini también han girado en torno a la investigación de eventos de actualidad y la creación, traducción y localización de contenido como parte de operaciones de influencia montadas por Irán, China y Rusia. En total, grupos APT de más de 20 países utilizaron Gemini.
Google, que dijo que está «desplegando activamente defensas» para contrarrestar los ataques de inyección rápida, ha enfatizado aún más la necesidad de una mayor colaboración público-privada para aumentar las defensas cibernéticas e interrumpir las amenazas, afirmando que «la industria y el gobierno estadounidenses deben trabajar juntos para apoyar nuestra seguridad nacional y económica».