Se ha revelado una falla de seguridad de alta gravedad en el marco del modelo de lenguaje grande (LLM) Llama de Meta que, si se explota con éxito, podría permitir a un atacante ejecutar código arbitrario en el servidor de inferencia de llama-stack.
La vulnerabilidad, identificada como CVE-2024-50050, ha recibido una puntuación CVSS de 6,3 sobre 10,0. La empresa de seguridad de la cadena de suministro Snyk, por otro lado, le ha asignado una calificación de gravedad crítica de 9,3.
La falla, según la empresa de seguridad en la nube, reside en un componente llamado Llama Stack, que define un conjunto de interfaces API para el desarrollo de aplicaciones de inteligencia artificial (IA), incluido el uso de los propios modelos Llama de Meta.
Específicamente, tiene que ver con una falla de ejecución de código remoto en la implementación de la API de inferencia de Python de referencia, que se descubrió que deserializa automáticamente los objetos de Python usando pickle, un formato que se ha considerado riesgoso debido a la posibilidad de ejecución de código arbitrario cuando se cargan datos no confiables o maliciosos usando la biblioteca.
Después de la divulgación responsable el 24 de septiembre de 2024, Meta abordó el problema el 10 de octubre en la versión 0.0.41. También se ha solucionado en pyzmq, una biblioteca de Python que proporciona acceso a la biblioteca de mensajería ZeroMQ.
En un aviso emitido por Meta, la empresa dijo que solucionó el riesgo de ejecución remota de código asociado con el uso de pickle como formato de serialización para la comunicación por socket al cambiar al formato JSON.
Esta no es la primera vez que se descubren vulnerabilidades de deserialización de este tipo en los marcos de IA. En agosto de 2024, Oligo detalló una «vulnerabilidad oculta» en el marco Keras de TensorFlow, una omisión de CVE-2024-3660 (puntuación CVSS: 9,8) que podría resultar en la ejecución de código arbitrario debido al uso del módulo marshal inseguro.
El desarrollo se produce cuando el investigador de seguridad Benjamin Flesch reveló una falla de alta gravedad en el rastreador ChatGPT de OpenAI, que podría usarse como arma para iniciar un ataque de denegación de servicio distribuido (DDoS) contra sitios web arbitrarios.
El problema es el resultado de un manejo incorrecto de las solicitudes HTTP POST a la API «chatgpt[.]com/backend-api/attributions», que está diseñada para aceptar una lista de URL como entrada, pero no verifica si la misma URL aparece varias veces en la lista ni impone un límite en la cantidad de hipervínculos que se pueden pasar como entrada.
Esto abre un escenario en el que un actor malintencionado podría transmitir miles de hipervínculos dentro de una sola solicitud HTTP, lo que provocaría que OpenAI envíe todas esas solicitudes al sitio víctima sin intentar limitar la cantidad de conexiones o evitar la emisión de solicitudes duplicadas.
Dependiendo de la cantidad de hipervínculos transmitidos a OpenAI, proporciona un factor de amplificación significativo para posibles ataques DDoS, abrumando efectivamente los recursos del sitio objetivo. Desde entonces, la empresa de inteligencia artificial ha solucionado el problema.
La revelación también sigue a un informe de Truffle Security que indica que los asistentes de codificación populares impulsados por IA «recomiendan» codificar claves API y contraseñas, un consejo arriesgado que podría inducir a error a los programadores inexpertos a introducir debilidades de seguridad en sus proyectos.
Las noticias sobre vulnerabilidades en los marcos LLM también siguen a la investigación sobre cómo podrían abusarse de los modelos para potenciar el ciclo de vida del ciberataque, incluida la instalación de la carga útil del ladrón de la etapa final y el comando y control.