La startup china DeepSeek, de un año de antigüedad, sorprendió al mundo cuando lanzó R1, su nuevo modelo de lenguaje grande (LLM), pero los expertos ahora están aumentando su preocupación por los riesgos que plantea.
El avance de DeepSeek es que este modelo de razonamiento, una IA entrenada con aprendizaje de refuerzo para realizar razonamientos complejos, probablemente se desarrolló sin acceso a los últimos chips de IA de Nvidia debido a las sanciones a las exportaciones.
El costo también es una consideración importante, ya que DeepSeek desarrolló R1 con mucho menos financiamiento que sus competidores con sede en EE. UU. A pesar de esto, supuestamente funciona tan bien como el o1 de OpenAI en algunos puntos de referencia de IA.
Además, el enfoque de DeepSeek es aparentemente más abierto que el de OpenAI, ya que la empresa china pone a disposición R1 desde la plataforma de desarrollo de IA Hugging Face bajo una licencia MIT. Esto significa que se puede utilizar comercialmente sin restricciones y ofrece a sus usuarios una visión entre bastidores de cómo el modelo «razona» al interactuar con él.
El éxito del modelo fue tal que la aplicación DeepSeek rápidamente encabezó la App Store de Apple, superando a ChatGPT de OpenAI, e hizo que las acciones de Nvidia se hundieran temporalmente en los mercados bursátiles.
El éxito de R1 llegó al presidente de Estados Unidos, Donald Trump, quien ha descrito a DeepSeek como una «llamada de atención» para la industria tecnológica estadounidense.
Sin embargo, otros gobiernos han advertido a sus poblaciones sobre los riesgos que plantea el LLM chino, en particular en lo que respecta a la privacidad y la protección de los datos.
Ed Husic, Ministro de Industria y Ciencia de Australia, fue uno de los primeros en expresar su preocupación por las posibles implicaciones para la seguridad nacional y la privacidad de los ciudadanos australianos.
El 28 de enero, dijo a ABC News que quedaban muchas preguntas sin respuesta en torno a DeepSeek, incluidas las relacionadas con la «gestión de datos y privacidad».
El mismo día, la Marina de los EE. UU. prohibió el uso de DeepSeek debido a «posibles preocupaciones éticas y de seguridad asociadas con el origen y el uso del modelo», según la CNBC.
También el 28 de enero, la Autoridad de Protección de Datos italiana (Garante per la protezione dei dati personali) emitió una solicitud de información a DeepSeek sobre «posibles riesgos para los datos de millones de personas en Italia».
El organismo de control también preguntó qué tipo de información se utiliza para entrenar al sistema de IA y, si se recopilan datos personales a través de actividades de raspado web, que aclare cómo se ha informado o se está informando a los usuarios suscritos y no suscritos del servicio sobre el procesamiento de sus datos.
DeepSeek debe proporcionar respuestas en un plazo de 20 días.
La BBC informó que la secretaria de prensa de la Casa Blanca, Karoline Leavitt, también está considerando las implicaciones de seguridad nacional de la aparición de DeepSeek.
Según la propia política de privacidad de DeepSeek, los datos de los usuarios que recopila la empresa emergente incluyen: Dirección IP, Patrones de pulsaciones de teclas, Sistema operativo (OS), Pago Información, Idioma del sistema, Historial de chat, incluidas las indicaciones de entrada de texto y audio, Modelo de datos del dispositivo, Información personal a través de cookies, balizas web, etiquetas de píxeles e información de pago
Además, DeepSeek afirmó que puede compartir información recopilada a través del uso del servicio con sus socios de publicidad y análisis. Estos socios también pueden compartir datos con la startup «para ayudar a relacionarlo con sus acciones fuera del servicio».
Muchos expertos en privacidad y seguridad destacaron que otros proveedores de GenAI y muchos servicios en línea recopilaban este tipo de datos.
Sin embargo, algunos de los competidores de DeepSeek imponen restricciones sobre los datos que recopilan.
Por ejemplo, la política de Google especifica que no recopila datos de conversaciones con Gemini, mientras que la política de OpenAI garantiza que el contenido del usuario no se comparte con fines de marketing y que los perfiles de usuario no se crean para la segmentación publicitaria.
Otra preocupación con respecto al manejo de los datos que DeepSeek recopila es que se almacenan en China, como lo indica la política de privacidad de la empresa.