Google ha lanzado dos nuevas herramientas basadas en IA para detectar estafas conversacionales en dispositivos Android.
Estas nuevas funciones, detección de estafas para mensajes y llamadas, respectivamente, se presentaron en una publicación del blog de Google publicada el 4 de marzo.
Google dijo que se basan en la protección antispam tradicional diseñada para fortalecer las defensas contra las estafas de empleo y entrega, que Google seguirá implementando para los usuarios.
Sin embargo, Google afirmó que estas nuevas herramientas irán más allá, con la capacidad de detectar patrones sospechosos y enviar advertencias en tiempo real durante una conversación, todo mientras priorizan la privacidad del usuario.
Estas herramientas tienen como objetivo evitar que los usuarios sean estafados a través de estafas de texto conversacionales que comienzan de manera inocente pero manipulan gradualmente a las víctimas para que compartan datos confidenciales, entreguen fondos o cambien a otras aplicaciones de mensajería.
Los autores de la publicación, Lyubov Farafonova, gerente de productos de Google, y Alberto Pastor Nieto, gerente sénior de productos de Google, dijeron que se asociaron con instituciones financieras de todo el mundo para comprender mejor las estafas más comunes y avanzadas a las que se enfrentan sus clientes.
La primera función, Detección de estafas en Google Messages, ayuda a identificar posibles estafas en tiempo real, incluso después de recibir los mensajes iniciales.
Cuando se detectan patrones sospechosos en mensajes SMS, MMS y RCS de personas que no son contactos, los usuarios reciben una advertencia con la opción de descartar o denunciar y bloquear al remitente.
La detección de estafas está activada de forma predeterminada y todo el procesamiento de mensajes permanece en el dispositivo para proteger la privacidad del usuario. Los usuarios pueden optar por denunciar conversaciones para ayudar a reducir el correo no deseado, y solo se comparten los detalles del remitente y los mensajes recientes con Google y los operadores.
La herramienta está disponible en inglés en los EE. UU., el Reino Unido y Canadá, y pronto se ampliará a más países.
La segunda función, Scam Detection for calls, procesa el audio de las llamadas en el dispositivo para proteger la privacidad del usuario, sin grabación, almacenamiento ni uso compartido del audio o la transcripción de la conversación.
Esta función está desactivada de forma predeterminada, solo se aplica a posibles llamadas fraudulentas de personas que no son contactos y notifica a los participantes con un pitido cuando está habilitada.
Según la propia encuesta de Google, las alertas de Scam Detection ya han ayudado a las personas a ser más cautelosas y evitar ser víctimas de estafas conversacionales.
Scam Detection for calls se lanzó para los usuarios de habla inglesa de Google Phone en la versión beta pública de los teléfonos Pixel en los EE. UU. a fines de 2024.
El 5 de marzo, Google Cloud lanzó AI Protection, una nueva solución independiente de la plataforma diseñada para proteger las cargas de trabajo y los datos de IA en las nubes y los modelos.
Esta nueva solución está diseñada para permitir que los equipos de seguridad descubran el inventario de IA, protejan los activos de IA y gestionen las amenazas de IA, como la inyección rápida, el jailbreak, la pérdida de datos, las URL maliciosas y el contenido ofensivo.
Además, Google dijo que Mandiant Consultants, parte de Google Cloud, ofrecerá sus servicios para ayudar a las organizaciones a evaluar e implementar medidas de seguridad sólidas para los sistemas de IA y el trabajo en equipo para IA.