WhatsApp está probando una nueva capa de seguridad que utiliza inteligencia artificial para detectar patrones asociados a posibles estafas sin necesidad de enviar el contenido de las conversaciones a los servidores de Meta.
📌 En resumen
- Scam Alert analiza mensajes sospechosos directamente en el dispositivo.
- El sistema busca patrones asociados a posibles estafas en conversaciones con números desconocidos.
- Meta utiliza técnicas de privacidad para obtener métricas agregadas sin acceder al contenido analizado.
- La función está en una beta limitada y WhatsApp permite consultar la actividad del sistema.
WhatsApp ha comenzado a probar Scam Alert, una nueva función de seguridad basada en inteligencia artificial que busca identificar posibles ciberestafas antes de que el usuario pueda caer en ellas. El sistema está diseñado para analizar determinados mensajes directamente en el teléfono, evitando que el contenido de las conversaciones tenga que enviarse a los servidores de Meta.
La función se encuentra actualmente en una beta limitada y está especialmente orientada a mensajes procedentes de personas que no forman parte de los contactos del usuario. Es precisamente en este tipo de comunicaciones donde suelen comenzar campañas de falsas ofertas de empleo, inversiones, premios, problemas con cuentas o intentos de suplantación.
Scam Alert lleva el análisis de estafas al propio teléfono
Cuando el usuario activa Scam Alert, WhatsApp descarga en el dispositivo un modelo ligero de aprendizaje automático. Este modelo analiza los mensajes y busca estructuras conversacionales y patrones lingüísticos que puedan estar relacionados con intentos de fraude.
La diferencia fundamental frente a un sistema basado en servidores está en dónde se produce el análisis. Según Meta, el contenido utilizado durante la clasificación permanece en el dispositivo y no necesita abandonar el teléfono para determinar si una conversación presenta señales sospechosas.
WhatsApp tampoco informa automáticamente a Meta o a terceros sobre el contenido detectado. La información puede compartirse cuando el propio usuario realiza una acción que implica comunicarla, como reportar una conversación.
Qué ocurre cuando la IA detecta una posible estafa
Si Scam Alert encuentra características que considera sospechosas, WhatsApp muestra una advertencia dentro de la conversación. El objetivo es introducir una última capa de protección antes de que el usuario continúe interactuando con el remitente.
A partir de ese aviso, el usuario mantiene el control sobre la decisión. Puede bloquear al remitente, reportar el chat, continuar la conversación o marcarla como confiable.
Si una conversación se marca como confiable, Scam Alert deja de mostrar advertencias para ese chat concreto. Esto permite evitar que una detección preventiva se convierta en una interrupción permanente cuando el usuario conoce al interlocutor o considera legítimo el contenido.
La IA busca patrones habituales en las estafas
Scam Alert está pensado especialmente para comunicaciones procedentes de números desconocidos. Este escenario tiene especial interés para la seguridad porque muchas campañas de fraude comienzan con un contacto inesperado que intenta generar confianza progresivamente.
El contenido puede presentar una supuesta oportunidad de trabajo, una inversión con beneficios rápidos, un premio, un problema con una cuenta o cualquier otro pretexto destinado a conseguir que la víctima continúe la conversación y termine realizando una acción.
El modelo no necesita determinar que un mensaje constituye una estafa con certeza absoluta. Su función es identificar señales que puedan justificar una advertencia y permitir que el usuario tome una decisión antes de seguir adelante.
Meta quiere medir el sistema sin acceder a los chats
Uno de los retos de este sistema consiste en evaluar si las detecciones funcionan correctamente sin convertir el análisis local en una nueva fuente de recopilación de datos personales.
Meta utiliza para ello mecanismos de telemetría orientados a preservar la privacidad. La compañía puede obtener estadísticas agregadas sobre factores como el número de advertencias generadas y las decisiones tomadas posteriormente por los usuarios.
Para reducir la posibilidad de asociar esos datos con una persona concreta, la arquitectura incorpora técnicas como privacidad diferencial y umbrales de k-anonimato. También se utilizan Trusted Execution Environments, conocidos como TEE, para aislar determinados procesos.
Las métricas individuales se eliminan después de incorporarse a los datos estadísticos agregados. De esta manera, Meta puede estudiar el funcionamiento general de la protección sin necesitar recopilar las conversaciones que el modelo ha analizado.
WhatsApp también protege el propio modelo de IA
La privacidad no termina en el análisis de los mensajes. La distribución del modelo introduce otro posible vector de ataque.
Un atacante que consiguiera controlar la infraestructura de distribución podría intentar proporcionar una versión manipulada del modelo a una única víctima. Para dificultar este tipo de ataques, Meta identifica cada versión mediante un hash SHA-256 y registra esa información en un sistema público de transparencia antes de distribuirla.
El proceso también utiliza una firma proporcionada por Cloudflare. Además, las peticiones para descargar los modelos pasan por relés Oblivious HTTP, conocidos como OHTTP, junto con credenciales anónimas.
Esta arquitectura busca impedir que el servidor pueda determinar qué usuario concreto está solicitando una versión determinada del modelo. La asignación de participantes a los diferentes grupos experimentales también se realiza localmente mediante valores aleatorios generados en el propio dispositivo.
Los usuarios podrán revisar qué ha hecho Scam Alert
WhatsApp también quiere ofrecer una cierta capacidad de auditoría sobre las decisiones tomadas por el sistema. Los participantes de las pruebas podrán consultar la actividad de Scam Alert desde la ruta Cuenta > Solicitar información > Actividad de Scam Alert.
En ese apartado podrán aparecer los mensajes analizados, los resultados de las clasificaciones y la versión del modelo utilizada. Así, el usuario podrá comprobar cuándo intervino la función y qué decisión tomó el sistema de inteligencia artificial.
La privacidad será la clave de esta nueva protección
Scam Alert plantea una combinación interesante: utilizar inteligencia artificial para analizar conversaciones potencialmente peligrosas sin convertir ese análisis en una razón para centralizar los mensajes en los servidores de Meta.
El procesamiento local reduce la necesidad de transmitir el contenido, mientras que las técnicas de privacidad y los mecanismos de transparencia intentan limitar otros riesgos asociados a la medición y distribución del modelo.
La principal incógnita está ahora en la eficacia real del sistema. Detectar patrones habituales puede ayudar a frenar muchas campañas, pero también existe el riesgo de falsos positivos o de que los estafadores adapten su lenguaje para evitar las señales utilizadas por el modelo.
Por ahora, WhatsApp mantiene Scam Alert como una prueba limitada. Si los resultados de esta fase son satisfactorios, la función podría convertirse en una nueva capa de protección frente a uno de los problemas más difíciles de combatir en las plataformas de mensajería: las estafas que empiezan con una conversación aparentemente inocente.
