WhatsApp está probando una nueva función de seguridad diseñada para detectar posibles estafas antes de que el usuario interactúe con ellas. La herramienta, denominada Scam Alert, utiliza inteligencia artificial para analizar determinados mensajes y mostrar una advertencia cuando identifica patrones asociados con fraudes conocidos.
La función se encuentra actualmente en fase de pruebas con un grupo limitado de usuarios. Uno de sus principales elementos es que el análisis se realiza directamente en el teléfono mediante un modelo de aprendizaje automático, sin necesidad de enviar el contenido de las conversaciones a los servidores de Meta.
La inteligencia artificial analiza los mensajes en el celular
Scam Alert está diseñada principalmente para revisar mensajes procedentes de números que el usuario no tiene guardados entre sus contactos. El sistema analiza elementos como la estructura de la conversación y determinadas características del lenguaje para identificar comportamientos que puedan estar relacionados con intentos de estafa.
Cuando el modelo detecta suficientes señales de riesgo, WhatsApp puede mostrar una advertencia dentro de la conversación. Esta alerta solamente será visible para el usuario y busca darle una oportunidad de identificar el posible fraude antes de responder, compartir información o seguir las instrucciones del remitente.
La función está pensada para combatir una modalidad de fraude cada vez más habitual en las aplicaciones de mensajería: los contactos desconocidos que intentan ganarse la confianza de una persona para después solicitar dinero, datos personales, códigos de seguridad o acceder a determinadas cuentas.
Meta asegura que los mensajes no salen del dispositivoUno de los principales aspectos de Scam Alert está relacionado con la privacidad. Meta asegura que el contenido utilizado para realizar el análisis permanece en el dispositivo y que los mensajes no son enviados a sus servidores ni a los de otras compañías.
Para conseguirlo, WhatsApp descarga en el teléfono el modelo de inteligencia artificial encargado de identificar las señales relacionadas con posibles estafas. De esta manera, el procesamiento se realiza localmente y no requiere trasladar las conversaciones a la nube.
La compañía sostiene que este diseño permite mantener el cifrado de extremo a extremo de WhatsApp. El objetivo es incorporar una nueva capa de protección sin modificar el funcionamiento de este sistema de seguridad.
El usuario tendrá el control de la funciónScam Alert será una herramienta opcional. Los usuarios podrán activarla o desactivarla desde los ajustes de WhatsApp, mientras que una conversación identificada erróneamente como sospechosa podrá marcarse como confiable.
WhatsApp también contempla una opción para compartir voluntariamente los últimos cinco mensajes recibidos con el objetivo de ayudar a mejorar la precisión del sistema. Esta alternativa no será obligatoria para utilizar Scam Alert.
Meta también afirma que ha desarrollado mecanismos para evitar que la información recopilada pueda utilizarse para identificar directamente al usuario o acceder al contenido de sus conversaciones.
Fuente: Infobae
