Facebook elimina 6.500 millones de cuentas falsas al año

Facebook ha presentado oficialmente una nueva Inteligencia Artificial (IA) denominada Deep Entity Classification («Clasificación de Entidades Profundas»), que ya lleva más de un año empleando y con la que ha logrado identificar y eliminar 6.500 millones de cuentas falsas a lo largo de 2019, según se recoge en su último Informe de Transparencia.

¿Cómo funciona la Deep Entity Classification? Al contrario que los modelos anteriores de IA que empleaba, que solo tenían en cuenta el número de contenidos publicados desde una misma IP, el nuevo modelo de aprendizaje automático tiene en cuenta el contexto de la cuenta y evalúa toda la información circundante, incluida la antigüedad, el comportamiento de los amigos, los «Me Gusta» y las páginas con las que interactúa la cuenta sospechosa. En el caso de los grupos, también se tiene en cuenta el número de administradores y sus perfiles.

Una vez que la IA ejecuta su algoritmo para determinar si la cuenta es normal, spam o de phishing, Facebook toma el patrón estadístico y lo introduce en un segundo módulo, en el que un árbol de decisión califica cada cuenta para las mismas categorías: spam, cuenta falsa, phishing, bullying, etc., aunque basándose en un conjunto más reducido de datos etiquetados a través de revisores «humanos».

Tras este doble escaneado, Facebook determina si tomará medidas contra las cuentas que hayan sido etiquetadas como falsas. Según datos ofrecidos por Facebook, este sistema es un 97% más preciso que sus anteriores algoritmos basados en Inteligencia Artificial a la ahora de descubrir cuentas falsas.

Además, como el sistema no es infalible, si una cuenta es eliminada sin ser falsa, el usuario puede iniciar un proceso de apelación que ofrece la oportunidad al propietario de responder y solicitar que se restablezca la cuenta.

Facebook realiza borrados de cuentas falsas periódicamente. De hecho, hace sólo unos días se detectó una importante caída del número de «Me Gustas» en numerosas Páginas en Facebook, posiblemente motivado por la eliminación de cuentas falsas. Al ser borradas éstas, también se perdieron sus «likes».