Li malgrat qui li pesi, WhatsApp s'ha convertit en la plataforma de missatgeria més utilitzada en tot el món, sent en alguns països l'única via de comunicació, tant per enviar missatges com per realitzar trucades telefòniques. Tot i donar la sensació que darrere de la plataforma no hi ha pràcticament ningú vigilant, la realitat és molt diferent.
Segons afirma la companyia, WhatsApp bloqueja tots els mesos al voltant de 2 milions de comptes de la seva plataforma. Tres de cada quatre comptes són identificades com a problemàtiques de forma automàtica pel sistema sense intervenció humana, el 20% d'elles durant la fase de registre a la plataforma. WhatsApp ha compartit algunes de les eines que utilitza per detectar comptes dubtoses.
WhatsApp afirma que tant el correu brossa com el phishing són un gran problema per a l'empresa. Per tractar de reduir aquest gran problema, la companyia utilitza una combinació d'Intel·ligència Artificial i senyals específiques per detectar-los.
Un sistema d'aprenentatge automàtic utilitza els patrons habituals que s'han detectat prèviament en comptes problemàtiques i els compara amb escenaris específics. El sistema d'aprenentatge automàtic que han desenvolupat els enginyers de WhatsApp ha arribat a un nivell de sofisticació que li permet automàticament no validar el 20% dels comptes en el moment de realitzar el registre.
Com amb qualsevol plataforma de comunicació, de vegades la gent intenta explotar el servei per distribuir enllaços clic-bait dissenyador per capturar informació personal o tractar d'implementar idees falses entre els usuaris. Independentment de la intenció, la missatgeria automatitzada i massiva viola els termes de el servei i és una principals prioritats de la companyia és prevenir i aturar aquest tipus d'abús.
Els principals factors que la companyia té en compte a l'hora d'eliminar comptes són:
- Si l'adreça IP i el número de telèfon apunten al mateix país.
- Quants missatges envia un compte
- El temps transcorregut des de la creació del compte i el volum que arriba en aquest temps.
