قامت WhatsApp بالعديد من الإجراءات للتعامل مع حقيقة أنه يتم إستخدام منصتها لنشر المعلومات المضللة التي ثبت في بعض الحالات أنها تؤدي إلى صراعات دموية. وفي الأونة الأخيرة، قامت WhatsApp بفرض بعض القيود على ميزة إعادة توجيه الرسائل. والآن، كشفت شركة WhatsApp المملوكة من قبل الفيسبوك أنها تقوم بحظر حوالي مليوني حساب شهريًا لمكافحة إنتشار المعلومات المضللة.

كشفت الشركة في مؤتمر صحفي مؤخرًا أنها قامت بإنشاء نظام يستند على تكنولوجيا التعلم الآلي لكشف وتصنيف المستخدمين الذين يستخدمون سلوكًا محددًا مثل إنشاء حسابات متعددة وإرسال رسائل متعددة لغرض نشر محتوى غير دقيق على منصة الدردشة الأكثر إستخدامًا على مستوى العالم.

الأشخاص الذين يستخدمون منصة WhatsApp لنشر المعلومات الخاطئة والمضللة أو إنشاء حسابات مزيفة سيتم حظرهم في مراحل مختلفة. قد يتم حظرهم أثناء محاولتهم التسجيل، أو أثناء المراسلة أو عندما يتم الإبلاغ عنهم من قبل المستخدمين الآخرين.

وذكر متحدث بإسم الشركة أنه يتم حظر أكثر من 2 مليون حساب على WhatsApp شهريا. تستند القرارات على نظام التعلم الآلي الذي يستخدم البيانات التي تم توليدها بناء على التعاملات السابقة لـ WhatsApp مع الحسابات عديمة الضمير وسيناريوهات محددة إتبعها المهندسون أثناء حذف الحسابات.

وتضيف الشركة أن نظام التعلم الآلي تحسن كثيرًا لدرجة أنه أصبح قادرًا على حظر 20 في المئة من الحسابات الضارة في مرحلة التسجيل. تشمل المؤشرات الحمراء الأخرى التي يتم أخذها بعين الإعتبار عنوان IP الخاص بالمستخدم وبلد المنشأ لأرقام الهاتف المستخدمة للتسجيل وعمر الحساب وما إذا كان الحساب قد بدأ في إرسال الرسائل على نحو متسلسل بعد وقت قصير من إنشائه، فضلا عن العديد من الأشياء الأخرى.