Après de nombreuses critiques et des rapports accusateurs sur les mécaniques de propagations des fake news (ou fausses informations) sur Twitter, la plateforme a décidé de réagir. Le réseau social de Jack Dorsey a annoncé la mise en place d'un nouveau système de lutte contre la désinformation vis-à-vis des vaccins. Twitter prévoit donc des rappels à l'ordre en cas de propagation de fausses informations, avec un bannissement des utilisateurs fautifs au bout de cinq avertissements.
Dans un communiqué publié sur son blog, Twitter explique que « Nous pensons que ce système des avertissements va aider à éduquer le public sur nos règlements et à mieux réduire la propagation d'informations potentiellement dangereuses ou trompeuses sur Twitter, notamment pour des infractions répétées, modérées ou graves. »
En décembre 2020 déjà, Twitter présentait dans sa mise à jour un système de labels, indiquant qu'un tweet pouvait contenir des informations fausses ou non vérifiées. Ces encarts visaient principalement les tweets parlant de la Covid-19 et des vaccins. Les messages dénigrant l'importance de la pandémie, propageant de fausses informations ou remettant en cause les vaccins pouvaient même être supprimés.
De fait, en trois mois, les modérateurs de Twitter ont effacé plus de 8 400 tweets et notifié quelque 11,5 millions de comptes dans le monde.
Avec son nouveau système de contrôle présenté le 1er mars, le réseau social va encore plus loin. Au premier avertissement, il n'y a pas de conséquences. Au bout du deuxième et troisième avertissement, le compte de l'utilisateur est bloqué pour 12 heures. Quatrième avertissement, sept jours de blocage. Cinq avertissements ou plus et l'utilisateur se fait bannir de la plateforme. Bien sûr, les utilisateurs qui pensent être victimes d'une erreur peuvent faire appel de la décision du réseau américain.
Un procédé similaire avait été mis en place lors des élections présidentielles américaines, ce qui avait poussé Twitter à bannir Donald Trump pour incitation à la violence et propagation de messages affirmant que le scrutin avait été truqué.
Avec la prochaine mise à jour du réseau social, nous verrons apparaître des étiquettes sur les tweets, stipulant que certains messages peuvent « contenir des informations trompeuses sur les vaccins contre le Covid-19. » De plus, Twitter prévoit de bloquer le partage de certains messages jugés trompeurs, et de proposer des liens vers des sites d'informations sur la pandémie, comme le site de l'OMS.
Pour le moment, ce sont les modérateurs de la plateforme qui jugent quels contenus sont problématiques et enfreignent le règlement ou non. Cependant, Twitter compte mettre au point su système hybride, reposant à la fois sur l'humain et l'intelligence artificielle, afin de détecter les fausses informations.
