Facebook : les difficultés de la modération en langue arabe entrainent des bévues.
Les documents internes récemment révélés par des whistleblowers, montrent que la première compagnie dans le domaine des réseaux sociaux maitrise mal la langue arabe.
Par exemple, Facebook a remarqué qu’il y a eu en apparence davantage de contenus identifiés comme apologie du terrorisme sur ses pages durant le mois du Ramadan 2019 et 2020. Une recherche approfondie montre que tout simplement des termes issus du Coran, tels que « martyr » ou « combat » ont été maintes fois répétés pendant le mois du Ramadan et ont été automatiquement associés par les algorithmes de la compagnie à des propos terroristes.
Comme les tensions entre Palestiniens et Israël étaient au plus haut en mai 2021, Instagram (qui appartient à Facebook) a interdit l’hashtag #AlAqsa, bloquant toute référence à la mosquée de Jérusalem, alors qu’ils voulaient interdire la référence aux brigades des martyrs d’Al-Aqsa, un groupe considéré comme terroriste par l’Union Européenne et les Etats-Unis.
Une des raisons de ce manque de discernement, Facebook, explique, est la complexité de la langue arabe et ses nombreux dialectes. Lost in translation, les modérateurs de Facebook apparemment n’arrivent pas à comprendre leurs utilisateurs parlant la troisième langue des réseaux sociaux, entrainant une vision incomplète de la situation politique et sociale dans les pays arabes.
« Le problème fondamental est que la plate-forme n’a jamais été construite dans l’intention de servir un jour de médiateur au discours politique de tous les pays du monde », a expliqué Eliza Campbell, directrice du Middle East Institute Cyber Program.
