Facebook affirme que l’IA a alimenté la répression des discours de haine

Taux de détection des discours haineux sur Facebook au fil du temps

Facebook affirme qu’il détecte de manière proactive davantage de discours de haine à l’aide de l’intelligence artificielle. Un nouveau rapport sur la transparence publié jeudi offre plus de détails sur la haine des médias sociaux à la suite des changements de politique plus tôt cette année, même s’il laisse de grandes questions sans réponse.

Le rapport trimestriel de Facebook comprend de nouvelles informations sur la prévalence des discours de haine. La société estime que 0,10 à 0,11% de ce que les utilisateurs de Facebook voient enfreint les règles relatives aux discours de haine, ce qui équivaut à «10 à 11 vues de discours de haine pour 10 000 vues de contenu». Cela est basé sur un échantillon aléatoire de publications et mesure la portée du contenu plutôt que le nombre de publications, capturant l’effet de publications extrêmement virales. Il n’a cependant pas été évalué par des sources externes. Lors d’un appel avec des journalistes, le vice-président de l’intégrité de Facebook, Guy Rosen, a déclaré que l’entreprise «planifie et travaille à la réalisation d’un audit».

Facebook insiste pour qu’il supprime la plupart des discours de haine de manière proactive avant que les utilisateurs ne le signalent. Il indique qu’au cours des trois derniers mois, environ 95% des suppressions de discours de haine sur Facebook et Instagram étaient proactives.

Taux de détection des discours haineux sur Facebook au fil du temps.
Image: Facebook

C’est un bond spectaculaire par rapport à ses premiers efforts – à la fin de 2017, il n’a réalisé qu’environ 24% des démantèlements de manière proactive. Il a également accéléré les suppressions de discours de haine: environ 645000 éléments de contenu ont été supprimés au dernier trimestre de 2019, tandis que 6,5 millions l’ont été au troisième trimestre de 2020. Les groupes haineux organisés appartiennent à une catégorie de modération distincte, qui a connu une augmentation beaucoup plus faible. de 139 900 à 224 700 retraits.

Certains de ces démontages, selon Facebook, sont alimentés par des améliorations de l’IA. Facebook a lancé un concours de recherche en mai pour des systèmes capables de mieux détecter les «mèmes haineux». Dans son dernier rapport, il a vanté sa capacité à analyser du texte et des images en tandem, capturant du contenu comme la macro d’image (créée par Facebook) ci-dessous.

Macro d'image avec une tombe et le texte

Cette macro créée par Facebook illustre les discours de haine qui doivent être détectés en analysant des images à côté du texte.
Image: Facebook

Cette approche a des limites claires. Comme le note Facebook, «un nouveau discours de haine peut ne pas ressembler aux exemples précédents» car il fait référence à une nouvelle tendance ou à une nouvelle histoire. Cela dépend de la capacité de Facebook à analyser de nombreuses langues et à détecter les tendances propres à chaque pays, ainsi que de la manière dont Facebook définit le discours de haine, une catégorie qui a évolué au fil du temps. La négation de l’Holocauste, par exemple, n’a été interdite que le mois dernier.

Cela n’aidera pas nécessairement les modérateurs de Facebook, malgré les récents changements qui utilisent l’IA pour trier les plaintes. La pandémie de coronavirus a perturbé les pratiques de modération normales de Facebook, car elle ne permettra pas aux modérateurs d’examiner certains contenus très sensibles de leur domicile. Facebook a déclaré dans son rapport trimestriel que ses chiffres de retrait revenaient «aux niveaux d’avant la pandémie», en partie grâce à l’IA.

Mais certains employés se sont plaints d’être forcés de retourner au travail avant que ce soit sûr, avec 200 modérateurs de contenu signant une demande ouverte pour une meilleure protection contre les coronavirus. Dans cette lettre, les modérateurs ont déclaré que l’automatisation n’avait pas réussi à résoudre de graves problèmes. «L’IA n’était pas à la hauteur. Un discours important a été balayé dans la gueule du filtre Facebook – et le contenu à risque, comme l’automutilation, est resté « , ont-ils déclaré.

Rosen n’était pas d’accord avec leur évaluation et a déclaré que les bureaux de Facebook «satisfont ou dépassent» les exigences en matière d’espace de travail sécurisé. «Ce sont des travailleurs extrêmement importants qui font une partie incroyablement importante de ce travail, et nos investissements dans l’intelligence artificielle nous aident à détecter et supprimer ce contenu pour assurer la sécurité des personnes», a-t-il déclaré.

Les critiques de Facebook, y compris les législateurs américains, ne seront probablement pas convaincus qu’il capte suffisamment de contenu haineux. La semaine dernière, 15 sénateurs américains ont fait pression sur Facebook pour qu’il adresse des messages attaquant les musulmans du monde entier, demandant des informations plus spécifiques à chaque pays sur ses pratiques de modération et les cibles des discours de haine. Le PDG de Facebook, Mark Zuckerberg, a défendu les pratiques de modération de l’entreprise lors d’une audience au Sénat, indiquant que Facebook pourrait inclure ces données dans de futurs rapports. «Je pense que tout cela serait très utile pour que les gens puissent nous voir et nous tenir responsables de ce que nous faisons», a-t-il déclaré.

Zuckerberg a suggéré que le Congrès oblige toutes les entreprises Web à suivre l’exemple de Facebook, et la responsable de l’application des politiques, Monika Bickert, a réitéré cette idée aujourd’hui. «Alors que vous parlez de la mise en place de règlements ou de la réforme de l’article 230 [of the Communications Decency Act] aux États-Unis, nous devrions réfléchir à la manière de tenir les entreprises responsables de leurs actes sur le contenu préjudiciable avant qu’il ne soit vu par beaucoup de gens. Les chiffres du rapport d’aujourd’hui peuvent aider à éclairer cette conversation », a déclaré Bickert. « Nous pensons qu’une bonne réglementation du contenu pourrait créer une norme comme celle-là dans l’ensemble du secteur. »

  • Audevard Bonutron Stud g1-l6 Aliment Complémentaire Equilibre de la Gestation Lactation Jument granule 18kg
    La gestation et la lactation entraînent une forte augmentation des besoins nutritionnels de la jument en rapport avec le développement du poulain à naître, puis avec le niveau de production et la composition du lait. Il est donc nécessaire que les besoins en minéraux, vitamines et oligo-éléments de la jument
    363,21 €
  • Audevard Bonutron Stud g1-l6 Aliment Complémentaire Equilibre de la Gestation Lactation Jument granule 9kg
    La gestation et la lactation entraînent une forte augmentation des besoins nutritionnels de la jument en rapport avec le développement du poulain à naître, puis avec le niveau de production et la composition du lait. Il est donc nécessaire que les besoins en minéraux, vitamines et oligo-éléments de la jument
    234,18 €
  • Audevard Bonutron Senior 17+ Aliment Complémentaire Equilibre Vitalité Cheval Senior granule 1,5kg
    Chez le cheval âgé soumis à des efforts relativement modérés, les besoins en minéraux (Ca et P) et en oligo-éléments (Cu, Zn, I, Fe...) sont beaucoup moins importants que ceux des adultes plus jeunes. Il a d'autres besoins qui lui sont spécifiques. Tout l'enjeu est donc d'apporter les éléments nécessaires en
    91,85 €

Written by SasukE

Charli perd des abonnés TikTok après une vidéo virale

Charli perd des abonnés TikTok après une vidéo virale

Une carte montrant les 20 villes les plus anxieuses pour les voyages au Royaume-Uni.  Les résidents d'Aberdeen sont plus inquiets à propos des voyages après le verrouillage en raison de la pandémie

Covid: les 30 villes les plus anxieuses du Royaume-Uni révélées: Aberdeen est la plus nerveuse et Derby est la moins