Facebook utilise maintenant l’IA pour trier le contenu pour une modération plus rapide

Facebook utilise maintenant l'IA pour trier le contenu pour une modération plus rapide

Facebook a toujours clairement indiqué qu’il souhaitait que l’intelligence artificielle s’acquitte de plus de tâches de modération sur ses plateformes. Aujourd’hui, il a annoncé sa dernière étape vers cet objectif: mettre l’apprentissage automatique en charge de sa file d’attente de modération.

Voici comment fonctionne la modération sur Facebook. Les publications considérées comme enfreignant les règles de l’entreprise (qui incluent tout, du spam au discours de haine et au contenu qui «glorifie la violence») sont signalées, soit par les utilisateurs, soit par des filtres d’apprentissage automatique. Certains cas très clairs sont traités automatiquement (les réponses peuvent impliquer la suppression d’un message ou le blocage d’un compte, par exemple) tandis que les autres sont placés dans une file d’attente pour examen par des modérateurs humains.

Facebook emploie environ 15 000 de ces modérateurs dans le monde et a été critiqué dans le passé pour ne pas avoir suffisamment soutenu ces travailleurs, les employant dans des conditions qui peuvent conduire à des traumatismes. Leur travail consiste à trier les messages signalés et à décider s’ils enfreignent ou non les différentes politiques de l’entreprise.

Dans le passé, les modérateurs examinaient les messages plus ou moins chronologiquement, en les traitant dans l’ordre dans lequel ils étaient signalés. Maintenant, Facebook dit vouloir s’assurer que les publications les plus importantes sont vues en premier et utilise l’apprentissage automatique pour aider. À l’avenir, un amalgame de divers algorithmes d’apprentissage automatique sera utilisé pour trier cette file d’attente, en priorisant les publications en fonction de trois critères: leur viralité, leur gravité et la probabilité qu’ils enfreignent les règles.

L’ancien système de modération de Facebook, combinant une modération proactive par des filtres ML et des rapports réactifs des utilisateurs de Facebook.
Image: Facebook

Le nouveau flux de travail de modération, qui utilise désormais l’apprentissage automatique pour trier la file d’attente des publications à examiner par des modérateurs humains.
Image: Facebook

La pondération exacte de ces critères n’est pas claire, mais Facebook affirme que l’objectif est de traiter d’abord les publications les plus dommageables. Ainsi, plus une publication est virale (plus elle est partagée et vue) plus vite elle sera traitée. La même chose est vraie de la gravité d’un message. Facebook dit qu’il classe les publications qui impliquent des dommages dans le monde réel comme les plus importantes. Cela pourrait signifier un contenu impliquant le terrorisme, l’exploitation des enfants ou l’automutilation. Les messages comme le spam, qui sont ennuyeux mais pas traumatisants, sont classés comme les moins importants pour examen.

« Toutes les violations de contenu feront toujours l’objet d’un examen humain substantiel, mais nous utiliserons ce système pour mieux prioriser [that process]», A déclaré Ryan Barnes, chef de produit au sein de l’équipe d’intégrité de la communauté de Facebook, aux journalistes lors d’un point de presse.

Facebook a partagé quelques détails sur la façon dont ses filtres d’apprentissage automatique analysent les publications dans le passé. Ces systèmes incluent un modèle nommé «WPIE», qui signifie «intégrations intégrales de la publication» et adopte ce que Facebook appelle une approche «holistique» pour évaluer le contenu.

Cela signifie que les algorithmes jugent de concert divers éléments d’un article donné, en essayant de déterminer ce que l’image, la légende, l’affiche, etc. révèlent ensemble. Si quelqu’un dit vendre un «lot complet» de «friandises spéciales» accompagné d’une photo de ce qui ressemble à des produits de boulangerie, parle-t-il de carrés ou de produits comestibles Rice Krispies? L’utilisation de certains mots dans la légende (comme «puissant») peut faire pencher le jugement dans un sens ou dans l’autre.

Facebook utilise divers algorithmes d’apprentissage automatique pour trier le contenu, y compris l’outil d’évaluation «holistique» connu sous le nom de WPIE.
Image: Facebook

L’utilisation de l’IA par Facebook pour modérer ses plates-formes a fait l’objet d’un examen minutieux dans le passé, les critiques notant que l’intelligence artificielle n’a pas la capacité d’un humain à juger du contexte de nombreuses communications en ligne. Surtout avec des sujets comme la désinformation, l’intimidation et le harcèlement, il peut être presque impossible pour un ordinateur de savoir ce qu’il regarde.

Chris Parlow de Facebook, qui fait partie de l’équipe d’ingénierie des modérateurs de la société, a convenu que l’IA avait ses limites, mais a déclaré aux journalistes que la technologie pouvait encore jouer un rôle dans la suppression du contenu indésirable. «Le système consiste à marier l’IA et des critiques humains pour faire moins d’erreurs totales», a déclaré Parlow. «L’IA ne sera jamais parfaite.»

Lorsqu’on lui a demandé quel pourcentage de publications les systèmes d’apprentissage automatique de l’entreprise classaient de manière incorrecte, Parlow n’a pas donné de réponse directe, mais a noté que Facebook ne permet aux systèmes automatisés de fonctionner sans supervision humaine que lorsqu’ils sont aussi précis que des critiques humains. «La barre de l’action automatisée est très élevée», a-t-il déclaré. Néanmoins, Facebook ajoute régulièrement plus d’IA au mélange de modération.

  • Easy Pouss Hydra Masque Démêlant et Repousse Rapide 250ml
    Easy Pouss Hydra Masque Démêlant et Repousse Rapide 250ml est un soin capillaire qui prend soin de vos cheveux bouclés et crépus. Sa formule ultra-hydratante rend les cheveux doux. Après l'avoir utilisé vos cheveux sont plus brillants et souples.
    16,90 €
  • RAPID Agrafeuse électrique R214 en coffret - RAPID - 24171201
    Agrafeuse à conception ergonomique. Utilise des agrafes en fil plat 140 de 8 à 16 mm. Paramètre d'impact réglable par puissance ciblée : plus la puissance est élevée, plus l'agrafage est fort. Action sans recul. Equilibre parfait. Fourni avec un câble de connexion de 3,5 m à fiche moulée. Excellentes
    156,11 € 305,00 € -49%
  • Abena Protection Urinaire Light Mini Plus 1A 16 unités
    Abena Protection Urinaire Light Mini Plus 1A 16 unités sont des protections à utiliser en cas d'incontinence urinaire légère et en post-grossesse. Elles ont un effet Top Dry permettant de rester au sec en améliorant l'absorption rapide du liquide et en favorisant sa répartition sur une zone plus large. Le
    2,40 €

Written by SasukE

Regardez l'annonce de Noël 2020 de John Lewis

Où acheter le parapluie coeur de John Lewis

Marvel's Spider-Man: la scène post-crédits de Miles Morales expliquée

Marvel’s Spider-Man: la scène post-crédits de Miles Morales expliquée