Facebook utilise maintenant l’IA pour trier le contenu pour une modération plus rapide

Facebook utilise maintenant l'IA pour trier le contenu pour une modération plus rapide

Facebook a toujours clairement indiqué qu’il souhaitait que l’intelligence artificielle s’acquitte de plus de tâches de modération sur ses plateformes. Aujourd’hui, il a annoncé sa dernière étape vers cet objectif: mettre l’apprentissage automatique en charge de sa file d’attente de modération.

Voici comment fonctionne la modération sur Facebook. Les publications considérées comme enfreignant les règles de l’entreprise (qui incluent tout, du spam au discours de haine et au contenu qui «glorifie la violence») sont signalées, soit par les utilisateurs, soit par des filtres d’apprentissage automatique. Certains cas très clairs sont traités automatiquement (les réponses peuvent impliquer la suppression d’un message ou le blocage d’un compte, par exemple) tandis que les autres sont placés dans une file d’attente pour examen par des modérateurs humains.

Facebook emploie environ 15 000 de ces modérateurs dans le monde et a été critiqué dans le passé pour ne pas avoir suffisamment soutenu ces travailleurs, les employant dans des conditions qui peuvent conduire à des traumatismes. Leur travail consiste à trier les messages signalés et à décider s’ils enfreignent ou non les différentes politiques de l’entreprise.

Dans le passé, les modérateurs examinaient les messages plus ou moins chronologiquement, en les traitant dans l’ordre dans lequel ils étaient signalés. Maintenant, Facebook dit vouloir s’assurer que les publications les plus importantes sont vues en premier et utilise l’apprentissage automatique pour aider. À l’avenir, un amalgame de divers algorithmes d’apprentissage automatique sera utilisé pour trier cette file d’attente, en priorisant les publications en fonction de trois critères: leur viralité, leur gravité et la probabilité qu’ils enfreignent les règles.

L’ancien système de modération de Facebook, combinant une modération proactive par des filtres ML et des rapports réactifs des utilisateurs de Facebook.
Image: Facebook

Le nouveau flux de travail de modération, qui utilise désormais l’apprentissage automatique pour trier la file d’attente des publications à examiner par des modérateurs humains.
Image: Facebook

La pondération exacte de ces critères n’est pas claire, mais Facebook affirme que l’objectif est de traiter d’abord les publications les plus dommageables. Ainsi, plus une publication est virale (plus elle est partagée et vue) plus vite elle sera traitée. La même chose est vraie de la gravité d’un message. Facebook dit qu’il classe les publications qui impliquent des dommages dans le monde réel comme les plus importantes. Cela pourrait signifier un contenu impliquant le terrorisme, l’exploitation des enfants ou l’automutilation. Les messages comme le spam, qui sont ennuyeux mais pas traumatisants, sont classés comme les moins importants pour examen.

« Toutes les violations de contenu feront toujours l’objet d’un examen humain substantiel, mais nous utiliserons ce système pour mieux prioriser [that process]», A déclaré Ryan Barnes, chef de produit au sein de l’équipe d’intégrité de la communauté de Facebook, aux journalistes lors d’un point de presse.

Facebook a partagé quelques détails sur la façon dont ses filtres d’apprentissage automatique analysent les publications dans le passé. Ces systèmes incluent un modèle nommé «WPIE», qui signifie «intégrations intégrales de la publication» et adopte ce que Facebook appelle une approche «holistique» pour évaluer le contenu.

Cela signifie que les algorithmes jugent de concert divers éléments d’un article donné, en essayant de déterminer ce que l’image, la légende, l’affiche, etc. révèlent ensemble. Si quelqu’un dit vendre un «lot complet» de «friandises spéciales» accompagné d’une photo de ce qui ressemble à des produits de boulangerie, parle-t-il de carrés ou de produits comestibles Rice Krispies? L’utilisation de certains mots dans la légende (comme «puissant») peut faire pencher le jugement dans un sens ou dans l’autre.

Facebook utilise divers algorithmes d’apprentissage automatique pour trier le contenu, y compris l’outil d’évaluation «holistique» connu sous le nom de WPIE.
Image: Facebook

L’utilisation de l’IA par Facebook pour modérer ses plates-formes a fait l’objet d’un examen minutieux dans le passé, les critiques notant que l’intelligence artificielle n’a pas la capacité d’un humain à juger du contexte de nombreuses communications en ligne. Surtout avec des sujets comme la désinformation, l’intimidation et le harcèlement, il peut être presque impossible pour un ordinateur de savoir ce qu’il regarde.

Chris Parlow de Facebook, qui fait partie de l’équipe d’ingénierie des modérateurs de la société, a convenu que l’IA avait ses limites, mais a déclaré aux journalistes que la technologie pouvait encore jouer un rôle dans la suppression du contenu indésirable. «Le système consiste à marier l’IA et des critiques humains pour faire moins d’erreurs totales», a déclaré Parlow. «L’IA ne sera jamais parfaite.»

Lorsqu’on lui a demandé quel pourcentage de publications les systèmes d’apprentissage automatique de l’entreprise classaient de manière incorrecte, Parlow n’a pas donné de réponse directe, mais a noté que Facebook ne permet aux systèmes automatisés de fonctionner sans supervision humaine que lorsqu’ils sont aussi précis que des critiques humains. «La barre de l’action automatisée est très élevée», a-t-il déclaré. Néanmoins, Facebook ajoute régulièrement plus d’IA au mélange de modération.

  • Easy Pouss Hydra Masque Démêlant et Repousse Rapide 250ml
    Easy Pouss Hydra Masque Démêlant et Repousse Rapide 250ml est un soin capillaire qui prend soin de vos cheveux bouclés et crépus. Sa formule ultra-hydratante rend les cheveux doux. Après l'avoir utilisé vos cheveux sont plus brillants et souples.
  • Abena Frantex Protection Urinaire Light Mini Plus 1A 16 unités
    Abena Protection Urinaire Light Mini Plus 1A 16 unités sont des protections à utiliser en cas d'incontinence urinaire légère et en post-grossesse. Elles ont un effet Top Dry permettant de rester au sec en améliorant l'absorption rapide du liquide et en favorisant sa répartition sur une zone plus large. Le système anti-odeurs capture les odeurs pour pour rester active sans gêne. Ses bords anti-fuites s'ajustent afin de s'adapter à la morphologie de chacune. Son voile externe respirant laisse respirer la peau afin de limiter les dermatites.
  • Perricone MD Cold Plasma Plus CBD
    L'édition limitée, la technologie de nouvelle génération du seul bocal qui fait tout. Avec 100 mg de Cannabidiol (CBD), cette centrale multitâche utilise un système breveté de diffusion à cristaux liquides pour une pénétration plus rapide et plus profonde des ingrédients clés à la surface de la peau, favorisant 10 des signes les plus visibles d'une peau saine, d'apparence jeune, apaisée et calmée. Il réduit visiblement l'apparence des rides, des ridules, de la texture inégale, du teint inégal, des rougeurs et des pores dilatés, mais va plus loin en apaisant et en calmant la peau. Elle améliore également la perte d'éclat, de fermeté et d'élasticité.

Written by SasukE

Développement technologique, faisons-nous face à la réalité ou vivons-nous une illusion?

Développement technologique, faisons-nous face à la réalité ou vivons-nous une illusion?

Doigts gelés, l'étrange symptôme du coronavirus chez les jeunes

Doigts gelés, l’étrange symptôme du coronavirus chez les jeunes