Pour rendre l’IA plus équitable, les physiciens scrutent l’intérieur de sa boîte noire

Bien que leur compréhension de l’erreur d’algorithme n’en soit encore qu’à ses débuts, leur objectif ultime est d’aider à développer un moyen clair et précis de communiquer la marge d’erreur d’un algorithme, un nouveau domaine de recherche sur l’IA appelé «quantification des incertitudes». « C’est cette idée de comprendre rigoureusement les barres d’erreur de l’IA », déclare Nord.

Tegmark s’attaque à l’impénétrabilité de l’IA avec une stratégie différente. Au lieu de déchiffrer le processus d’un algorithme en détail, il se concentre sur le reconditionnement de sa sortie compliquée.

D’une certaine manière, Tegmark traite les algorithmes d’IA comme nous traitons l’intuition humaine. Par exemple, un enfant apprend à attraper une balle de manière intuitive, sans jamais avoir besoin de maths. Mais à l’école, elle pourrait apprendre à décrire son intuition en utilisant des équations de paraboles. Tegmark pense que les scientifiques devraient penser que l’IA fournit une intuition, comme la capacité instinctive d’attraper une balle, qui devrait ensuite être reconditionnée dans des équations mathématiques élégantes et compréhensibles. Chez les informaticiens, ce reconditionnement est appelé «régression symbolique».

Par exemple, Tegmark et un étudiant diplômé du MIT, Silviu-Marian Udrescu, ont fourni des données sur les orbites planétaires à un algorithme d’IA. De manière conventionnelle, un algorithme d’IA identifierait des modèles dans ces données et les représenterait avec une formule longue et trouble pour la trajectoire d’une planète autour d’une étoile. L’algorithme de Tegmark, cependant, a pris l’étape supplémentaire de traduire cette formule ésotérique en la troisième loi de Kepler du mouvement planétaire, une équation concise qui décrit l’orbite d’une planète par rapport à sa masse et à quelques autres variables. Publier dans Progrès scientifiques en avril, ils appellent leur algorithme «AI Feynman», car il a redécouvert avec succès 100 équations de la série classique de conférences d’introduction à la physique du physicien Richard Feynman.

En rendant les processus d’IA plus transparents, les physiciens proposent une solution technique à un défi éthique particulier. Mais de nombreux défis éthiques ne peuvent être résolus avec des progrès techniques, déclare l’éthicien de l’IA Vivek Nallur de l’University College Dublin. Les dilemmes éthiques, par nature, sont subjectifs et obligent souvent des personnes aux priorités contradictoires à régler leurs différends. Ces personnes peuvent être en désaccord avec la recommandation d’un algorithme simplement en fonction de leurs préférences culturelles ou personnelles. «Pour qu’un problème soit considéré comme un problème d’éthique de l’IA, il faudrait que nous ne pas sachez facilement ce qu’il faut faire », écrit le philosophe Vincent Müller dans le Encyclopédie de philosophie de Stanford.

Par exemple, une étude du MIT réalisée en 2018 auprès de personnes dans 233 pays a révélé que les réactions des participants à des situations éthiquement grises dépendaient de la culture. L’étude, présentée comme un jeu, a demandé aux participants des variantes du problème du chariot: dans un cas, une voiture autonome devrait-elle faire un écart pour sauver ses trois passagers, dont un enfant, et tuer quatre piétons âgés? Les chercheurs ont constaté que les participants de cultures qui mettent l’accent sur le collectif, comme en Chine et au Japon, étaient moins susceptibles que les participants de cultures individualistes comme aux États-Unis d’épargner les enfants par rapport aux personnes âgées. «Si vous achetez une voiture programmée en Allemagne et que vous la conduisez en Asie, à quelle éthique la voiture doit-elle obéir?» demande Nallur. La question ne peut pas être répondue avec plus de mathématiques.

Mais plus il y a d’intervenants impliqués dans la discussion, mieux c’est, dit Nallur. Les physiciens s’efforcent toujours d’intégrer leurs recherches sur l’IA dans la communauté d’apprentissage automatique traditionnelle. Pour comprendre son rôle dans les conversations éthiques, Nord dit qu’il travaille en partenariat avec des spécialistes des sciences sociales, des éthiciens et des experts dans de nombreuses disciplines. Il souhaite avoir une conversation sur ce qui constitue une utilisation scientifique éthique des algorithmes d’IA et sur ce que les scientifiques devraient se demander lorsqu’ils les utilisent. «J’espère que ce que je fais est productif d’une manière positive pour l’humanité», déclare Nord. Alors que les applications de l’IA avancent, ces physiciens tentent de jeter les bases d’un avenir plus responsable.

Plus d’histoires WIRED

  • Alpinestars Blouson Moto Alpinestars T-GP Plus R V3 Air Noir-Camouflage-Rouge Fluo L 52
    Le blouson T-GP Plus R V3 Air est un blouson sportif léger et polyvalent avec des manches pré-courbées pour réduire la fatigue et améliorer le confort de conduite. Il a de grands panneaux en maille au niveau de la poitrine et à l’intérieur des bras pour optimiser le flux d’air et le rendre parfait pour les
    218,49 €
  • Alpinestars Blouson Moto Alpinestars T-GP Plus R V3 Air Noir L 52
    Le blouson T-GP Plus R V3 Air est un blouson sportif léger et polyvalent avec des manches pré-courbées pour réduire la fatigue et améliorer le confort de conduite. Il a de grands panneaux en maille au niveau de la poitrine et à l’intérieur des bras pour optimiser le flux d’air et le rendre parfait pour les
    218,49 €
  • Alpinestars Blouson Moto Alpinestars T-GP Plus R V3 Air Noir-Gris-Blanc L 52
    L 52 - Le blouson T-GP Plus R V3 Air est un blouson sportif léger et polyvalent avec des manches pré-courbées pour réduire la fatigue et améliorer le confort de conduite. Il a de grands panneaux en maille au niveau de la poitrine et à l’intérieur des bras pour optimiser le flux d’air et le rendre parfait pour les
    218,49 €

Written by Naruto Uzumaki

The Rock partage un nouveau regard de BTS sur son film Netflix et Ryan Reynolds

GameStop pourrait se transformer en marché en ligne pour rivaliser avec Amazon face aux fermetures de magasins