Ils sont les architectes de l’IA et pourtant il avertissent

L’attribution du prix Nobel de physique 2024 à Geoffrey Hinton, conjointement avec John Hopfield, consacre une vie dédiée à la recherche fondamentale sur les réseaux neuronaux artificiels, ces structures mathématiques et informatiques qui permettent aux machines d’apprendre. Ironiquement, cette distinction couronne un homme hanté par les implications potentiellement catastrophiques de ses propres découvertes. Hinton, surnommé « le parrain de l’intelligence artificielle », a non seulement contribué à poser les fondations de l’IA moderne, mais il est aussi devenu l’un de ses plus fervents critiques, avertissant l’humanité des dangers qu’elle représente.

L’Académie royale des sciences de Suède a récompensé Hinton et Hopfield pour leurs « découvertes et inventions fondamentales permettant l'apprentissage automatique au moyen de réseaux neuronaux artificiels ». Ces travaux, initiés il y a plusieurs décennies, ont ouvert la voie à l’explosion actuelle de l’IA, impactant des domaines aussi variés que la médecine, la finance et l’industrie. Pourtant, Hinton, professeur émérite de l’université de Toronto, ne savoure pas pleinement ce triomphe. Sa démission fracassante de Google en 2023, motivée par des inquiétudes grandissantes quant à la trajectoire du développement de l'IA, témoigne de l’ampleur de ses préoccupations.

Un Prix qui les inquiètes

La reconnaissance de l’importance de ses travaux par l’institution du Nobel, loin de le rassurer, amplifie son angoisse. "Nous n'avons aucune expérience de ce que c'est que d'avoir des objets plus intelligents que nous", a-t-il déclaré lors de l'annonce de sa récompense, exprimant une inquiétude partagée par de nombreux experts. Si l'IA promet des avancées considérables dans des domaines comme la santé, Hinton redoute que l’humanité perde le contrôle de sa création. Il imagine un futur proche où les machines, dotées d’une intelligence supérieure à la nôtre, pourraient se retourner contre leurs créateurs, un scénario digne des dystopies hollywoodiennes.

Regardez ce qu'il en était il y a cinq ans et ce qu'il en est aujourd'hui. Pour l'instant, les systèmes d'IA ne sont pas plus intelligents que nous, mais je pense qu'ils le seront bientôt

Selon lui, d’ici cinq à vingt ans, la probabilité d'une IA cherchant à prendre le contrôle de nos vies est significative.

Au cœur des préoccupations de Hinton figure la propagation massive de fausses informations. L'IA, capable de générer des contenus synthétiques de plus en plus réalistes, pourrait inonder internet de faux textes, images et vidéos, rendant impossible pour le citoyen lambda de discerner le vrai du faux. Cette manipulation de l’information, combinée à la puissance des chatbots, pourrait être exploitée par des "mauvais acteurs" pour influencer l'opinion publique et déstabiliser les démocraties.

La course effrénée à l’innovation entre les géants de la tech, notamment Google et Microsoft, accentue les craintes de Hinton. Il regrette que la compétition ait pris le pas sur la prudence, créant une dynamique difficile à maîtriser. Si Hinton reconnaît le rôle "responsable" joué par Google jusqu'en 2022, il déplore que l’arrivée de ChatGPT et l'intégration de chatbots aux moteurs de recherche aient déclenché une escalade dangereuse. C’est d’ailleurs pour pouvoir s’exprimer librement sur ces dangers, sans être contraint par sa position chez Google, qu’il a choisi de quitter l’entreprise.

L’IA dans la controverse

Au-delà de la désinformation, l’impact de l’IA sur le marché du travail est une autre source d’inquiétude pour Hinton. Si l'automatisation promet de supprimer les tâches pénibles, elle risque également de rendre obsolètes de nombreux emplois, remplaçant les humains par des machines plus efficaces et moins coûteuses. Enfin, la perspective de voir l'IA utilisée pour développer des armes autonomes, des "robots tueurs" capables de prendre des décisions de vie ou de mort sans intervention humaine, est un cauchemar que Hinton ne peut ignorer.

L'attribution du prix Nobel à Hinton et à Demis Hassabis, cofondateur de DeepMind (filiale de Google), pour le prix Nobel de chimie le lendemain, soulève par ailleurs des questions sur la concentration de la recherche en IA au sein des grandes entreprises technologiques. Certains observateurs s'interrogent sur l'influence de ces géants sur l'orientation de la recherche et sur l’accès aux données, éléments essentiels au progrès de l’IA.

Face à ces menaces potentielles, Hinton appelle à une collaboration internationale entre scientifiques afin de trouver des solutions pour contrôler l'IA et en limiter les dangers. Il plaide pour une régulation mondiale, semblable à celle qui encadre l’utilisation de l’énergie nucléaire, afin d’éviter une course incontrôlée à l’armement technologique. Le « parrain de l'IA » espère que son appel sera entendu avant qu'il ne soit trop tard. L’humanité se trouve à un carrefour crucial : saura-t-elle maîtriser l’incroyable puissance qu’elle a créée ou sera-t-elle engloutie par elle ?

Source 1

Source 2