Des IA qui se dupliquent toutes seules, un peu flippant

Si les objets technologiques n'évoluent pas aussi vite qu'il y a quelques décennies, les intelligences artificielles, en revanche, se rapprochent de plus en plus de la science-fiction. Et si je vous disais qu'une des prédictions d'un des spécialistes du domaine envisage un futur proche qui fait fortement penser aux Réplicateurs de Stargate SG1 ?

Dario Amodei est le fondateur d'Anthropic, une société spécialisée dans le développement d'IA éthiquement encadrées, créatrice de l'IA générative Claude, dont la nouvelle version, Claude 3, bénéficie de possibilités de traduction encore jamais atteintes pour ce genre d'outil. D'après lui, nous pourrions bientôt voir émerger des intelligences artificielles capables de s'auto-répliquer et de se gérer de manière autonome. Cette idée semble tout droit sortie d'un film, mais dans une interview pour le New York Times, Amodei insiste sur le fait que ce n'est pas une hypothèse à prendre à la légère.

À l'heure actuelle, les IA se classent généralement dans le niveau 2 de l'échelle de sécurité AI Safety Levels (ASL) définie par Anthropic. Cela signifie que bien que des risques existent déjà, ils sont relativement maîtrisés.

À la fin de l'année dernière, nous avons publié ce que l'on appelle un plan de mise à l'échelle responsable. L'idée est de fixer des seuils pour qu'un système d'I.A. soit capable de faire certaines choses. Nous avons ce que nous appelons des niveaux de sécurité de l'I.A. qui, par analogie avec les niveaux de biosécurité, classifient le degré de dangerosité d'un virus et donc les protocoles à suivre pour le contenir, nous sommes actuellement à ce que nous décrivons comme A.S.L. 2.

Cependant, selon Amodei, il n'est pas exclu que nous atteignions bientôt le niveau 4, où les IA seraient dotées d'une autonomie significative et, ainsi, la capacité de persuader les humains.

Alors que des entreprises comme Anthropic adoptent une approche prudente, mettant l'accent sur la sécurité et l'éthique, toutes les organisations travaillant dans le domaine de l'IA ne partagent pas la même philosophie. Certaines pourraient être tentées de développer des IA à des fins militaires, sans prendre en compte les risques potentiels pour la société, en créant des machines suffisamment intelligentes pour en créer d'autres comme elles.

Pas besoin d'attendre bien longtemps

Amodei va même jusqu'à envisager un futur où des pays comme la Corée du Nord, la Chine ou la Russie pourraient utiliser ces IA autonomes pour renforcer leurs armées.

En effet, l'idée de robots intelligents s'auto-dupliquant et survivant « dans la nature » soulève des préoccupations légitimes quant à leur contrôle et à leur impact sur la société. Si Amodei, en tant que créateur averti, lance de tels avertissements, il est essentiel de prendre ces prédictions au sérieux, surtout quand il annonce la date potentielle du début des hostilités : 2025. Une affirmation osée, je vous le concède.

Je crois aux exponentielles. Je pense qu'A.S.L. 4 pourrait voir le jour entre 2025 et 2028.

Quand on voit les progrès faramineux de l'IA, comme avec la génération de vidéos qui est passée de gadget ridicule à images difficile à discerner du réel, alors pourquoi pas.