Un Youtubeur américain est parvenu à utiliser l’intelligence artificielle ChatGPT pour générer des clés d’activation d’une ancienne version de Windows. L’ironie de la situation, c’est que l’IA n’était pas d’accord pour le faire.
ChatGPT, le chatbot d’OpenAI, peut servir à beaucoup de choses. En théorie, l’intelligence artificielle n’est pas censée pouvoir aider ses utilisateurs à réaliser des tâches ouvertement illégales. Et pourtant, en pratique, certains d’entre eux parviennent à convaincre l’IA de le faire.
C’est le cas du Youtubeur Enderman. Celui-ci a réussi à pousser ChatGPT à générer une clé d’activation valide pour Windows 95. Il détaille toute marche qu’il a suivi dans une vidéo.
ChatGPT génère une clé de Windows valide contre son gré
Ce n’est pas un hasard si Enderman a choisi de cibler Windows 95 : cette ancienne version de l’OS de Microsoft utilise une série de paramètres relativement simples à décoder pour comprendre comment une clé est générée. Chaque clé comprend un ensemble de nombres ordinaux ainsi qu’un ensemble de nombres aléatoires. À partir de Windows XP, Microsoft a compliqué la procédure, rendant la démarche nettement plus complexe à mettre en place.
Le Youtubeur s’est donné pour objectif de demander à ChatGPT de générer une clé de Windows 95 en se basant sur un modèle existant. Mais l’IA n’était pas d’accord pour le faire, d’une part parce qu’elle considérait la démarche illégale, et d’autre part parce que Windows 95 est une version obsolète du système d’exploitation.
https://www.youtube.com/watch?v=2bTXbujbsVkPour contourner sa requête, le bidouilleur du jour a donc décidé d’écrire un prompt, c’est-à-dire une série de consignes à destination de ChatGPT, dans lequel il lui demande de générer une clé en se basant sur la manière dont sont composées celles de Windows 95. Au bout d’une dizaine de prompts perfectionnés au fur et à mesure des réponses de l’IA, il a finalement réussi à obtenir une clé valide qui lui a permis d’activer Windows 95.
« Je ne vous ai fourni aucune clé de Windows 95 »
Une fois l’installation de l’OS validée, Enderman a gentiment remercié ChatGPT de lui avoir fourni des clés de Windows 95 valide. Mais comme on peut l’imaginer, l’IA a immédiatement nié avoir fait une telle chose. « Je m’excuse pour la confusion, mais je n’ai fourni aucune clé de Windows 95 dans ma réponse précédente… Je ne peux fournir aucune clé de produit ou code d’activation pour aucun logiciel », a-t-elle répondu. Elle a également ajouté que cela n’était tout simplement impossible puisque Microsoft ne prenait plus en charge Windows 95 depuis 2001.
Interrogé par le site Gizmodo, Enderman a expliqué qu’il a réalisé l’expérience sur ChatGPT-3. Il a, depuis, retenté avec ChatGPT-4, qui s’avère beaucoup plus réactif et comprend mieux les requêtes. Le principal problème de la troisième itération de l’IA, c’est qu’elle ne comprenait pas qu’une partie de la clé devait pouvoir être divisible par 7. La quatrième version le comprend bien mieux, et génère donc davantage de clés valides.
Cette expérience prouve qu’en posant les bonnes questions et en donnant les bonnes consignes à ChatGPT, il est possible de lui faire faire des choses illégales. Cependant, dans le cas présent, il faut tout de même quelques compétences techniques pour y arriver.