Gemini fortement critiqué pour ses erreurs historiques

Il y a quelques jours, Google sortait une nouvelle version de son intelligence artificielle. C'est fini pour «Bard», on passe maintenant à Gemini, un modèle de langage à la manière de ChatGPT, mais qui bénéficie de fonctionnalités supplémentaires. Basé sur GPT 4, l'outil est censé être meilleur en tout, comme nous le dit le CEO Sundar Pichai dans un communiqué :

Aujourd'hui, nous passons à l'étape suivante avec Gemini, notre modèle le plus performant et le plus général à ce jour, qui offre des performances de pointe dans de nombreux critères de référence. Notre première version, Gemini 1.0, est optimisée pour différentes tailles : Ultra, Pro et Nano. Il s'agit des premiers modèles de l'ère Gemini et de la première réalisation de la vision que nous avions lorsque nous avons créé Google DeepMind au début de cette année. Cette nouvelle ère de modèles représente l'un des plus grands efforts scientifiques et techniques que nous ayons entrepris en tant qu'entreprise.

Meilleur en code, meilleur en raisonnement, meilleur dans la capacité à comprendre le texte, les images et l'audio, Gemini devient capable de générer des images à partir d'un prompt. C'est bien cette compétence qui a beaucoup fait parler, après que plusieurs internautes aient demandé à Gemini de reproduire des scènes historiques. Dans le code de fonctionnement de l'IA, il semblerait qu'elle soit programmée pour ne pas créer des scènes représentant uniquement des hommes blancs, et ce, en toutes circonstances. Ainsi, la symbolique du pape ou des pères fondateurs des USA est représentée par des femmes, parfois de couleur.

Google a tenu à réagir dans un tweet très concis :

Nous nous efforçons d'améliorer immédiatement ce type de représentation. La génération d'images par l'IA de Gemini génère un large éventail de personnes. Et c'est généralement une bonne chose, car des gens du monde entier l'utilisent. Mais dans le cas présent, il y a un problème.

Elon Musk exprime son «mécontentement»

En parallèle de ce «backlash», Elon Musk décide d'y ajouter son petit grain de sel. Souvent au premier rang quant il s'agit de critiquer le mouvement woke, il avait lui-même organisé la création d'une IA «anti-woke», appelée Grok, est liée aux informations proposées par X (Twitter). Alors bien sûr, quand les premiers tweets sont apparus à propos des débâcles de Gemini, Elon n'a pas tardé à donner son avis.

Je suis heureux que Google ait surjoué avec sa génération d'images par l'IA, car cela a rendu leur programmation raciste et anti-civilisationnelle claire pour tous.

Je viens de taper une requête Google sur mon téléphone et les deux premiers choix sont en faveur de la censure !

Elon en a gros sur la patate, mais il est fort probable que les erreurs évidentes de Gemini soit simplement liées un oubli de la part de Google, voulant à tout prix proposer des personnages de sexe et d'ethnies différentes dans leurs images.