L'IA de Google a pété un plomb

Le long week-end de Memorial Day aux États-Unis a été mouvementé pour Google, qui a dû faire face aux retombées de suggestions farfelues générées par sa nouvelle fonctionnalité d'aperçu alimentée par l'IA, intégrée à son moteur de recherche. Cette fonctionnalité, censée fournir des réponses basées sur l'IA aux requêtes des utilisateurs, a dérapé en proposant des conseils absurdes comme l'utilisation de colle non toxique pour empêcher le fromage de glisser de la pizza ou la consommation d'un caillou par jour.

Face à ces incidents, Google a retiré les réponses incriminées et a déclaré qu'ils utilisaient ces erreurs pour améliorer leurs systèmes. Cependant, ces couacs, combinés aux précédents faux pas de l'entreprise en matière d'IA générative, comme le chatbot Bard et le générateur d'images Gemini, pourraient sérieusement nuire à la crédibilité du géant de la recherche. Chinmay Hedge, professeur agrégé d'informatique et d’ingénierie à la Tandon School of Engineering de l'université de New York, explique : « Google est censé être la première source d'information sur Internet. (...) Et si ce produit est édulcoré, notre confiance en Google s'érodera peu à peu. »

Des explications peu convaincantes et une course à l'IA au détriment de la qualité

Les excuses de Google concernant son IA, invoquant des questions peu communes posées par les utilisateurs ou des erreurs de syndication de contenu, semblent peu convaincantes. La précipitation de l'entreprise à lancer des produits d'IA avant qu'ils ne soient prêts, dans une course à la performance face à des concurrents comme Microsoft et OpenAI, semble être à l'origine de ces problèmes. Google, longtemps considéré comme la source d'information numéro un sur Internet, voit sa réputation de fiabilité ternie par ces incidents. La confiance des utilisateurs est mise à mal, et la question se pose : Google peut-il vraiment être considéré comme une source fiable d'informations si son IA génère des erreurs et des informations trompeuses ?

Pour les spécialistes comme Chinmay Hedge, Google doit repenser son approche de l'IA générative. Privilégier la qualité à la vitesse, s'assurer de la fiabilité des sources d'information et implémenter des mécanismes de contrôle plus rigoureux sont essentiels pour regagner la confiance des utilisateurs et préserver la réputation du géant de la recherche.