Google Search a récemment fait l'objet d'une controverse suite à des dysfonctionnements de son système d'Aperçus IA, qui génère des réponses automatisées aux requêtes des utilisateurs. Ces réponses, parfois « étranges, inexactes ou inutiles », ont suscité des inquiétudes quant à la fiabilité de cette nouvelle fonctionnalité.

Des exemples alarmants

Parmi les exemples les plus préoccupants, on trouve des conseils dangereux tels que l'affirmation qu'il est sûr de laisser des chiens dans des voitures chaudes ou la recommandation de boire de grandes quantités d'urine pour dissoudre un calcul rénal. Ces réponses, relayées par des captures d'écran virales, ont mis en lumière les risques potentiels liés à l'utilisation aveugle de l'IA. D'autres exemples, bien que moins dangereux, étaient tout aussi farfelues, comme la suggestion d'utiliser de la colle pour faire adhérer du fromage à une pizza. Ces réponses illustrent les limites de l'IA lorsqu'elle est confrontée à des requêtes ambiguës ou humoristiques, sources de confusion pour les utilisateurs.

Crédit photo : Freepik

Liz Reid, responsable de Google Search, a reconnu les problèmes rencontrés et a fourni des explications sur les causes possibles de ces erreurs. Elle a notamment évoqué la quantité limitée de données sur lesquelles l'IA a été entraînée avant son déploiement généralisé. En effet, la question « Combien de pierres dois-je manger ? », qui a généré une réponse absurde, n'avait pratiquement jamais été posée à Google auparavant. L'IA a donc puisé dans les informations disponibles, en l'occurrence un article satirique, pour générer sa réponse.

Les mesures correctives de Google

Face à ces dysfonctionnements, Google a mis en place des mesures correctives pour améliorer la précision des Aperçus IA. L'IA a été améliorée pour mieux détecter l'humour et le contenu satirique, limitant ainsi la propagation de réponses trompeuses. De plus, l'entreprise a réduit l'intégration de réponses générées par les utilisateurs dans les Aperçus, privilégiant des sources plus fiables comme les sites Web officiels et les articles de presse. Enfin, Google a ajouté des restrictions pour certaines requêtes, comme les sujets de santé, où les Aperçus IA ne se sont pas avérés très utiles.

Malgré ces efforts, il est probable que d'autres erreurs surviennent à l'avenir. L'IA, par nature, est un système en constante évolution qui apprend de ses interactions avec les utilisateurs. Google devra donc continuer à surveiller de près les performances des Aperçus IA et apporter des ajustements au fur et à mesure.