Les défis de Google AI Overviews et Gemini : Erreurs et risques inhérents aux IA
Nombreux sont ceux qui ont ricané lors de la débâcle de la fonctionnalité AI Overviews. Dès son lancement aux États-Unis, le moteur de recherche IA de Google a collectionné les erreurs. Seulement, ce n’est pas tout.
Au-delà des erreurs de jugement, d’interprétation, ou des déraillements wokes, un danger plus profond existe pour l’IA. Décryptage.
Qu’est-ce qui s’est passé avec AI Overviews ?
AI Overviews est née d’une volonté de simplification. Elle était censée faciliter la vie aux internautes grâce à un résumé de l’information recherchée en haut des SERP. Seulement, AI Overviews a souvent brillé par son inutilité :
- Des réponses fausses ou inappropriées
- L’incitation au meurtre et au suicide
- Des réponses sourcées sur des sites satiriques1 pour des questions sérieuses, etc.
Google a annoncé son intention de corriger les dysfonctionnements.
[Google] utilise ces exemples pour mettre au point des améliorations de (son) système, dont certaines ont déjà été mises en place2
Google
Même si l’incident est clos momentanément, il a laissé entrevoir un problème de grande envergure concernant les IA en général, et Gemini en particulier.
Quel est le risque avec Gemini ?
Certains des dérapages de l’IA sont évitables. Par exemple, effectuer un tri des sources est un bon début.
Les grands modèles de langage (large language models, LLM) sont conçus à la base, non pas pour fournir des résultats vrais, mais plutôt des résultats cohérents. Autrement dit, pour une IA, une histoire imaginaire cohérente est prioritaire sur un événement factuel mais disparate.
(…) Tous les grands modèles de langage, par la nature même de leur architecture, sont intrinsèquement et irrémédiablement des narrateurs peu fiables. A la base, ils sont conçus pour générer des réponses qui semblent cohérentes, et non des réponses qui sont vraies. [Inventer des choses] est une propriété inéluctable de leur fonctionnement.3
Grady Booch, informaticien de renommée aux États-Unis
Ce défaut inhérent au fonctionnement de l’IA est difficile à corriger.
L’IA permettant de faire cela de manière beaucoup plus fiable n’existe tout simplement pas encore.
Melanie Mitchell, Professeur au Santa Fe Institute et chercheuse en systèmes complexes
Même recruter massivement du personnel pour corriger les erreurs serait insuffisant. Au contraire, cela nécessitera du temps et une intervention profonde.
La tendance des grands modèles de langage à générer des informations incorrectes a peu de chance d’être corrigée dans un avenir proche.
Commentaire au Washington Post, de Arvind Narayanan, Professeur de sciences informatiques à Princeton
Malheureusement, Gemini de Google répertorie plus d’incidents que ses rivaux tels que ChatGPT de OpenAI. Entretemps, l’IA par ses interventions menace le taux de clic4 sur les sites internet.
Les questions fréquentes sur le sujet
Qu’est-ce que AI Overviews ?
AI Overviews est une nouvelle fonctionnalité de Google, qui présente des résumés rédigés par l’IA au-dessus des résultats traditionnels de recherche. Elle est alimentée par Gemini.
Qu’est-ce que Gemini ?
Gemini est un grand modèle de langage (large langage model, LLM) de Google. Il alimente des fonctionnalités IA, dont tout récemment AI Overviews.
Quel est l’un des risques les plus importants de l’IA ?
L’un des pires risques de l’IA consiste en ce qu’elle est conçue pour fournir des réponses harmonieuses au lieu de la réalité des informations. Par conséquent, elle peut fréquemment induire l’utilisateur en erreur.
Que peut-on faire pour résoudre le problème ?
La manœuvre pour corriger ce problème est plus profonde que les corrections ordinaires de bug. Elle exige des actions de grande envergure, et nécessite du temps.
L’expérimentation de l’IA continue
Malgré sa progression impressionnante, des challenges énormes subsistent quant à sa fiabilité.
- Le premier lancement de AI Overviews aux États-Unis a été un fiasco
- En cause, ses réponses inappropriées, fausses et dangereuses
- Actuellement, Google rencontre plus de difficultés avec ses grands modèles de langage que ses concurrents
- Au-delà du dysfonctionnement d’Overviews, l’IA doit être corrigée pour être plus fiable
“Aujourd’hui roi, demain rien”, affirme le proverbe. Les succès et les échecs se succèdent, et constituent autant de leçons apprises pour l’amélioration durable de l’IA.
Références
- Le très mauvais week-end de Google, Frandroid. Publié le 27 mai 2024. Consulté le 08 juin 2024. ↩︎
- AI Overviews : après des résultats étranges, Google annonce des corrections sur son moteur de recherche IA, Libération. Publié le 27 mai 2024. Consulté le 08 juin 2024. ↩︎
- Pourquoi Google risque d’avoir un gros problème avec Gemini, Frandroid. Publié le 30 mai 2024. Consulté le 08 juin 2024. ↩︎
- Google AI’s hilariously bad answers aren’t the big problem, Fast Company. Publié le 29 mai 2024. Consulté le 08 juin 2024. ↩︎
