L'« autorité confiante » de l'IA mise en cause : Google Overviews cite YouTube plus que des experts médicaux

Dans un développement révélateur qui remet en question la fiabilité de l'intelligence artificielle dans le domaine de la santé, une nouvelle étude a identifié un défaut important dans les AI Overviews de Google. La fonctionnalité d'IA générative (Generative AI), qui résume les résultats de recherche en haut de la page, a été trouvée en train de citer YouTube plus fréquemment que tout site médical établi lorsqu'elle répond à des requêtes liées à la santé. Cette dépendance au contenu vidéo généré par les utilisateurs, couplée à des cas documentés de conseils médicaux « complètement erronés », a conduit des experts à alerter sur un risque croissant pour la santé publique.

La controverse met en lumière une tension critique dans l'industrie de l'IA : la lutte entre l'accessibilité de la recherche générative et la rigueur d'exactitude requise pour les sujets « Your Money or Your Life » (YMYL). Pour les professionnels des secteurs de l'IA et du SEO, les conclusions constituent une étude de cas frappante sur les limites de la génération augmentée par récupération (Retrieval-Augmented Generation, RAG) lorsqu'elle est appliquée à des domaines sensibles sans garde-fous suffisants.

L'étude SE Ranking : YouTube domine les citations en matière de santé

Le cœur de la controverse provient d'une analyse approfondie réalisée par SE Ranking, une plateforme d'optimisation pour les moteurs de recherche. L'étude a analysé plus de 50 000 requêtes liées à la santé en Allemagne pour déterminer les sources alimentant les AI Overviews de Google. Les résultats ont été inattendus pour beaucoup dans la communauté médicale : YouTube est apparu comme le domaine le plus cité individuellement.

Selon les données, YouTube représentait 4.43% de toutes les citations dans les AI Overviews analysés. Si ce pourcentage peut sembler faible isolément, il éclipsait toutes les autres sources individuelles, y compris les grands réseaux hospitaliers, les portails de santé gouvernementaux et les institutions académiques. Pour contexte, la deuxième source la plus citée était un diffuseur allemand, suivie des réputés MSD Manuals.

Les chercheurs soutiennent que cette répartition est problématique parce que YouTube est fondamentalement une plateforme vidéo à usage général. Contrairement aux revues médicales évaluées par des pairs ou aux sites de santé gouvernementaux, l'écosystème de contenu de YouTube est ouvert à tous — des chirurgiens certifiés aux influenceurs du bien-être et aux créateurs non vérifiés. Bien qu'il existe un contenu médical de valeur sur la plateforme, la préférence algorithmique pour les contenus vidéo à fort engagement semble s'immiscer dans les résumés d'IA censés fournir des réponses médicales factuelles.

Table 1: Top Cited Sources in Google AI Overviews for Health Queries

La disparité devient encore plus préoccupante lorsqu'on agrège les sources. L'étude note que les revues académiques et les institutions de santé gouvernementales — sans doute la référence en matière de précision médicale — ne représentent combinées qu'environ 1 % de toutes les citations. Cela suggère que les critères de sélection de l'IA peuvent être fortement pondérés en faveur de la popularité du contenu, de son accessibilité et de son engagement multimédia plutôt que de l'autorité médicale stricte.

Le piège de « l'autorité confiante » et les hallucinations médicales

Le danger, selon les experts, ne réside pas seulement dans la source de l'information, mais dans la manière dont elle est présentée. Les AI Overviews présentent l'information avec ce que les chercheurs décrivent comme une « autorité confiante ». Les résumés sont souvent rédigés dans un langage définitif et objectif qui imite le ton d'un médecin ou d'une encyclopédie médicale. Cette présentation peut endormir la vigilance des utilisateurs et les dissuader de vérifier l'information en cliquant sur les sources sous-jacentes.

Des enquêtes récentes ont mis au jour des exemples alarmants de cette désinformation « confiante ». Dans un cas particulièrement dangereux signalé par des experts, l'AI Overview de Google conseillait aux patients atteints d'un cancer du pancréas d'éviter les aliments riches en graisses. Les professionnels de santé ont rapidement souligné que ce conseil est souvent exactement l'opposé de ce qui est recommandé pour ces patients, qui peinent fréquemment à maintenir leur poids et nécessitent des régimes riches en calories. Suivre un tel conseil pourrait potentiellement accélérer le déclin physique.

Un autre cas concernait des requêtes sur les tests de fonction hépatique. L'IA a fourni des informations « bidon » concernant les plages de référence normales pour les tests sanguins hépatiques. De manière cruciale, l'IA n'a pas tenu compte du contexte tel que l'âge, le sexe ou l'origine ethnique du patient — des facteurs qui influencent significativement ce qui est considéré comme « normal ». En présentant un jeu unique et générique de chiffres comme réponse définitive, l'IA pourrait amener des personnes en bonne santé à croire qu'elles sont malades, ou à l'inverse conduire des personnes atteintes d'une maladie hépatique grave à minimiser leurs symptômes.

Table 2: documented Instances of AI Medical Misinformation

La défense de Google : optimiser pour la vidéo « de haute qualité »

En réponse à ces préoccupations, Google a défendu l'intégrité de ses AI Overviews. Un porte-parole de l'entreprise a déclaré que la fonctionnalité est conçue pour mettre en avant du contenu de haute qualité provenant de sources réputées, quel que soit le format. Google a souligné que « l'implication selon laquelle les AI Overviews fournissent des informations peu fiables est réfutée par les propres données du rapport ».

Google a pointé un sous-ensemble spécifique des données de SE Ranking, notant que parmi les 25 vidéos YouTube les plus citées, 96% provenaient de chaînes médicales telles que des hôpitaux, des cliniques et des organisations de santé. L'entreprise soutient que le fait que la source soit YouTube ne signifie pas que le contenu est peu fiable. De nombreuses institutions de santé de premier plan, comme la Mayo Clinic et la Cleveland Clinic, entretiennent des chaînes YouTube conséquentes pour toucher un public plus large.

Cependant, les chercheurs à l'origine de l'étude ont demandé de la prudence vis-à-vis de cette défense. Si les 25 meilleures vidéos peuvent être vérifiées, elles représentent une « tranche minuscule » — moins de 1 % — des milliers de liens YouTube cités par l'IA. La « longue traîne » des citations reste largement non vérifiée. Si l'IA récupère une vidéo d'un influenceur en bien-être promouvant un remède pseudoscientifique parce qu'elle a des millions de vues et un fort engagement, le potentiel de préjudice reste important. Les chercheurs ont noté que la visibilité et la popularité semblent être des moteurs centraux de la connaissance en matière de santé dans l'algorithme, pouvant supplanter la fiabilité médicale pour les requêtes moins courantes.

La difficulté algorithmique avec les sujets « Your Money or Your Life »

Pour les développeurs d'IA et les spécialistes du SEO, cette situation souligne l'immense difficulté à résoudre le défi YMYL (Your Money or Your Life) avec des modèles génératifs. Pendant des années, les algorithmes de recherche traditionnels de Google ont appliqué des signaux de classement plus stricts aux sujets de santé et de finance, en donnant la priorité à l'E-E-A-T (Experience, Expertise, Authoritativeness, and Trustworthiness).

La transition vers l'IA générative semble avoir contourné certaines de ces couches de sécurité établies. Les grands modèles de langage (Large Language Models, LLMs) sont des moteurs probabilistes ; ils prédisent le mot suivant le plus probable en se basant sur les données d'entraînement et le contexte récupéré. Ils ne « connaissent » pas la médecine de la même manière qu'une base de données validée. Lorsqu'un grand modèle de langage récupère une transcription d'une vidéo YouTube populaire pour construire une réponse, il peut avoir du mal à distinguer entre la confiance rhétorique d'un influenceur charismatique et la précision clinique d'un article médical.

De plus, la nature de « boîte noire » de ces citations complique la responsabilité. Contrairement à une liste de résultats de recherche standard, où l'utilisateur peut clairement voir le domaine (par ex. .gov vs .com), l'AI Overview fusionne l'information en un récit cohérent. Le lien de citation est souvent une petite favicon ou une note de bas de page, facilement négligée par un utilisateur en quête d'une réponse rapide.

Implications réglementaires et industrielles

Les conclusions de l'étude SE Ranking, qui portait sur le système de santé allemand, ont des implications plus larges pour la réglementation mondiale de l'IA. L'Allemagne dispose d'un environnement de santé strictement réglementé, et pourtant l'IA a malgré tout priorisé des sources non autoritaires. Cela suggère que le problème est d'ordre technique et systémique au modèle d'IA, plutôt qu'un reflet de l'écosystème web local.

Cette controverse survient à un moment où les régulateurs de l'Union européenne et des États-Unis scrutent le rôle de l'IA dans les infrastructures critiques et la sécurité publique. Si les moteurs de recherche basés sur l'IA fonctionnent comme des « autorités médicales non réglementées », ils pourraient faire face à de nouvelles exigences de conformité similaires à celles imposées aux prestataires de télémédecine ou aux éditeurs médicaux.

Pour l'industrie de l'IA, cela constitue un signal d'alarme concernant le « grounding » (ancrage des réponses de l'IA à des sources factuelles). La dépendance actuelle à des index web généraux, où la popularité est souvent corrélée à la visibilité, pourrait devoir être révisée pour les secteurs sensibles. Nous pourrions voir une transition vers des systèmes RAG en « jardin clos » (walled garden) pour les requêtes de santé, où l'IA serait limitée à récupérer des informations uniquement à partir d'une liste blanche de domaines médicaux vérifiés (par ex. PubMed, WHO, CDC), excluant explicitement les plateformes de contenu généré par les utilisateurs comme YouTube et Reddit, quelle que soit leur position SEO.

Conclusion : le prix de la commodité

Alors que Google continue d'affiner son Search Generative Experience, l'équilibre entre commodité pour l'utilisateur et sécurité demeure précaire. L'intégration de contenu vidéo dans les réponses d'IA reflète une préférence des utilisateurs pour des médias engageants, mais elle introduit une couche de volatilité dangereuse dans un contexte médical.

Tant que les modèles d'IA ne pourront pas distinguer de manière fiable une vidéo virale d'une étude évaluée par des pairs, l'« autorité confiante » des AI Overviews restera une arme à double tranchant. Pour l'heure, le conseil des experts est clair : en matière de santé, les utilisateurs doivent traiter les résumés d'IA avec un scepticisme extrême et vérifier tous les conseils auprès de sources médicales traditionnelles et autoritaires. La technologie a révolutionné notre accès à l'information, mais lorsqu'il est question de vie ou de mort, la popularité est un bien mauvais indicateur de vérité.