Quand le complot se déguise en bien-être

À quoi ressemble vraiment la désinformation qui vise les jeunes

Un jeune de 13 ans aboutit du côté algorithmique de YouTube. Il regarde un créateur qui explique calmement « la vérité sur » l’alunissage. La vidéo est bien produite. Le texte est captivant. En vingt minutes, le jeune a assimilé une liste d’affirmations qu’il répétera à l’école : le drapeau flottait de travers, les ombres ne concordaient pas, Stanley Kubrick a tout filmé. Le voilà dans le cycle « les spectateurs ont aussi regardé » de l’algorithme. En une semaine, il a vu une douzaine de vidéos sur la Terre plate, le faux robot martien, les anciens astronautes et diverses révisions de l’histoire.

Ce phénomène a été largement documenté par les chercheurs qui ont étudié le moteur de recommandation de YouTube à la fin des années 2010. La plateforme affirme depuis qu’elle relègue le « contenu limite », mais le mécanisme reste en gros intact : les vidéos de désinformation très populaires sont toujours faciles à trouver, le graphe de recommandations relie encore les sujets voisins entre eux, et un enfant qui clique une seule fois sur une vidéo « qui pose des questions » est entraîné loin dans le réseau.

Le contenu antivaccin est le cas de désinformation en santé le plus étudié. Le schéma : un créateur à la voix calme et assurée. Souvent un non-médecin qui a l’air diplômé. Qui explique « ce qu’on ne veut pas que vous sachiez ». Des affirmations fausses bien précises (les vaccins causent l’autisme, le mercure qu’ils contiennent est dangereux, « la science est censurée ») sont reprises d’un créateur à l’autre. L’auditoire compte un nombre important de parents et d’ados soucieux de leur santé. Les jeunes spectateurs absorbent ce cadrage.

Le contenu sur les remèdes miracles est un genre en soi : un créateur qui vante un protocole précis. Le plus souvent à base d’herbes, de suppléments coûteux, de cures de jus ou de « remèdes ancestraux ». Qui guérirait le cancer, les maladies auto-immunes, la maladie mentale. Le protocole est monétisé (souvent par des marques de suppléments avec liens d’affiliation ou du coaching payant). Les preuves médicales sont absentes ou inventées. Des spectateurs vulnérables, y compris des enfants dont un proche est malade, suivent parfois ces conseils, avec de graves conséquences.

Le contenu sur les remèdes maison dangereux suit le même moule, avec des enjeux plus petits un à un, mais qui s’additionnent à l’échelle d’un auditoire. « Buvez ceci pour guérir vos migraines », « arrêtez votre médicament, essayez plutôt ceci », « huiles essentielles contre [maladie grave] ». La plateforme a des politiques, mais le volume est énorme et la détection, inégale.

Puis il y a les grandes familles de complots connus : le contenu codé QAnon (« la tempête s’en vient », « where we go one we go all »), les « truthers » du 11 septembre, les relectures de l’assassinat de JFK, les affirmations selon lesquelles « la 5G nous rend malades », les « chemtrails », les cadrages sur l’« État profond », le contenu sur les hommes-lézards. Chaque famille a son propre vocabulaire, que le dictionnaire doit savoir repérer.

Une catégorie bien moderne : les hypertrucages de politiciens, de vedettes ou d’événements présentés comme réels. La technologie s’est assez améliorée pour que les spectateurs peu critiques. Y compris la plupart des enfants. Ne puissent pas faire la différence de façon fiable. Watchly signale le contenu dont l’audio ou les affirmations laissent croire que la vidéo fait passer un extrait inauthentique pour authentique.

Pourquoi c’est plus important que ce que les parents imaginent

Un adulte peut généralement balayer du revers de la main une vidéo sur la Terre plate. Il a des décennies de connaissances de base auxquelles la comparer. Pas l’enfant. Chez un jeune de 12 ans, l’idée de « ce qui est vrai » est encore en construction. Un créateur au ton assuré et à la production soignée a une influence démesurée sur cette construction.

La recherche en psychologie cognitive est claire depuis des décennies : l’exposition répétée à des affirmations, même à des affirmations qu’on sait fausses, augmente leur plausibilité perçue (l’« effet de vérité illusoire »). Un enfant qui voit trois vidéos laissant entendre que les vaccins sont dangereux a une probabilité mesurablement plus élevée de douter des vaccins plus tard, même après avoir été corrigé. Le mécanisme est automatique et prérationnel.

L’économie du contenu complotiste est bâtie autour du recrutement. Chaque vidéo est conçue pour rendre la suivante plus attirante. Une curiosité comblée, une nouvelle question ouverte. Le créateur veut du temps de visionnement. L’algorithme récompense l’exploration en profondeur. Le spectateur se retrouve à plusieurs étapes de son point de départ, souvent avec une vision du monde qu’il ne s’est pas rendu compte d’adopter.

La désinformation médicale entraîne les torts les plus graves. Des parents qui sautent les vaccins de leur enfant à cause de contenu YouTube, ce n’est pas une hypothèse. C’est bien documenté. Des enfants qui cessent un médicament prescrit sur les conseils d’un créateur, c’est plus rare, mais ça arrive. Les conséquences sont réelles et parfois irréversibles.

Pourquoi YouTube n’arrive pas à le repérer de façon fiable

YouTube a tenté de s’attaquer à la désinformation. La plateforme démonétise certaines catégories, affiche des panneaux d’information à côté de certaines recherches et a des politiques contre la désinformation médicale, la désinformation électorale et quelques catégories précises de complots. Le travail est réel. L’écart est énorme.

Le problème de détection est structurel. La désinformation vit dans le langage. Des affirmations factuelles précises qui se trouvent à être fausses. Détecter que « cette affirmation est fausse » exige soit une base de données exhaustive de toutes les fausses affirmations jamais faites (impossible à tenir à jour), soit une couche de vérification des faits appliquée à chaque vidéo (intenable sur le plan informatique comme politique). La plateforme se contente de repérer certains complots connus par mots-clés et de reléguer le contenu limite au moyen de l’algorithme. La nouvelle désinformation contourne les deux.

L’évolution du vocabulaire est le cœur du problème. Les créateurs démonétisés pour une formulation passent à une nouvelle formulation qui veut dire la même chose. « Les vaccins causent l’autisme » devient « les adjuvants vaccinaux et le lien immuno-développemental ». Le filtre par mots-clés ne détecte pas la nouvelle formulation avant des mois. L’auditoire reçoit le même contenu avec un nouveau vocabulaire.

La « pseudoscience déguisée en bien-être » est le plus grand angle mort de la plateforme. Le contenu bien-être est énorme et largement permis; la frontière entre « santé alternative » et « désinformation médicalement dangereuse » exige un jugement que YouTube ne semble guère pressé d’exercer. Résultat : une vidéo qui prétend qu’une cure de jus guérit une maladie auto-immune côtoie une vidéo sur l’alimentation saine, et la plateforme les traite à peu près de la même façon.

Le langage codé Q et les messages codés complotistes sont conçus pour échapper à la détection. Le vocabulaire est volontairement anodin : « la tempête », « réveillez-vous », « faites vos propres recherches ». Et ne forme des schémas reconnaissables qu’une fois lu dans son ensemble. Le filtre par mots-clés n’en signale aucun.

La détection des hypertrucages est encore techniquement immature à l’échelle de la plateforme. Certains hypertrucages très médiatisés sont repérés; le volume quotidien. Un faux extrait d’un sénateur, une vidéo truquée d’un événement. Ne l’est généralement pas.

La détection de Watchly cherche le schéma : le vocabulaire des complots connus, les structures de remède miracle (« ce [produit] a guéri ma [maladie grave] »), les conseils d’arrêter un médicament, les schémas de remèdes dangereux, les hypertrucages présentés comme réels et le langage codé Q. Le dictionnaire de schémas est mis à jour régulièrement, parce que le vocabulaire change. Nous penchons vers le signalement quand des affirmations se présentent comme des faits vérifiables et sont fausses; nous ne signalons pas les opinions.