Quand les dessins animés n’en sont pas

À quoi ressemble vraiment le contenu déguisé

Un enfant de 6 ans clique sur une miniature où Spider-Man et Elsa se font un câlin. La vidéo commence doucement. Deux minutes plus tard, le ton change : une scène violente, de l’horreur corporelle ou du contenu sexualisé. L’enfant est trop jeune pour quitter la vidéo. Il la regarde. L’algorithme de la plateforme, ayant appris que ce compte réagit aux miniatures de personnages pour enfants, lui recommande dix autres vidéos du même genre.

C’est le schéma Elsagate, du nom d’une vague de vidéos troublantes mettant en scène des personnages d’émissions pour enfants, qui a déferlé sur YouTube vers 2017. La couverture médiatique importante de l’époque a forcé la plateforme à supprimer des milliers de chaînes. Le schéma n’a pas disparu. Il a évolué. De nouveaux personnages subissent le même traitement. Les miniatures deviennent plus sophistiquées. L’appât-et-substitution se cache dans des recoins de l’algorithme où les grands médias regardent rarement.

Une catégorie à part : le contenu « brainrot ». Des boucles de Skibidi Toilet, de l’audio « rizz sigma skibidi » en répétition, des vidéos de salade de mots générées par IA, sans aucune trame narrative. Chaque vidéo, prise isolément, est courte et inoffensive en apparence. C’est l’effet cumulatif sur le conditionnement de l’attention qui inquiète les chercheurs en développement de l’enfant. Les enfants qui consomment beaucoup de boucles « brainrot » disent trouver beaucoup plus difficile de s’intéresser à un contenu narratif linéaire (une vidéo éducative de 12 minutes, un long métrage). Le phénomène est assez documenté pour être devenu un sujet de préoccupation à part entière en pédiatrie.

Le contenu de jeux classés M présenté de façon enfantine est la version la plus courante, au quotidien, de cette catégorie. Un créateur à la voix d’enfant, avec des miniatures aux couleurs pastel, joue à Grand Theft Auto, à Call of Duty ou à un jeu d’horreur. La miniature ressemble à du contenu Roblox ou Minecraft. L’enfant clique. Le voilà dans du contenu classé M. La plateforme n’impose pas de restriction d’âge à la vidéo de jeu, parce que la classification du jeu ne s’applique pas aux vidéos qui le montrent.

Les sursauts d’horreur (jump scares) insérés dans des vidéos douces forment un sous-genre à part. Une vidéo d’ASMR « lapin apaisant » qui passe soudainement à une image d’horreur à la marque des 3 minutes. Une « compilation attendrissante » où s’est glissé un seul extrait troublant. Le choc est le moteur de l’engagement.

Le contenu d’anxiété apocalyptique visant les enfants est un sous-ensemble plus petit, mais préoccupant. « La fin du monde, c’est dans 2 ans et tu vas être tout seul. » « Si tu ne te prépares pas à X, tu ne t’en remettras jamais. » Ce discours retourne l’anxiété existentielle contre des enfants qui n’ont pas le contexte pour évaluer ces affirmations.

Et puis il y a le retour de Momo et des creepypastas dans les vidéos destinées aux enfants. Des images d’horreur troublantes insérées dans du contenu que l’algorithme achemine vers les enfants. La plateforme sévit périodiquement; le phénomène revient sous de nouveaux noms.

Pourquoi le contenu déguisé compte plus que le contenu ouvertement inapproprié

Il y a un constat contre-intuitif sur les torts causés par le contenu pour enfants. Le contenu ouvertement inapproprié est, à certains égards, plus facile à gérer : les parents le reconnaissent tout de suite, on met généralement les enfants en garde contre ce genre, et les systèmes de détection de la plateforme fonctionnent sur lui. Le contenu déguisé est plus difficile, parce que l’enfant est déjà dedans avant que quiconque se rende compte qu’il y a un problème.

Un enfant de 7 ans qui regarde ce qu’il croit être un dessin animé de Spider-Man n’a pas la maturité développementale pour quitter la vidéo quand le ton change. Il reste jusqu’au bout. L’image frappe. L’image reste. La recherche sur le trauma pédiatrique est claire : l’exposition des jeunes enfants à du contenu troublant, en particulier à du contenu qui déjoue leurs attentes de sécurité, produit des effets de détresse mesurables, parfois durables.

Le contenu « brainrot » présente un profil de tort différent, mais réel. Les effets sur la capacité d’attention des grands consommateurs sont documentés dans la recherche pédiatrique actuelle. Les enfants dont le niveau de base de dopamine est recalibré par des boucles courtes, intenses et sans trame narrative ont nettement plus de difficulté à s’investir dans le contenu scolaire, la lecture et l’apprentissage de plus longue haleine. Parler de « tort », c’est un jugement de valeur; parler de conséquences, non.

L’exposition des jeunes enfants aux jeux classés M est un domaine étudié depuis longtemps. L’American Academy of Pediatrics publie depuis des années des recommandations sur le contenu de jeux adapté à l’âge. Le décalage entre la classification des jeux et l’accessibilité des vidéos de jeu est un problème structurel que la plateforme n’a pas réglé.

Le contenu d’anxiété apocalyptique a entraîné une hausse documentée de l’écoanxiété, du défaitisme climatique et de la détresse existentielle généralisée chez les préados au cours des dernières années. Le mécanisme est le même que pour la désinformation : l’exposition répétée façonne la vision du monde plus vite que les preuves contraires ne peuvent la corriger.

Pourquoi YouTube ne peut pas repérer la plupart de ces contenus

YouTube a investi dans la modération du contenu pour enfants depuis Elsagate. Le pire contenu finit effectivement par être repéré. Mais le schéma structurel, soit des miniatures d’allure enfantine qui livrent du contenu inapproprié, continue de se régénérer, parce que la détection de la plateforme cible des signatures précises plutôt que le mécanisme sous-jacent.

Le contenu « brainrot » respecte toutes les politiques de la plateforme. Il n’existe aucune infraction du type « conditionne les enfants à une attention de courte durée ». L’algorithme de la plateforme récompense les boucles courtes et accrocheuses parce qu’elles génèrent beaucoup de temps de visionnement par rapport à leur durée.

Le contenu de jeux classés M présenté de façon enfantine est permis par la structure même de la plateforme. Celle-ci n’applique pas la classification des jeux aux vidéos de jeu. L’étiquette « conçu pour les enfants » (Made for Kids) est laissée au choix du créateur. La plupart des créateurs de jeux classés M ne s’autoétiquettent pas « conçu pour les enfants », parce que cela réduit leurs revenus. La présentation enfantine est la stratégie SEO du créateur; la plateforme ne la contrôle pas.

Les sursauts d’horreur dans le contenu déguisé échappent à la détection parce qu’ils sont courts, que le contenu autour est anodin et que les systèmes automatisés de la plateforme ne sont pas conçus pour détecter qu’une vidéo « a été présentée comme une chose et en contient une autre ». Un humain verrait l’appât-et-substitution tout de suite; le système automatisé voit une vidéo avec un extrait d’horreur de 2 secondes et beaucoup de contenu normal.

Le langage d’anxiété apocalyptique relève de la liberté d’expression, un terrain que la plateforme n’a montré aucune envie d’encadrer.

La détection de Watchly cherche les schémas : vocabulaire de personnages pour enfants dans les titres associé à des transcriptions au contenu troublant, signatures de boucles « brainrot » (vocabulaire Skibidi, rythmes de salade de mots générée par IA), détection des noms de jeux classés M peu importe la miniature, marqueurs de changement de ton à l’intérieur d’une même vidéo, schémas de langage apocalyptique visant un jeune public. Les déguisements évoluent vite; nous mettons notre détection à jour en conséquence.