Du contenu troublant déguisé en miniatures d’Elsa et de Spider-Man

À quoi ça ressemble concrètement

Le format est devenu un genre à part entière. On l’appelle Elsagate depuis 2017 environ, quand le phénomène a fait les manchettes. De l’animation 3D bon marché ou des vidéos en prises de vue réelles avec des costumes à petit budget. Des personnages connus, Spider-Man, Elsa, les princesses Disney, Peppa Pig, Mickey, les chiots de la Pat’ Patrouille. Des miniatures colorées qui ressemblent exactement à ce qu’un enfant de quatre ans choisirait. La vidéo elle-même commence parfois normalement puis se dégrade, est parfois bizarre du début à la fin, contient parfois des images qu’un parent décrirait comme « juste pas correctes ». Des thèmes médicaux. Des mises en scène sexualisées habillées de couleurs enfantines. De la violence présentée comme de l’humour.

La raison d’être de ce contenu est d’une simplicité déprimante : l’argent. Le contenu pour enfants est extrêmement rentable sur YouTube. Les enfants revoient les vidéos, ne sautent pas les pubs, et ces pubs sont vendues à prix fort comme inventaire « familial ». Produire du vrai contenu pour enfants coûte cher : animateurs, scénaristes, comédiens de doublage, licences. Produire des imitations coûte peu : personnages piratés, scénarios générés par IA, animation automatisée, aucune licence. L’économie a créé une catégorie. La plateforme essaie de la modérer depuis 2017, et la catégorie trouve toujours de nouvelles failles.

La version actuelle est plus difficile à repérer que les originales. Le contenu de style Elsagate d’aujourd’hui passe mieux la première modération. Les titres utilisent des mots codés ou des variantes de noms de personnages qui ne déclenchent pas les filtres évidents. Les miniatures sont conçues pour rester juste à la limite. Le contenu troublant arrive souvent entre quarante secondes et deux minutes, après un début d’apparence normale. Les systèmes de modération accordent beaucoup de poids aux trente premières secondes. À ce moment-là, votre enfant est déjà happé par la vidéo.

Un scénario que des parents nous racontent : un enfant de 4 ans reçoit l’iPad pour quinze minutes pendant le bain de son frère ou de sa sœur. Il cherche Spider-Man dans YouTube Kids. Les résultats montrent le contenu officiel de Marvel, mais aussi une poignée de vidéos faites par des fans ou d’imitations. Les miniatures se ressemblent. L’enfant en choisit une avec un fond coloré et un Spider-Man qui tient la main d’Elsa. La vidéo commence comme un « mariage », puis tourne en quelque chose que le parent décrit ainsi : « Je ne sais même pas comment l’expliquer, c’était juste troublant. » L’enfant est bouleversé. Il ne peut pas vous dire ce qui ne va pas. Le parent se retrouve à réparer des dégâts émotionnels que la plateforme a causés.

Autre scénario : la famille fait un long trajet en auto. L’enfant de 6 ans enchaîne en lecture automatique ce qui ressemble à Peppa Pig. Trois épisodes plus tard, la « Peppa Pig » n’est plus la vraie émission. C’est une imitation où Peppa va chez le dentiste, et les scènes sont dérangeantes. L’enfant remarque que c’est différent, mais continue de regarder parce que l’univers visuel est assez familier. À l’avant, les parents n’entendent rien d’anormal : le son est celui d’un dessin animé ordinaire. Le mal se fait en silence.

L’horreur est dans le déguisement. Si votre enfant tombait sur une vidéo manifestement inappropriée, il sursauterait, le parent le remarquerait, et on pourrait en parler sur-le-champ. Ici, tout est conçu pour paraître banal jusqu’à ce que votre enfant ait déjà absorbé quelque chose. Le déguisement, c’est le mal.

Pourquoi c’est pire que ça en a l’air

Les jeunes enfants traitent le contenu visuel très différemment des adultes. Ils ne sont pas capables de prendre du recul et de se dire « attends, ce n’est pas normal, je devrais arrêter de regarder ». Si Mickey Mouse est à l’écran, leur cerveau classe la vidéo comme du contenu de Mickey Mouse. C’est vrai même quand la scène qui se déroule cloche clairement. Ils n’ont pas les repères pour remettre en question ce qu’ils voient, et c’est exactement ce qui rend le format déguisé si efficace.

Il y a aussi un coût pour le sommeil et la régulation émotionnelle. Les chercheurs en pédiatrie qui étudient l’exposition aux médias rapportent constamment la même chose. Le contenu troublant, mais pas ouvertement violent, est associé à plus de cauchemars, à une anxiété accrue et à des changements de comportement qui apparaissent des jours ou des semaines plus tard. Les parents font souvent le lien après coup. L’enfant a commencé à se réveiller à 2 h du matin la même semaine où il s’est mis à regarder « une nouvelle chaîne de Spider-Man ». L’enfant n’aurait pas pu vous dire pourquoi.

Et il y a un problème de confiance. Les enfants qui se font prendre par du contenu qui avait l’air sûr deviennent plus anxieux face à tout contenu nouveau, ou pire, s’y désensibilisent. Les deux réactions sont mauvaises. L’effet cumulatif du genre, ce ne sont pas des vidéos isolées. C’est un enfant qui ne tient plus pour acquis que la miniature dit ce qu’est la vidéo.

Comment Watchly vous enlève ce poids

La première défense de Watchly contre le contenu de style Elsagate est structurelle. Votre enfant ne voit pas les résultats de recherche ouverts de YouTube. Il ne voit pas de miniatures venues de partout sur YouTube. L’écran affiche seulement la bibliothèque que vous avez construite : les chaînes que vous avez ajoutées, les bibliothèques que vous avez importées à partir de nos modèles sélectionnés par âge. Une fausse vidéo de Spider-Man qui traîne sur YouTube n’apparaît pas dans Watchly à moins d’y avoir été ajoutée. Et elle n’est pas ajoutée, parce que c’est la chaîne officielle Marvel HQ qui se trouve dans la bibliothèque.

La deuxième couche, c’est l’analyse de la transcription par IA. Chaque vidéo de la bibliothèque, y compris celles que vous avez ajoutées vous-même, est analysée selon 21 motifs qui couvrent la violence, le contenu sexuel, les thèmes effrayants, les grossièretés et plus encore. Le truc avec le contenu Elsagate, c’est que même les versions déguisées ont des transcriptions qui ne ressemblent pas à du vrai contenu pour enfants. Interventions chez le dentiste, scénarios d’hôpital, mises en scène romantiques : le dialogue les trahit. Tout ce qui est signalé apparaît dans votre tableau de bord avant que votre enfant le voie.

Pour la plupart des familles, les bibliothèques prédéfinies font le gros du travail. Nous avons une bibliothèque de « vraies émissions préscolaires » qui comprend les chaînes officielles de Bluey, Peppa, Numberblocks, Sesame Street, Daniel Tiger, Mr. Rogers : les vraies sources. Vous importez une bibliothèque, vous avez des centaines de vidéos légitimes, et le problème des imitations est réglé structurellement pour ce groupe d’âge. La bibliothèque se met à jour quand les chaînes officielles publient de nouveaux épisodes.

Nous ne prétendons pas que les pires vidéos n’échappent jamais aux systèmes de modération. Elles y échappent, évidemment, c’est tout l’objet de cette page. Ce que nous disons, c’est qu’un modèle de bibliothèque sélectionnée combiné à l’analyse des transcriptions ferme la voie qu’emprunte Elsagate. La vidéo doit être dans votre bibliothèque pour jouer. La bibliothèque vient de sources auxquelles vous faites confiance. Les transcriptions des vidéos de ces bibliothèques sont vérifiées. Le contenu déguisé qui fonctionnait sur YouTube n’a pas de porte d’entrée équivalente dans Watchly.