La spirale YouTube qui commence avec Bluey et finit dans le bizarre

À quoi ça ressemble, concrètement

Bluey se termine. La petite miniature bleue dans la colonne des suggestions, celle qui avait l’air d’être Bluey, n’était pas Bluey. C’était une compilation faite par des fans. La compilation enchaîne automatiquement vers une chaîne de réactions. La chaîne de réactions enchaîne vers un top 10 des « dessins animés pour enfants les plus bizarres ». Douze minutes plus tard, votre enfant regarde des images granuleuses mettant censément en vedette Spider-Man et Elsa. En réalité, ce sont deux adultes en costumes bon marché qui jouent une scène d’hôpital. Il a six ans. Il n’en parlera pas au souper. Vous l’apprendrez par hasard, des semaines plus tard, quand il posera une question qui n’a aucun sens.

Ou encore : votre enfant adore les parties de Minecraft commentées. Il regarde un créateur familial suivi par 8 millions d’abonnés. La colonne des suggestions propose un autre créateur Minecraft. Ce créateur convient à des enfants de 9 ans, mais il emploie un langage grossier et lance des insultes en clavardage vocal que vous ne choisiriez pas pour un enfant de 6 ans. Trois vidéos plus loin dans la file de lecture automatique, les recommandations ont dérivé vers des créateurs plus crus, parce que les créateurs plus crus obtiennent plus de temps de visionnement par affichage. Votre enfant n’a pas bougé. C’est la plateforme qui l’a déplacé.

Ou encore : c’est un dimanche pluvieux et vous avez mis une vidéo de science pour enfants. Vraie enseignante, vraie ambiance de classe, parfaitement correct. La colonne des suggestions propose une autre vidéo de science. Deux recommandations plus tard, le fil affiche du contenu platiste emballé comme « ce qu’on ne veut pas que vous sachiez ». Le contenu conspirationniste génère beaucoup de temps de visionnement. L’algorithme se fiche bien que votre enfant ait huit ans.

Ce que les parents comprennent mal, c’est que la spirale n’est pas un échec de modération. C’est la plateforme qui fonctionne correctement. Le système de recommandation de YouTube a été bâti pour maximiser le temps qu’une personne passe à regarder. Tout le reste, l’adéquation du contenu à l’âge, l’exactitude des faits, la routine du coucher de votre enfant, découle de ce seul chiffre. Quand le système constate qu’un contenu plus cru, plus bizarre, plus bruyant, plus intense sur le plan émotif retient les gens devant l’écran, il en sert davantage. C’est tout le mécanisme.

Le plus cruel, c’est que la spirale est invisible pendant qu’elle se produit. Pas d’avertissement, pas de bannière « vous venez de quitter la zone sécuritaire », pas de page tampon. La colonne des suggestions se rafraîchit, tout simplement. La vidéo suivante démarre toute seule. Votre enfant ne remarque pas la dérive, parce que chaque étape semble raisonnable par rapport à la précédente. Le temps que quelqu’un puisse s’en rendre compte, vous êtes à quatre sauts de distance et le contenu a complètement changé de nature.

Pourquoi c’est pire que ça en a l’air

Avant environ dix ans, les enfants n’ont pas le recul nécessaire pour se dire « ce n’est pas ce que j’étais venu regarder ». Les adultes le font constamment : on sent la dérive, on ferme l’onglet. Les enfants n’ont pas encore ce détecteur interne. Ce qui est à l’écran, c’est ce qu’ils regardent, point final. La conception de la plateforme suppose une personne capable de se corriger elle-même. Votre enfant n’en est pas encore là.

Il y a aussi un effet cumulatif que les parents sous-estiment. Une seule vidéo bizarre dans une séance, ça se rattrape. Mais trois semaines d’un algorithme qui tire constamment vers du contenu plus bruyant, plus rapide, plus cru, ça reprogramme ce que votre enfant considère comme normal. Il n’arrive plus à apprécier un épisode tranquille de Bluey, parce que toutes les vidéos regardées entre-temps ont entraîné son attention à chercher des pics. La spirale n’est pas un événement isolé, c’est un déplacement du point de référence.

Et il y a un problème de rétroaction. Plus votre enfant regarde une recommandation plus crue, même à contrecœur, plus l’algorithme y voit un signal qu’il en veut davantage. Un seul clic de curiosité sur une miniature peut teinter les deux semaines de recommandations qui suivent. La plupart des parents n’ont aucune idée que ça se produit, parce qu’ils ne voient pas le fil que leur enfant voit vraiment.

Comment Watchly vous enlève ça des épaules

Watchly ne filtre pas la spirale. Il retire la structure qui rend la spirale possible. Il n’y a pas de colonne de recommandations, pas de « À suivre » qui enchaîne vers n’importe quoi, pas de défilement infini. L’écran d’accueil de votre enfant, c’est une bibliothèque que vous contrôlez : les chaînes que vous avez ajoutées, les bibliothèques que vous avez importées de nos modèles, et rien d’autre. La vidéo se termine et l’écran revient à la bibliothèque. Ce que votre enfant regarde ensuite se trouve déjà dans la bibliothèque; jamais de surprise.

L’autre moitié de la réponse, c’est que nous appliquons un filtrage des transcriptions même à l’intérieur de la bibliothèque. Un créateur que vous avez approuvé l’an dernier pourrait publier quelque chose de déplacé le mois prochain. Notre IA analyse les transcriptions selon 21 critères (grossièretés, violence, contenu sexuel, thèmes effrayants et plus) et fait remonter tout ce qui est douteux avant que votre enfant le voie. Vous pouvez passer outre en deux touches. La bibliothèque reste propre sans que vous ayez à revisionner les nouveautés.

Si votre enfant demande une nouvelle chaîne, vous pouvez l’ajouter depuis le tableau de bord parent. Ça prend une dizaine de secondes. Le scénario que les parents nous décrivent sans cesse : l’enfant demande un créateur le samedi matin. Le parent regarde la chaîne trente secondes, puis l’ajoute (ou pas). La découverte a encore lieu. Elle passe simplement par vous plutôt que par une file de lecture automatique sans interrupteur.

Nous ne prétendons pas que le système est parfait. Le clavardage vocal en direct dans les parties de jeux, qui n’est jamais sous-titré, reste un angle mort pour tout filtre fondé sur les transcriptions, et nous le disons honnêtement. Mais la spirale structurelle, Bluey qui mène à un inconnu au visage peinturé en douze minutes, ne peut pas se produire dans Watchly. La colonne des suggestions n’est pas là pour la déclencher.