Quand la cruauté devient la blague

À quoi ressemblent vraiment les modèles de comportements toxiques

Un créateur qui compte plusieurs millions d’abonnés organise un « mauvais tour » : il entre dans un café et crie après la barista jusqu’à ce qu’elle pleure. La vidéo est monétisée. La miniature montre le moment de détresse. Le compteur dépasse dix millions de vues en une semaine. Votre enfant regarde ça et rit parce que le créateur rit. Ce créateur est, structurellement, un artiste de la cruauté; la plateforme, elle, appelle ça du divertissement.

Ce n’est qu’un coin du genre des comportements toxiques. La catégorie plus large comprend : les mauvais tours nuisibles où le tort EST le contenu (provoquer une peur réelle, de la détresse ou des dommages matériels), la maltraitance animale déguisée en « sauvetage » (l’animal a été délibérément placé dans la situation dangereuse pour la caméra), la destruction de l’environnement pour des vues (saccager des lieux publics, abîmer la nature), le vol glorifié et les tutoriels de vol à l’étalage, les vidéos « X $ de trucs gratuits » qui sont en pratique des aveux de fraude, et les numéros de « Karen » où c’est le créateur qui EST la Karen et où le public est censé applaudir.

Un sous-genre frappe particulièrement fort chez les enfants : le contenu sur la tricherie. « Voici comment j’ai eu un A dans tous mes cours sans étudier », « le truc qui permet de sauter les examens », la promotion d’usines à travaux, les tutoriels de dissertations générées par IA présentés comme de la débrouillardise. Ce contenu ne se présente pas comme « je suis un fraudeur scolaire ». Il se présente comme des trucs de vie. L’enfant intègre l’idée qu’être brillant, c’est déjouer le système plutôt que le maîtriser.

La maltraitance du personnel de service forme son propre sous-genre déprimant. Des créateurs se rendent dans des restaurants-minute, des commerces de détail ou des centres d’appels et orchestrent l’humiliation des employés pour appâter les vues. Ces employés sont généralement au salaire minimum, souvent jeunes, et n’ont aucun choix quant au fait de se retrouver devant la caméra. Le créateur tire son contenu de leur détresse. La vidéo est monétisée.

Le vol et le vandalisme glorifiés forment une catégorie depuis les débuts de YouTube. « Regardez-moi voler ceci », « on a saccagé cet endroit pour les vues », « regardez tout ce que j’ai réussi à prendre sans me faire prendre ». Parfois le vol est réel; parfois il est mis en scène pour l’engagement. Dans les deux cas, le message. Que prendre, c’est être brillant. Est donné en exemple.

Et puis il y a la catégorie des vidéos « j’ai crié après cet inconnu ». Le créateur provoque un conflit avec des gens au hasard, filme le conflit et le publie. Parfois l’inconnu est dans le coup (ce qui pose son propre problème éthique); souvent, il ne l’est pas. Le créateur profite du fait que ces inconnus ne peuvent pas donner leur consentement.

Pourquoi c’est plus grave que ne le laisse croire l’argument « c’est juste du divertissement »

Les parents entendent parfois cet argument de leur enfant : « c’est juste du divertissement, je ne ferai pas ça pour vrai ». Parfois, c’est vrai. Mais la recherche sur l’apprentissage par imitation est claire depuis des décennies : les enfants qui voient à répétition un comportement célébré sont plus susceptibles de l’essayer eux-mêmes, plus susceptibles de le considérer comme normal et plus susceptibles de le trouver drôle quand ils y sont confrontés dans la vraie vie. Le mécanisme n’exige aucune décision consciente de la part de l’enfant; il agit avant même le raisonnement.

Les expériences de la poupée Bobo, dans les années 1960, l’ont établi clairement. L’environnement de contenu algorithmique d’aujourd’hui amplifie le phénomène. Un enfant qui regarde trois ou quatre vidéos de comportements toxiques par semaine, intégrées au contenu d’un créateur en qui il a confiance, se fait entraîner à une vision du monde qu’il n’exprime pas, mais qu’il absorbe.

C’est le contenu sur la tricherie dont le tort scolaire est le plus directement traçable. Des écoles ont documenté une hausse de techniques de tricherie précises après que des vidéos virales les aient montrées. La vague du « faire écrire ta dissertation par l’IA » a été largement accélérée par du contenu de créateurs qui la présentaient comme futée plutôt que malhonnête.

Le contenu de maltraitance animale est le sous-genre précis où les enjeux sont les plus élevés. Les créateurs qui mettent en scène des « sauvetages » pour faire du contenu blessent généralement l’animal au passage; ce tort reste invisible pour le spectateur, qui ne voit que le moment du sauvetage. Des organismes de protection des animaux ont documenté cette catégorie comme une source de cruauté réelle et en croissance.

Le genre qui célèbre les « Karen » mérite une mention à part, parce que c’est l’une des sous-catégories les plus populaires. Le contenu où un créateur crie après des employés de service, « démolit » des gens en public ou fait pleurer des inconnus cumule des centaines de millions de vues. Le message donné en exemple. Que l’agressivité envers des personnes en position de moindre pouvoir est drôle et cool. Pèse particulièrement lourd sur les jeunes spectateurs qui apprennent comment interagir avec le monde.

Pourquoi YouTube n’arrive pas à repérer la plupart de ces contenus

YouTube a des politiques contre le harcèlement, les préjudices et la cruauté envers les animaux. Ces politiques existent vraiment. La détection, encore une fois, est surtout réactive. Les signalements sont examinés. Les examens sont lents. Le temps que l’application des règles se fasse, le contenu a déjà été monétisé et le public l’a déjà consommé.

Le défi structurel, c’est que les systèmes automatisés de la plateforme sont conçus pour attraper les infractions explicites aux politiques. Violence graphique, contenu explicite, menaces directes. Un comportement toxique enrobé d’humour contourne ces systèmes. Un créateur qui crie après une barista ne menace pas de violence; il crie. Un créateur qui vole dans un commerce ne montre pas de violence graphique; il montre un vol. Un créateur qui met en scène le « sauvetage » d’un animal ne montre pas de maltraitance animale à l’écran; il montre le sauvetage. Le classificateur visuel voit des performances; le classificateur audio entend du commentaire; rien n’est signalé.

Le contenu sur la tricherie n’est pratiquement pas encadré, parce qu’il n’enfreint aucune politique de la plateforme. Les créateurs qui vendent de l’aide à la fraude scolaire font souvent face à des mesures minimales.

Le contenu de maltraitance du personnel de service respecte lui aussi les politiques dans la plupart des cas. Selon les règles de la plateforme, l’employé n’est pas officiellement une « cible de harcèlement » à moins d’être identifiable publiquement, et le créateur peut se réclamer de l’humour pour justifier à peu près n’importe quelle exploitation.

La célébration des « Karen » se bute au même problème de présentation subjective que les autres contenus défendus au nom de l’humour. Quand un cas est escaladé, les réviseurs humains de la plateforme tendent par défaut à l’autoriser au motif que « l’humour est permis ». La frontière entre la satire d’un mauvais comportement et sa célébration exige un jugement que YouTube montre peu d’envie d’exercer.

La détection de Watchly fonctionne parce que nous n’appliquons pas une politique mondiale. Nous cherchons des motifs précis et nous vous laissons décider. La cruauté présentée comme de l’humour, la tricherie présentée comme de la débrouillardise, le vocabulaire de célébration des « Karen », les signaux de sauvetage animal mis en scène, le vol présenté comme du contenu. Tout est repéré à partir du langage et de la structure. Vous voyez le moment, vous fixez la règle.