Quand « N’essayez pas ça à la maison » ne suffit pas

À quoi ressemblent vraiment les contenus de défis dangereux

En 2017 et 2018, des enfants un peu partout ont mis des capsules de détergent à lessive dans leur bouche à cause d’un défi lancé sur YouTube et TikTok. Plusieurs en sont morts. La plateforme a fini par bannir ce contenu précis, et l’histoire a fait les manchettes nationales. Le schéma à l’origine de ces drames, soit un défi qui porte un nom, doublé d’une mécanique d’imitation virale, n’a jamais disparu. De nouveaux noms de défis apparaissent tous les quelques mois, mais le mécanisme de fond reste le même.

Les défis se divisent en trois catégories selon leur impact dans le monde réel. Les défis dangereux pour soi (Tide Pod, Blackout / évanouissement / étouffement, défis de feu et de brûlure, piments forts extrêmes comme le One Chip Challenge ou le Carolina Reaper, défi sel et glace, bains de glace extrêmes, apnée dangereuse, caféine à forte dose, caisses de lait, parkour ou cascades sur les toits sans sécurité, cascades de saut ou de chute). Les défis qui font du tort aux autres (défis de gifles, défis de poussées, attaques « knockout » ou « one-chance », farces-surprises qui s’en prennent à des passants ou à des inconnus, guets-apens humiliants, arroser ou asperger des inconnus, farces dangereuses au restaurant). Les défis qui causent des dommages matériels (vols dans les écoles de type Devious Lick, tendances de vandalisme, défis « saccager les toilettes », tendances de destruction dans les magasins et les restaurants, défis de destruction de l’environnement).

Un cycle de défi précis pour comprendre le mécanisme : en 2021, la tendance « Devious Lick » sur TikTok et YouTube incitait des élèves à voler des objets (souvent des distributeurs de savon) dans les toilettes de leur école et à publier les vidéos. Des écoles ont rapporté des dizaines de milliers de dollars de dommages matériels, des suspensions et des journées de classe perturbées. Le défi avait un nom précis, des mots-clics reconnaissables et une mécanique d’imitation évidente. Le temps que la plateforme réagisse, le mal était fait. Le défi suivant l’a remplacé en quelques semaines.

Parmi les défis qui font du tort aux autres, on trouve le « knockout game » ou les défis « one-chance », où des ados agressent des inconnus au hasard devant la caméra. Ces défis ont causé de vraies blessures et mené à des arrestations. Ils changent de nom tous les quelques mois, mais la mécanique de fond reste la même.

Les défis de piments forts ont causé des hospitalisations documentées. Le One Chip Challenge, en particulier, a entraîné la mort d’au moins un adolescent en 2023, ce qui a mené au rappel du produit. La capacité de la plateforme à détecter « tout défi impliquant des épices extrêmes » demeure inégale.

Pour Watchly, c’est la cascade d’imitation qui compte, peu importe l’avertissement « n’essayez pas ça à la maison ». La recherche sur l’imitation chez les enfants est claire : les avertissements ne réduisent pas les taux d’imitation et, dans certains cas, ils attisent la curiosité. Nous signalons les contenus qui montrent, réalisent, encouragent ou évoquent des défis dangereux, y compris ceux qui se présentent comme anti-imitation tout en conservant leur attrait pour l’imitation.

Pourquoi c’est un thème à part

Les défis dangereux recoupent en partie le thème Modèles de comportements toxiques (thème 12), mais ils méritent une détection distincte. La raison : le schéma de cascade d’imitation. Une vidéo qui célèbre un mauvais comportement est préoccupante; un défi viral qui porte un nom est structurellement différent, parce que ce nom, combiné à la mécanique virale, produit des conséquences précises que les parents ont raison de surveiller.

Une étude de revue pédiatrique de 2024 a suivi précisément l’exposition aux défis nommés sur YouTube et sur les plateformes de vidéos courtes pendant 24 mois. Les résultats étaient sans équivoque : les enfants qui consommaient régulièrement du contenu de défis étaient, de façon mesurable, plus susceptibles de tenter de les imiter; le délai entre l’apparition d’un défi viral et la réaction de la plateforme restait assez long pour qu’une imitation importante se produise avant toute modération; et les avertissements dans les contenus de défis n’avaient pratiquement aucun effet sur les taux de tentatives d’imitation.

Les torts causés sont aussi plus directement traçables que pour d’autres catégories de contenu. Les données des urgences, les dossiers disciplinaires des écoles et (dans les pires cas) les rapports de coroners ont maintes fois relié des incidents précis à des défis viraux précis. La plateforme a reconnu le lien dans certains cas (Tide Pod, Blackout), mais pas dans tous.

Watchly adopte une position prudente dans cette catégorie en particulier. Dans le doute, nous signalons. Le coût d’un faux positif sur un défi inoffensif, c’est une autorisation manuelle de votre part; le coût d’un faux négatif sur un défi à cascade d’imitation, c’est votre enfant qui tente de le reproduire.

Pourquoi YouTube n’arrive pas à attraper la plupart de ces contenus à temps

YouTube a des politiques qui interdisent les contenus encourageant les activités dangereuses, et la plateforme réagit bel et bien à certains défis viraux en retirant les contenus les plus flagrants. Le problème, c’est le délai : le temps qu’un défi soit repéré et que la plateforme organise une réponse, des semaines ont passé et la cascade d’imitation a déjà fait son œuvre.

Pour détecter un défi nommé, il faut que l’équipe de sécurité de la plateforme le reconnaisse. Un nouveau défi passe généralement par un nom, un mot-clic et une structure de mème qui prennent du temps à être repérés. Les systèmes automatisés de la plateforme attendent habituellement qu’un humain fasse remonter le cas avant de signaler quoi que ce soit.

L’avertissement « n’essayez pas ça à la maison » est l’échappatoire préférée de la plateforme. Le créateur ajoute un avertissement, et le contenu passe sans problème. La recherche qui contredit l’hypothèse de l’avertissement n’a mené à aucun changement de politique. L’incitatif financier va à l’encontre d’une modération plus musclée : le contenu de défis génère énormément d’engagement.

Certains défis de niche ou régionaux n’apparaissent parfois jamais sur le radar de sécurité de la plateforme. Un défi populaire dans un seul centre de services scolaire peut causer des torts importants à l’échelle locale avant la moindre modération.

Le contenu éducatif anti-imitation se fait prendre dans les mêmes filets que le contenu qui encourage l’imitation, ce qui amène parfois la plateforme à trop restreindre le contenu éducatif tout en restreignant trop peu le contenu incitatif.

La détection de Watchly repère les schémas : les défis nommés tirés d’un dictionnaire mis à jour régulièrement, les structures qui correspondent à de nouveaux défis sans nom (un nom de défi, plus le vocabulaire du défi lancé, plus un impact dans le monde réel), les références même quand le créateur se présente comme anti-imitation, et des repères temporels quand le défi apparaît précisément dans le contenu. Nous signalons avec prudence parce que le coût du retard est élevé.