När grymheten är skämtet

Hur giftiga beteendeförebilder faktiskt ser ut

En kreatör med flera miljoner prenumeranter iscensätter en ”prank” där hen går in på ett kafé och skriker på baristan tills hon börjar gråta. Videon är monetiserad. Miniatyrbilden visar ögonblicket av förtvivlan. Visningarna passerar tio miljoner på en vecka. Ditt barn tittar och skrattar eftersom kreatören skrattar. Kreatören är, i grunden, en grymhetsartist; plattformen kallar det underhållning.

Det här är ett hörn av genren giftigt beteende. Den bredare kategorin omfattar: skadliga pranks där skadan ÄR innehållet (verklig rädsla, förtvivlan eller skadegörelse), djurplågeri förklätt som ”räddning” (djuret sattes medvetet i den farliga situationen för kamerans skull), naturförstörelse för visningar (skräpa ner offentliga platser, skada naturen), glorifierade stölder och snatteriguider, videor om ”gratisprylar för X dollar” som i praktiken är bekännelser om bedrägeri, och ”Karen”-uppträdanden där kreatören SJÄLV är Karen och publiken ska hylla det.

En särskild undergrupp som slår hårt mot barn: fuskinnehåll. ”Så fick jag högsta betyg i alla ämnen utan att plugga”, ”kryphålet som låter dig hoppa över proven”, reklam för uppsatsfabriker, guider i AI-genererade uppsatser framställda som smarthet. Materialet presenteras inte som ”jag är en akademisk bedragare”. Det presenteras som lifehacks. Barnet tar till sig tankesättet att smarthet betyder att slå systemet snarare än att bemästra det.

Illa behandlad servicepersonal är en egen deprimerande undergenre. Kreatörer som går till snabbmatsrestauranger, butiker eller kundtjänster och arrangerar förnedringar av personalen som klickbete. Personalen har oftast minimilön, är ofta unga och har inget val om att hamna framför kameran. Kreatören utvinner innehåll ur deras förtvivlan. Videon är monetiserad.

Glorifierade stölder och skadegörelse har varit en kategori sedan YouTubes tidiga dagar. ”Kolla när jag stjäl X”, ”vi förstörde stället för visningarnas skull”, ”se hur mycket jag kom undan med”. Ibland är stölden verklig; ibland är den iscensatt för engagemangets skull. Hur som helst blir tankesättet. Att det är smart att ta. Något som barnet tar efter.

Och så finns kategorin ”jag skrek på en främling”. Kreatören framkallar konflikter med slumpvisa människor, filmar konflikten och lägger upp den. Ibland är främlingen med på det (vilket är ett etiskt problem i sig); ofta är hen inte det. Kreatören tjänar pengar på att främlingarna inte kan ge sitt samtycke.

Varför det här spelar större roll än försvaret ”det är bara underhållning” antyder

Det finns ett försvar som föräldrar ibland hör från sina barn: ”Det är bara underhållning, jag tänker inte göra så på riktigt.” Ibland stämmer det. Men forskningen om beteendeinlärning har varit tydlig i decennier: barn som gång på gång ser ett beteende hyllas är mer benägna att själva pröva det, mer benägna att se det som normalt och mer benägna att tycka att det är roligt när de stöter på det i verkligheten. Mekanismen kräver inte att barnet fattar ett medvetet beslut; den verkar före förnuftet.

Bobo-dockeexperimenten från 1960-talet visade detta tydligt. Dagens algoritmstyrda innehållsmiljö förstärker det. Ett barn som ser tre eller fyra videor med giftigt beteende i veckan, inbäddade hos en kreatör som barnet litar på, tränas i en världsbild som hen inte sätter ord på men tar till sig.

Fuskinnehåll har den mest direkt spårbara skadan för skolarbetet. Skolor har dokumenterat ökningar av specifika fusktekniker efter att virala videor har visat dem. Vågen av ”låt AI skriva din uppsats” påskyndades kraftigt av kreatörsinnehåll som framställde det som smart snarare än oärligt.

Innehåll med djurplågeri är den undergrupp där insatserna är högst. Kreatörer som iscensätter ”räddningar” för innehållets skull skadar oftast djuret i processen; skadan syns inte för tittaren som bara ser räddningsögonblicket. Djurskyddsorganisationer har dokumenterat kategorin som en verklig och växande källa till grymhet.

Genren som hyllar ”Karens” förtjänar en särskild kommentar eftersom den är en av de mest populära underkategorierna. Innehåll som hyllar kreatören när hen skriker på servicepersonal, ”sätter folk på plats” offentligt eller får främlingar att gråta har hundratals miljoner visningar sammanlagt. Tankesättet som visas upp. Att aggression mot människor i lägre ställning är roligt och coolt. Slår särskilt hårt mot yngre tittare som håller på att lära sig hur man beter sig mot omvärlden.

Varför YouTube inte kan fånga det mesta av detta

YouTube har riktlinjer mot trakasserier, skada och djurplågeri. Riktlinjerna är på riktigt. Upptäckten är, återigen, mest reaktiv. Anmälningar granskas. Granskningarna går långsamt. När åtgärder väl vidtas har innehållet redan monetiserats och publiken redan tittat.

Den strukturella utmaningen är att plattformens automatiska system är byggda för att fånga uttryckliga regelbrott. Grovt våld, explicit innehåll, direkta hot. Giftigt beteende i komisk inramning tar sig förbi de systemen. En kreatör som skriker på en barista hotar inte med våld; hen skriker. En kreatör som stjäl från en butik visar inte grovt våld; hen visar en stöld. En kreatör som iscensätter en ”räddning” av ett djur visar inte djurplågeri framför kameran; hen visar räddningen. Bildklassificeraren ser uppträdanden; ljudklassificeraren ser kommentarer; ingenting flaggas.

Fuskinnehåll är i princip helt oövervakat eftersom det inte bryter mot någon av plattformens riktlinjer. Kreatörer som säljer hjälp med akademiskt fusk möter ofta minimala åtgärder.

Innehåll där servicepersonal behandlas illa ryms på samma sätt oftast inom riktlinjerna. Den anställda räknas inte formellt som ”mål för trakasserier” enligt plattformens regler om hen inte går att identifiera offentligt, och kreatören kan hävda ”humor” som inramning för nästan vilket utnyttjande som helst.

Hyllningar av ”Karens” stöter på samma problem med subjektiv inramning som annat innehåll som försvaras som humor. Plattformens mänskliga granskare utgår, när innehåll eskaleras, från att tillåta det med motiveringen att ”humor är tillåtet”. Gränsen mellan satir över dåligt beteende och hyllning av dåligt beteende kräver ett omdöme som YouTube visar liten lust att utöva.

Watchlys upptäckt fungerar eftersom vi inte upprätthåller en global policy. Vi läser efter specifika mönster och låter dig bestämma. Grymhet inramad som humor, fusk inramat som smarthet, ordförråd som hyllar ”Karens”, tecken på iscensatta djurräddningar, stöld inramad som innehåll. Allt fångas i språket och strukturen. Du ser ögonblicket, du sätter regeln.