Minecraft-kreatörerna som de flesta föräldrar till slut blockerar

Mönstren som föräldrar flaggar vecka efter vecka

Vi ser samma handfull mönster om och om igen i vår supportinkorg. Kreatörerna är olika – kreatören i mejlet i tisdags är inte densamma som i mejlet i fredags – men de underliggande skälen till att föräldrar plockar bort kanaler samlas i ett litet antal återkommande drag. Att sätta namn på dragen är mer användbart än att nämna kanalerna, eftersom dragen inte åldras. Ett mönster som bröt förtroendet för två år sedan är samma mönster som bryter förtroendet den här veckan.

Det första mönstret är den skrikande röststilen. Inte svordomar, inte glåpord, bara ett konstant högenergiskt tryck i rösten. Kreatörens röst ligger på scenvolym under hela videon, utan att någonsin lugna sig. Barn tar till sig det här. De har inte metakognitionen att sortera in det som ”den här personen uppträder, i verkligheten pratar personen inte så här”. Röstenergin blir barnets referens för normal kommunikation, och den dyker upp vid middagsbordet inom några veckor. Föräldrar märker det som ”mitt barn är plötsligt högljutt om allt” innan de kopplar det till kanalen.

Det andra mönstret är klippning full av jumpscares. Även kreatörer med rent ljud kan luta sig mot plötsliga inzoomningar, ljudeffekter och inklippta hopp som framkallar en skrämselreaktion. Skrämselreaktionen är vad algoritmen belönar eftersom den ger de synliga reaktionsbilder som får folk att dela. Den samlade effekten på ett barn är sömnstörningar som föräldrar inte först kopplar till specifika kanaler. Avsnitt 14 i en i övrigt bra serie råkar ha tre inklippta jumpscares, och den natten är barnet vaket klockan två.

Det tredje mönstret är chattbeteende som tolererar glåpord. Kreatörer som livesänder eller lägger upp arkiv av sändningar visar ofta chattmeddelanden på skärmen eller läser upp dem. Om kreatörens chattmoderering är slapp – om hen tolererar glåpord, trakasserier eller vuxet innehåll i chatten utan att ta bort det – når det innehållet tittaren via kreatörens video. Kreatörens eget ljud kan vara helt rent medan chatten i praktiken är ett ofiltrerat kommentarsfält som sänds ut. Föräldrar upptäcker det när barnet använder ett glåpord som hen bara kan ha lärt sig i ett sammanhang där hen inte förstod att det var ett glåpord.

Det fjärde mönstret är sponsortunga uppladdningar riktade till barn. Det här är lömskt eftersom det inte bryter mot någon ljudstandard. En kreatör lägger in sextio sekunders hårdförsäljning av sponsorinnehåll per video, ofta för mobilspel med lootmekanik eller belöningsloopar som liknar hasardspel. Barn uppfattar sponsorinnehåll som en rekommendation och frågar efter spelet i bilen på tisdagen. Föräldrar lägger till kanalen eftersom ljudet är rent och upptäcker sedan att barnet har installerat tre gratisspel som aldrig slutar plinga.

Det femte mönstret är antisocial inramning. Kreatörer vars videoformat är ”jag förstörde för den här spelaren och hen blev upprörd, här är reaktionen”. Innehållet är uppbyggt kring någon annans förtvivlan som poäng. Barn uppfattar det som att ”målet med spelet är att göra andra upprörda”, och inramningen syns i verkligt socialt beteende. Det är det mönster som föräldrar är långsammast att upptäcka, eftersom ljudet oftast är rent – det är videornas strukturella inramning som bryter ned sociala färdigheter, inte något kreatören säger.

Det sjätte, som vi hör om mer sällan men som förekommer: ett tempo som stör läggdags. Vissa kreatörer lägger medvetet upp sina videor så att de är svåra att sluta titta på – cliffhangers i slutet av avsnitt, krokar mitt i serien i stil med ”vänta tills nästa gång”, klipp som passar autouppspelning. Formatet i sig är utformat för att köra över barnets förmåga att lägga ifrån sig iPaden. Föräldrar märker det som att ”vi får dem inte att sluta” innan de inser att kreatörens tempo gör det med flit.

Varför de här kanalerna drar in barn

Alla de här mönstren delar en underliggande mekanik: de är konstruerade för engagemang. Varje mönster på listan är något en kreatör gör eftersom YouTubes mätvärden belönar det. Skrik ger klick. Jumpscares ger reaktionsbilder som delas. Slapp chattmoderering ger fler chattmeddelanden och längre tittartid på sändningarna. Sponsortunga uppladdningar ger högre intäkter per minut. Antisocial inramning ger den sortens dramatiska utdelning som algoritmen driver fram. Mönstren är inga tillfälligheter. De är det lokala maximumet i YouTubes mätvärdesstyrda kreatörsekonomi.

Vilket betyder att barn dras till dem med avsikt. Samma engagemangsteknik som får kreatören att tjäna pengar är det som gör videorna klibbiga för barnet. Dragningen är verklig och strukturell, inte en smaksak. Föräldrar som försöker övertala sitt barn att sluta titta på en kreatör misslyckas oftast, eftersom innehållet verkligen är utformat för att vara svårt att lämna. Övertalningen slåss mot plattformen, och plattformen har större hävstång.

Det finns också en effekt av kompisnätverket. Barn lär sig om kreatörer från andra barn: i skolan, när de leker, från äldre syskon. När en kreatör väl blir kanalen alla pratar om i ditt barns kompisgäng är tittandet delvis en social handling. Det gör dragningen starkare och förälderns övertalning mindre effektiv. Den strukturella lösningen ligger före den sociala dragningen: kanalen når aldrig barnets bibliotek, så barnet behöver inte övertalas att sluta titta.

Så hanterar Watchly blockeringen

Watchlys AI-filter fångar vart och ett av de här mönstren för varje uppladdning. Mönster med skrikande röst syns i ljudanalysen (ihållande hög röstenergi utan vilopauser). Jumpscare-mönster syns i analysen av klipptempot (plötsliga ändringar i ljudnivån inom korta fönster). Chatt som tolererar glåpord syns när kreatörens chattöverlägg på skärmen eller det som läses upp löser ut filtren för glåpord. Sponsortunga uppladdningar syns i den strukturella analysen av videons indelning. Antisocial inramning syns i språkkluster kring strukturer av förstörelse och reaktion. Ingen av detektorerna är perfekt. Tillsammans fångar de en betydande majoritet av de mönster som föräldrar till slut flaggar.

Med blockering per kreatör kan du ta bort en kanal helt när du har identifierat den. Blockeringen görs med ett tryck i översikten och gäller för alla barns profiler i familjen. Den blockerade kanalen kan inte läggas till igen av ett barn även om hen ber om det, och autouppspelningen kan inte hämta från den även om ett syskons bibliotek överlappar.

Familjeregler ger dig kontroll i nivåer. Du kan ställa in familjen på flagga och granska (videon visas inte förrän du godkänner den), nedprioritera (videon visas men lyfts inte fram i biblioteket) eller blockera helt efter mönstertyp. En familj med en femåring kanske ställer in uppladdningar med jumpscare-mönster på blockera; en familj med en tioåring kanske ställer in samma mönster på flagga och granska. Nivåerna gör att du inte behöver välja mellan paranoia och att ge upp; du sätter gränsen en gång och Watchly fattar besluten för varje uppladdning utifrån den.

Vi är ärliga med att det här är ett rörligt mål. Ingen detektor fångar varje mönster i varje uppladdning, och kreatörers förändring är verkligen oförutsägbar. Det strukturella golvet är modellen med ett stängt bibliotek – även mönster som slinker förbi AI:n kan inte nå ditt barn via autouppspelningens glidning, eftersom det inte finns någon autouppspelning utifrån ditt bibliotek. Det värsta fallet är en uppladdning med fel ton från en kreatör du litade på, som översikten över visningshistoriken lyfter fram och som du kan agera på. Det är inte ”barnet snubblar in i en skräckbana klockan elva på kvällen via sidopanelen”. Den strukturella skillnaden är poängen.