Obehagligt innehåll förklätt i miniatyrbilder med Elsa och Spider-Man

Hur det faktiskt ser ut

Formatet är vid det här laget en egen genre. Det har kallats Elsagate sedan ungefär 2017, när mönstret slog igenom i de stora nyheterna. Billig 3D-animation eller spelfilm med lågbudgetdräkter. Välbekanta figurer från kända varumärken: Spider-Man, Elsa, Disneyprinsessorna, Peppa Pig, Musse, valparna i Paw Patrol. Färgglada miniatyrbilder som ser ut precis som innehåll en fyraåring skulle välja. Själva videon börjar ibland normalt och spårar sedan ur, är ibland bisarr rakt igenom och innehåller ibland bilder som en förälder som tittar skulle beskriva som ”bara fel”. Medicinska teman. Sexualiserad framställning i barnfärger. Våld framställt som komik.

Anledningen till att det här finns är deprimerande enkel ekonomi. Barninnehåll är enormt lönsamt på YouTube. Barn tittar om, barn hoppar inte över reklam, och reklamen säljs mot ”familjesäkert” annonsutrymme till premiumpriser. Att producera riktigt barninnehåll är dyrt: animatörer, manusförfattare, röstskådespelare, licenser. Att producera kopior av barninnehåll är billigt: piratkopierade figurer, AI-genererade manus, renderad animation, inga licenser. Ekonomin skapade en kategori. Plattformen har försökt moderera den sedan 2017, och kategorin hittar hela tiden nya kryphål.

Den nuvarande formen är svårare att upptäcka än originalen. Dagens innehåll i Elsagate-stil har blivit bättre på att ta sig förbi den första modereringen. Titlarna använder kodord eller varianter av figurerna som inte löser ut de uppenbara filtren. Miniatyrbilderna är utformade för att ligga precis innanför gränsen. Det obehagliga innehållet är ofta tajmat till fyrtio sekunder eller två minuter in, efter en inledning som ser normal ut. Modereringssystem väger de första trettio sekunderna tungt. Då har ditt barn redan dragits in i videon.

Ett specifikt scenario som föräldrar tar upp med oss: en 4-åring får iPaden i femton minuter medan syskonet badar. Hen söker på Spider-Man i YouTube Kids. Sökningen visar det officiella Marvel-innehållet och även en rad fangjorda eller kopierade videor. Miniatyrbilderna ser likadana ut. Barnet väljer en med färgglad bakgrund och en Spider-Man som håller Elsa i handen. Videon börjar som ett ”bröllop” och blir sedan något som föräldern beskriver som ”jag vet inte ens hur jag ska förklara det, det var bara obehagligt”. Barnet är upprivet. Barnet kan inte berätta vad som är fel. Föräldern står nu för det känslomässiga reparationsarbete som plattformen skapade.

Ett annat scenario: familjen är på en lång bilresa. 6-åringen tittar på autoplay genom något som ser ut som Peppa Pig. Tre avsnitt in är ”Peppa Pig” inte längre det riktiga programmet. Det är en kopia där Peppa går till tandläkaren och scenerna är obehagliga. Barnet märker att det är annorlunda men fortsätter titta eftersom bildspråket är tillräckligt bekant. Föräldrarna i framsätet hör inget konstigt, ljudet har normal tecknad-volym. Skadan sker i det tysta.

Skräcken ligger i förklädnaden. Om ditt barn råkade hamna på en uppenbart olämplig video skulle hen rycka till, föräldern skulle märka det och ögonblicket skulle gå att hantera. Hela designen här går ut på att se helt vanlig ut tills barnet redan har tagit in något. Förklädnaden är skadan.

Varför det är värre än det ser ut

Små barn bearbetar visuellt innehåll helt annorlunda än vuxna. De kan inte ta det metasteg där de tänker ”vänta, det här stämmer inte, jag borde sluta titta”. Om Musse Pigg är på skärmen läser hjärnan det som Musse Pigg-innehåll. Det gäller även när scenen som spelas upp är tydligt fel. De saknar ramen för att ifrågasätta det de ser, vilket är exakt det som gör förklädnadsformatet effektivt.

Det finns också en kostnad för sömn och känsloreglering. Pediatriska forskare som studerar medieexponering rapporterar genomgående samma sak. Obehagligt men inte uppenbart våldsamt innehåll hänger ihop med fler mardrömmar, ökad oro och beteendeförändringar som visar sig dagar eller veckor senare. Föräldrar kopplar ofta ihop det i efterhand. Barnet började vakna klockan 2 på natten samma vecka som hen fastnade för ”en ny Spider-Man-kanal”. Barnet hade inte kunnat säga varför.

Och det finns ett problem med tilliten. Barn som bränner sig på innehåll som såg säkert ut blir mer oroliga inför nytt innehåll i allmänhet, eller, ännu värre, avtrubbade inför det. Båda reaktionerna är dåliga. Genrens samlade effekt är inte enskilda videor. Det är ett barn som har förlorat antagandet att miniatyrbilden visar vad videon är.

Så tar Watchly bort det här från ditt bord

Watchlys främsta försvar mot innehåll i Elsagate-stil är strukturellt. Ditt barn ser inga öppna sökresultat från YouTube. Hen ser inga miniatyrbilder från hela YouTube. Skärmen visar bara biblioteket du har byggt: kanaler du har lagt till och bibliotek du har importerat från våra åldersanpassade mallar. En kopierad Spider-Man-video som ligger på YouTube dyker inte upp i Watchly om den inte har lagts till. Och den läggs inte till, eftersom det är den officiella kanalen Marvel HQ som finns i biblioteket.

Det andra lagret är AI-analys av transkriptionen. Varje video i biblioteket, även de du har lagt till direkt, skannas mot 21 mönster som täcker våld, sexuellt innehåll, läskiga teman, svordomar och mer. Grejen med Elsagate-innehåll är att även de förklädda versionerna har transkriptioner som inte låter som riktigt barninnehåll. Tandläkaringrepp, sjukhusscenarier, romantisk inramning: dialogen avslöjar det. Allt som flaggas lyfts fram i din översikt innan ditt barn ser det.

Färdiga bibliotek gör grovjobbet för de flesta familjer. Vi har ett bibliotek med ”riktiga förskoleprogram” som innehåller de officiella kanalerna för Bluey, Peppa, Numberblocks, Sesame Street, Daniel Tiger och Mr. Rogers, de faktiska källorna. Du importerar ett bibliotek, har hundratals äkta videor, och problemet med kopior är strukturellt löst för den åldersgruppen. Biblioteket uppdateras när de officiella kanalerna lägger upp nya avsnitt.

Vi låtsas inte att de värsta videorna aldrig slinker förbi modereringssystem, det gör de uppenbarligen, det är hela poängen med den här sidan. Det vi säger är att en modell med kurerade bibliotek och transkriptionsanalys stänger vägen som Elsagate använder. Videon måste finnas i ditt bibliotek för att kunna spelas. Biblioteket kommer från källor du litar på. Transkriptionerna av videorna i biblioteken kontrolleras. Vägen för förklätt innehåll som fungerade på YouTube har ingen motsvarande ingång i Watchly.