Därför rekommenderar YouTube Kids konstiga videor till barn

Vad YouTube Kids egentligen är – och vad det inte är

YouTube Kids förstås bäst som en filtrerad del av YouTube med en rekommendationsmotor som körs inuti. Filtret är verkligt: innehåll måste vitlistas innan det kan visas på plattformen, och kreatörer måste godkänna ytterligare regler. YouTube Kids har inte hela katalogen från vanliga YouTube, och de värsta kategorierna av innehåll saknas. Inget av det är marknadsföring; det är en verklig riskminskning.

Det YouTube Kids inte är, är ett kurerat bibliotek. Det finns ingen människa – eller algoritm – som väljer innehåll för att det passar just ditt barns ålder, intressen och din familjs värderingar. Det finns en algoritm som väljer innehåll för att det historiskt har gett de längsta sessionerna. Den skillnaden är ingen kritik; det är helt enkelt affärsmodellen. YouTubes intäkter bygger på visningstid, och visningstid är vad motorn är byggd för att optimera. Filtret tar bort det mest uppenbart olämpliga innehållet; motorn gör sedan det den alltid gör med det som finns kvar.

Det mesta av föräldrars frustration över YouTube Kids är frustration över motorn, inte filtret. Filtret gör sitt jobb. Motorn gör också sitt jobb – det visar sig bara att ”maximera engagemanget för en åttaåring” leder någonstans som föräldrar inte hade väntat sig.

Algoritmisk drift: hur vanligt tittande glider över i konstiga rekommendationer

Algoritmisk drift är vad som händer när en rekommendationsmotors utforskande beteende förstärks över tid. Motorn utnyttjar inte bara det den vet att ditt barn gillar; den utforskar också – testar närliggande videor för att hitta nya engagemangssignaler. När en av de utforskande videorna ses länge (även om barnet somnade eller lämnade rummet) registrerar algoritmen en stark positiv signal och flyttar nästa rekommendation längre åt det hållet.

Resultatet är en systematisk drift från innehållet ditt barn började med mot allt mer stimulerande innehåll. Stimulerande betyder inte alltid olämpligt, men det betyder ofta högre, snabbare, mer extremt och mer bisarrt. Innehåll som är lite konstigt håller kvar uppmärksamheten bättre än förutsägbart innehåll, så algoritmen väljer lite konstigt, sedan ganska konstigt, sedan vad som helst som får ett barn att fortsätta titta. Föräldrar beskriver det som en långsam glidning; ur algoritmens perspektiv fungerar den bara.

Detta händer inuti YouTube Kids filtrerade värld precis som på vanliga YouTube, eftersom filtret tar bort kategorier av innehåll utan att röra rekommendationsmekanismen. Du kan se filtret som murar runt en trädgård och algoritmen som en flod innanför murarna. Murarna spelar roll. Men om floden hela tiden gräver nya fåror hamnar du ändå någonstans du inte hade planerat.

Anledningen till att du inte bara kan ”nollställa” dig ur det är att driften börjar om varje session. Varje gång ett barn öppnar appen med en rensad historik börjar motorn utforska från början. Några långa visningar av ovanliga videor, och flödet förskjuts igen. Föräldrar som förlitar sig på att rensa historiken med jämna mellanrum upprepar samma nollställning med några veckors mellanrum, i all oändlighet.

Ta bort rekommendationerna helt: den strukturella lösningen

Det enda sättet att förhindra algoritmisk drift är att ta bort algoritmen. Inte att träna om den, inte att nollställa den, inte att filtrera dess resultat hårdare – utan att göra den irrelevant genom att ta bort flödet den fyller. Det är vad ett bibliotek med godkänd lista gör, och det är den arkitektoniska skillnaden mellan YouTube Kids och ett verktyg som Watchly, där kurering kommer först.

I Watchly är ditt barns startskärm biblioteket du har byggt – kanalerna och videorna du har lagt till, plus kurerade ämnesbibliotek du importerat efter ålder. När en video tar slut återgår skärmen till det biblioteket. Det finns inget ”Nästa” som valts av en motor, ingen sidopanel med relaterade videor, inget bläddringsflöde som rangordnar innehåll efter förväntat engagemang. De enda videor ditt barn kan nå är de du har lagt dit.

Detta betyder olika saker för olika familjer. För föräldrar till små barn betyder det ingen oro varje gång appen öppnas. För föräldrar till spelbesatta åttaåringar betyder det att Minecraft-kanalen du godkände inte gradvis blir en inkörsport till högljuddare, argare spelinnehåll som du aldrig har tittat på. För föräldrar som håller koll på skärmtiden betyder det att tittandet slutar vid gränsen, inte när algoritmen har hittat något tillräckligt lockande för att köra över en trött förälders bättre omdöme.

En ärlig lucka att nämna: Watchly skannar varje videos transkription och undertexter mot 21 innehållsmönster, så att uppladdningar i fel ton från kanaler du har godkänt kommer upp för din granskning innan ditt barn ser dem. Luckan är otextad röstchatt i realtid i spelströmmar. Om en streamer pratar i realtid utan undertexter kan ett transkriptionsbaserat filter inte fånga vad hen säger. För familjer som har livespelströmmar på den godkända listan är det värt att veta. För den stora majoriteten av förinspelat innehåll – vilket är nästan allt på YouTube – fungerar transkriptionsskanningen.