YouTube-kaninhålet som börjar med Bluey och slutar någonstans konstigt

Hur det faktiskt ser ut

Bluey tar slut. Den lilla blå miniatyrbilden i sidopanelen som såg ut som Bluey var inte Bluey. Det var en fansammanställning. Fansammanställningen spelar automatiskt vidare till en reaktionskanal. Reaktionskanalen spelar automatiskt vidare till en topp 10-lista över ”de konstigaste barntecknade filmerna”. Tolv minuter in tittar ditt barn på kornigt material som påstås handla om Spider-Man och Elsa. Det är i själva verket två vuxna i billiga dräkter som spelar upp en sjukhusscen. Barnet är sex. Hen kommer inte att ta upp det vid middagen. Du får reda på det av en slump, veckor senare, när hen ställer en fråga som inte går ihop.

Eller så här: ditt barn älskar Let’s Plays i Minecraft. Hen tittar på en familjevänlig kreatör med 8 miljoner prenumeranter. Sidopanelen föreslår en annan Minecraft-kreatör. Den kreatören är okej för nioåringar men använder grovt språk och förolämpningar i röstchatten som du inte skulle välja för en sexåring. Tre videor in i autouppspelningskön har rekommendationerna glidit mot kaxigare kreatörer, eftersom kaxigare kreatörer har längre tittartid per visning. Ditt barn har inte rört sig. Plattformen flyttade hen.

Eller så här: det är en regnig söndag och du har satt på en naturvetenskapsvideo för barn. Riktig lärare, riktig klassrumskänsla, helt okej. Sidopanelen visar en annan naturvetenskapsvideo. Två rekommendationer senare visar flödet platt jord-innehåll förpackat som ”saker de inte vill att du ska veta”. Konspirationsmaterial är innehåll med lång tittartid. Algoritmen bryr sig inte om att ditt barn är åtta.

Det föräldrar missförstår är att kaninhålet inte är ett misslyckande i modereringen. Det är plattformen som fungerar som den ska. YouTubes rekommendationssystem byggdes för att maximera tiden en användare lägger på att titta. Allt annat – om innehållet är åldersanpassat, om det är faktamässigt korrekt, ditt barns läggrutin – kommer i andra hand efter den enda siffran. När systemet märker att kaxigare, konstigare, högljuddare och mer känslomässigt extremt innehåll håller kvar folk serverar systemet mer av det. Det är hela mekanismen.

Det grymma är att kaninhålet är osynligt medan det pågår. Det finns ingen varning, ingen banderoll om att ”du har lämnat den trygga zonen”, ingen mellansida. Sidopanelen fortsätter bara att uppdateras. Nästa video startar automatiskt. Ditt barn märker inte glidningen, eftersom varje steg ser rimligt ut utifrån det föregående. När någon väl skulle kunna märka något är ni fyra hopp in och innehållet har skiftat helt.

Varför det är värre än det ser ut

Barn under ungefär tio år har inte den metakognition som krävs för att ta ett steg tillbaka och tänka ”det här är inte vad jag kom hit för att titta på”. Vuxna gör det hela tiden – vi känner glidningen och stänger fliken. Barn har ännu inte den inre övervakaren. Det som visas på skärmen är det de tittar på, punkt. Plattformens design förutsätter en användare som kan korrigera sig själv. Ditt barn kan inte det än.

Det finns också en ackumulerad effekt som föräldrar underskattar. En enda konstig video under en tittarstund går att hämta sig från. Men tre veckor av en algoritm som konsekvent drar mot högljuddare, snabbare och kaxigare innehåll programmerar om vad ditt barn tycker är normalt. Hen slutar kunna njuta av ett lugnt Bluey-avsnitt, eftersom varje video hen har sett däremellan har tränat uppmärksamheten på toppar. Kaninhålet är ingen engångshändelse, det är en förskjutning av baslinjen.

Och det finns ett återkopplingsproblem. Ju mer ditt barn tittar på en kaxigare rekommendation, även motvilligt, desto mer tolkar algoritmen det som en signal att hen vill ha mer av det. Ett enda nyfiket klick på en miniatyrbild kan färga de kommande två veckornas rekommendationer. De flesta föräldrar har ingen aning om att det händer, eftersom de inte kan se flödet som deras barn faktiskt ser.

Så tar Watchly det här från dina axlar

Watchly filtrerar inte kaninhålet. Det tar bort strukturen som gör kaninhålet möjligt. Det finns ingen sidopanel med rekommendationer, ingen ”Nästa” som spelar upp vad som helst automatiskt, ingen oändlig scroll. Ditt barns startskärm är ett bibliotek som du styr: kanalerna du har lagt till, biblioteken du har importerat från våra kurerade mallar, och inget annat. Videon tar slut och skärmen återgår till biblioteket. Det ditt barn tittar på härnäst är något som redan finns i biblioteket, aldrig en överraskning.

Den andra halvan av svaret är att vi använder filtrering på transkriptionsnivå även inuti biblioteket. En kreatör som du godkände förra året kanske lägger upp något som är fel i tonen nästa månad. Vår AI skannar transkriptioner mot 21 mönster (svordomar, våld, sexuellt innehåll, skrämmande teman med mera) och lyfter fram allt tveksamt innan ditt barn ser det. Du kan åsidosätta vad som helst med två tryck. Biblioteket förblir rent utan att du behöver titta igenom de nya uppladdningarna.

Om ditt barn ber om en ny kanal kan du lägga till den från föräldraöversikten. Det tar ungefär tio sekunder. Mönstret vi hör från föräldrar om och om igen: barnet ber om en kreatör en lördagsmorgon. Föräldern tittar på kanalen i trettio sekunder och lägger till den (eller inte). Upptäckandet sker fortfarande. Det går bara via dig i stället för via en autouppspelningskö utan avstängningsknapp.

Vi låtsas inte att systemet är perfekt. Röstchatt i realtid i gamingstreams som aldrig textas är fortfarande en lucka för alla filter som bygger på transkriptioner, och det är vi ärliga med. Men det strukturella kaninhålet – Bluey som leder till en främling med ansiktsmålning inom tolv minuter – kan inte uppstå i Watchly. Sidopanelen finns inte där för att få det att hända.