Så filtrerar du olämpligt innehåll på YouTube

Vad räknas som ”olämpligt” – och varför det är svårt att ringa in

Be tio föräldrar definiera olämpligt så får du tio överlappande men olika svar, och det är precis därför en enda filterinställning sällan gör någon nöjd. Kategorin är inte en sak. Den är minst fem.

Det finns rent **vuxeninnehåll** – sexuellt material, grovt språk, drogreferenser. De flesta är överens om att det aldrig ska nå ett barn, och det är också det lättaste för automatiska system att fånga, eftersom signalerna är starka och tydliga.

Sedan blir det grumligare. **Våldsamt innehåll** sträcker sig från tecknad buskis till verkligt obehagliga bilder, och gränsen mellan dem beror mycket på barnets ålder och temperament. **Läskiga teman** är ännu svårare: en video kan sakna blod, svordomar och allt som ett filter skulle flagga, men ändå innehålla skrämseleffekter, hotfull musik eller obehagliga bilder som får en femåring att sova i din säng i en vecka.

**Suggestivt innehåll** är gråzonen som får alla automatiska system att snubbla – en miniatyr, ett skämt, en antydan som ser ofarlig ut för en algoritm men blir fel för ett barn. Och slutligen finns **kommentarerna**, ett helt lager av text skriven av användare under i övrigt bra videor, där främlingar säger saker du aldrig skulle vilja att barnet läser.

Anledningen till att detta spelar roll för filtrering är enkel: ett verktyg som är inställt på att blockera det uppenbara (vuxet, explicit) kan fortfarande släppa igenom allt däremellan. När folk säger att ett filter ”missade något” är det nästan alltid något från det läskiga, suggestiva eller kommenterande lagret – de delar som kräver omdöme, inte bara mönsterigenkänning.

De inbyggda filtren och hur du slår på dem

YouTube ger dig faktiskt kontroller. Här är vad var och en gör och ungefär var du hittar den, beskrivet efter funktion eftersom de exakta menynamnen skiljer sig mellan appen, webbplatsen och tv-versionerna.

**Begränsat läge** är YouTubes inbyggda innehållsfilter för huvudwebbplatsen och appen. Du hittar det i kontomenyn, oftast längst ner, som ett reglage. När det är på döljs videor som systemet har identifierat som potentiellt vuxet innehåll, utifrån en blandning av automatiska signaler och åldersbegränsningsflaggor. Den viktiga reservationen: inställningen gäller per enhet och per webbläsarprofil, och den är reaktiv – den agerar på videor som redan har bedömts eller flaggats. Ett envist barn kan ofta stänga av den, och den gör ingenting åt innehåll som ännu inte har granskats.

**Filter i stil med SafeSearch och nätverksfilter** verkar en nivå högre upp, i routern, DNS eller operativsystemet i stället för inne i YouTube. Verktyg som en filtrerad DNS-tjänst eller enhetens inbyggda skärmtidskontroller kan tvinga fram säkrare inställningar och blockera hela kategorier av webbplatser. De är användbara som reserv, men de är trubbiga: de filtrerar på domän- eller kategorinivå, inte video för video, så de kan inte skilja en sund tecknad film från en otäck på samma plattform.

**YouTube Kids-appen** är Googles egen produkt för barn. Den kombinerar algoritmisk filtrering med viss mänsklig granskning och ger föräldrar åldersnivåer, timer och möjlighet att blockera kanaler. Den är verkligen bättre än att släppa lös ett barn på vanliga YouTube. Men Google påstår inte själva att den är perfekt, och föräldrar rapporterar regelbundet att olämpliga videor dyker upp i den – eftersom den fortfarande hämtar från en enorm, ständigt påfylld pool och filtrerar i efterhand.

**Kommentarsinställningar** låter kreatörer och i vissa fall tittare begränsa eller dölja kommentarer, och YouTube stänger av kommentarer helt på innehåll som är gjort för barn. Men under vanliga videor som ett barn kan titta på är kommentarslagret ofta aktivt och bara lätt modererat.

Relaterat: Vad Begränsat läge filtrerar · YouTube Kids visar fortfarande dåliga videor

Därför missar reaktiva filter hela tiden saker

Alla inbyggda filter ovan delar samma arkitektur: ett öppet, ständigt växande bibliotek som vem som helst kan lägga till i när som helst, med programvara som försöker sortera det bra från det dåliga efter uppladdning. Den designen har en strukturell lucka, och det är värt att förstå varför, eftersom luckan inte är en bugg som någon kommer att laga – den är själva modellen.

Tänk på volymen. Ett enormt antal timmar video laddas upp till YouTube varje minut. Inget system, automatiskt eller mänskligt, kan titta på allt innan ett barn kanske gör det. Så filtreringen sker med fördröjning: en video läggs upp, tittas på och delas, och flaggas eller klassificeras först någonstans längs vägen. Mellan uppladdning och klassificering går den att nå.

Automatisk moderering gör också fel åt båda hållen, och det är ingen hemlighet – YouTubes egna transparensrapporter medger att den automatiska tillämpningen sker i stor skala med felmarginaler, och beskriver avvägningarna i allmänna termer i stället för att lova precision. Vissa bra videor döljs felaktigt; vissa dåliga släpps felaktigt igenom. För en förälder är det den andra sorten som gör ont.

Och det knepigaste innehållet är just det som automatiska filter är sämst på. En läskig video utan svordomar, ett suggestivt skämt gömt i minut sex, en betrodd kanal med tecknat som lägger upp en uppladdning som inte passar – inget av detta ger de starka signaler som en klassificerare reagerar på. Så just de kategorier som föräldrar oroar sig mest för är de som mest sannolikt slinker igenom.

Rekommendationsmotorn förvärrar allt detta. Även när videon barnet valde är bra är sidofältet och autouppspelningen upptagna med att driva fram *nästa* sak, optimerad för visningstid snarare än för om den passar en sjuåring. Reaktiv filtrering kan i bästa fall beskära den strömmen. Den kan inte få strömmen att sluta peka utåt mot resten av det öppna biblioteket.

Relaterat: Blockera YouTube-kommentarer för barn

Proaktiv filtrering: godkänn först plus en innehållsskanning

Vägen ut ur den reaktiva fällan är att vända på utgångsläget. I stället för att börja med hela YouTube och dra ifrån de dåliga delarna börjar du med ingenting och lägger bara till det en förälder har valt. Det är vad Watchly Player gör, och därför förändras filtreringsproblemet i grunden.

Med en **vitlistemodell** ser barnet bara ett bibliotek som du har byggt. Det finns ingen sökruta, inget sidofält med rekommendationer, ingen autouppspelning. När en video tar slut återgår skärmen till biblioteket i stället för att starta det algoritmen väljer härnäst. Det öppna havet av ogranskade uppladdningar finns helt enkelt inte där, så det finns inget att filtrera i efterhand – en video kan inte slinka igenom om den aldrig fanns i poolen.

Men att godkänna en kanal du litar på är inte riktigt samma sak som att godkänna varje framtida uppladdning från den, och det är här det verkliga arbetet sker. Även en sund kreatör kan lägga upp något som inte passar. Därför kör Watchly Player en **AI-skanning av innehållet** på varje video och analyserar transkriptionen mot 21 innehållsmönster – svordomar, våld, sexuella anspelningar, läskiga teman med mera. Om en ny uppladdning från en annars godkänd kreatör slår an på något av mönstren spelas den inte bara upp. Den hamnar först hos dig för granskning, och att släppa igenom eller blockera den tar två tryck. Det här är hela upplägget i ett nötskal: det fångar precis den kategori – uppladdningen som inte passar från en kanal du redan litar på – som reaktiva filter strukturellt är sämst på.

Resultatet är ett filter som fungerar *före* uppspelning i stället för efter, på ett slutet urval du styr i stället för ett öppet som du ständigt måste bevaka.