När konspirationen bär välmåenderock

Så ser desinformation riktad till barn egentligen ut

En 13-åring hamnar i algoritmens utkanter på YouTube. Barnet tittar på en kreatör som lugnt går igenom ”sanningen om” månlandningen. Videon är välproducerad. Manuset är engagerande. Inom tjugo minuter har barnet tagit till sig en lista med påståenden som hen kommer att upprepa i skolan: flaggan vajade på fel sätt, skuggorna stämde inte, Stanley Kubrick filmade alltihop. Barnet är nu i algoritmens cykel av ”tittare såg även”. Inom en vecka har barnet sett ett dussin videor om platt jord, fejkade Mars-rovers, forntida utomjordingar och diverse omskrivningar av historien.

Det här mönstret dokumenterades utförligt av forskare som studerade YouTubes rekommendationsmotor i slutet av 2010-talet. Plattformen har sedan dess hävdat att den nedprioriterar ”gränsfallsinnehåll”, men mekaniken är i stort sett intakt: desinformationsvideor med högt engagemang är fortfarande lätta att hitta, rekommendationsgrafen knyter fortfarande ihop närliggande ämnen, och ett barn som klickar en gång på en ”ifrågasättande” video lotsas djupt in i nätverket.

Vaccinmotstånd är det mest studerade fallet av hälsodesinformation. Mönstret är en kreatör med lugn, auktoritativ röst. Ofta någon som låter meriterad men inte är läkare. Som förklarar ”det de inte vill att du ska veta”. Specifika falska påståenden (vaccin orsakar autism, kvicksilverhalten är farlig, ”vetenskapen tystas ner”) upprepas av flera kreatörer. Publiken innehåller demografiskt ett betydande antal föräldrar och hälsomedvetna tonåringar. Unga tittare tar till sig inramningen.

Mirakelkurer är en egen genre: en kreatör som påstår att ett visst protokoll, oftast med örter, dyra kosttillskott, juicekurer eller ”uråldriga botemedel”, botar cancer, autoimmuna sjukdomar eller psykisk ohälsa. Protokollet tjänar pengar (ofta via affiliatelänkar till kosttillskottsmärken eller betald coachning). Medicinska belägg saknas eller är påhittade. Sårbara tittare, däribland barn vars familjemedlemmar är sjuka, följer ibland råden med allvarliga följder.

Innehåll om farliga huskurer har samma form, med mindre insatser per video men med samlad effekt över en hel publik. ”Drick det här för att bota migrän”, ”sluta ta din medicin, testa det här i stället”, ”eteriska oljor mot [allvarlig sjukdom]”. Plattformen har policyer, men volymen är enorm och detekteringen ojämn.

Och så finns de namngivna konspirationskluster: QAnon-kodat innehåll (”the storm is coming”, ”where we go one we go all”), 9/11-truthers, omtolkningar av mordet på JFK, påståenden om att ”5G gör oss sjuka”, ”chemtrails”, inramningar om ”djupa staten” och innehåll om ödlemänniskor. Varje kluster har sin egen vokabulär som ordlistan behöver fånga.

En särskilt modern kategori: deepfakes av politiker, kändisar eller händelser som presenteras som äkta. Tekniken har blivit så bra att okritiska tittare, inklusive de flesta barn, inte på ett tillförlitligt sätt kan se skillnad. Watchly flaggar innehåll där ljudet eller påståendet tyder på att videon presenterar ett oäkta klipp som äkta.

Därför spelar det större roll än föräldrar oftast tror

Vuxna kan oftast rycka på axlarna åt en video om platt jord. De har årtionden av ackumulerad grundkunskap att jämföra med. Det har inte barn. En 12-årings mentala modell av ”vad som är sant” håller fortfarande på att byggas. En kreatör med självsäker inramning och hög produktionskvalitet har oproportionerligt stort inflytande på det bygget.

Kognitionspsykologisk forskning har varit tydlig i årtionden: upprepad exponering för påståenden, även påståenden man vet är falska, ökar hur trovärdiga de upplevs (”illusory truth effect”). Ett barn som ser tre videor som antyder att vaccin är farliga har en mätbart högre sannolikhet att tvivla på vaccin senare, oavsett efterföljande rättelse. Mekanismen är automatisk och förnuftsmässigt omedveten.

Konspirationsinnehållets ekonomi är uppbyggd kring rekrytering. Varje video är konstruerad för att göra nästa mer lockande. En nyfikenhetslucka stängs, en ny fråga öppnas. Kreatören vill ha visningstiden. Algoritmen belönar djupdykningen. Tittaren hamnar flera steg bort från där hen började, ofta med en världsbild hen inte märkte att hen höll på att skaffa sig.

Medicinsk desinformation har den allvarligaste specifika skadan. Föräldrar som hoppar över sina barns vaccinationer på grund av YouTube-innehåll är inget hypotetiskt. Det är väldokumenterat. Barn som slutar ta förskriven medicin efter råd från kreatörer är ovanligare men förekommer. Konsekvenserna är verkliga och ibland oåterkalleliga.

Därför kan YouTube inte fånga det på ett tillförlitligt sätt

YouTube har försökt hantera desinformation. Plattformen demonetiserar specifika kategorier, visar informationspaneler vid vissa sökningar och har policyer mot medicinsk desinformation, valdesinformation och några specifika konspirationskategorier. Arbetet är verkligt. Luckan är enorm.

Detekteringsproblemet är strukturellt. Desinformation lever i språket. Specifika faktapåståenden som råkar vara falska. Att upptäcka att ”det här påståendet är falskt” kräver antingen en heltäckande databas över alla falska påståenden som någonsin gjorts (omöjlig att underhålla) eller ett faktagranskningslager som körs mot varje video (ohållbart både beräkningsmässigt och politiskt). Plattformen nöjer sig med att fånga specifika namngivna konspirationer via nyckelord och att algoritmiskt nedprioritera gränsfallsinnehåll. Ny desinformation tar sig runt båda.

Vokabulärens utveckling är det centrala problemet. Kreatörer som demonetiseras för en formulering byter till en ny formulering som betyder samma sak. ”Vaccin orsakar autism” blir ”vaccinadjuvanter och kopplingen till immunutvecklingen”. Nyckelordsfiltret fångar inte den nya formuleringen på flera månader. Publiken får samma innehåll med ny vokabulär.

”Pseudovetenskap som välmående” är plattformens största blinda fläck. Välmåendeinnehåll är enormt och i stort sett tillåtet; gränsen mellan ”alternativ hälsa” och ”medicinskt farlig desinformation” kräver bedömningar som YouTube visar liten lust att göra. Så en video som påstår att en juicekur botar autoimmun sjukdom ligger bredvid en video om hälsosam kost, och plattformen behandlar dem på liknande sätt.

Q-kodat språk och konspiratoriska hundvisslor är konstruerade för att undgå upptäckt. Vokabulären är avsiktligt harmlös, ”the storm”, ”vakna”, ”gör din egen research”. Och blir igenkännbara mönster först när den läses tillsammans. Nyckelordsfiltret flaggar inget av det.

Detektering av deepfakes är tekniskt omogen på plattformsnivå. Vissa specifika uppmärksammade deepfakes fångas; den vardagliga volymen, ett falskt klipp med en senator, en manipulerad video av en händelse, gör det oftast inte.

Watchlys detektering letar efter mönstret: vokabulär för namngivna konspirationer, mirakelkurstrukturer (”det här [ämnet] botade min [allvarliga sjukdom]”), råd om att sluta ta medicin, mönster för farliga huskurer, deepfakes som presenteras som äkta och Q-kodat språk. Mönsterordlistan uppdateras regelbundet eftersom vokabulären rör sig. Vi lutar åt att flagga när påståenden ser faktamässiga och verifierbart falska ut; vi flaggar inte åsikter.