Felaktigt utpekade som förbrytare – Metas AI i skottgluggen

av Mikael Winterkvist | jul 14, 2025 | Bluesky, Mastodon, Socialt, Threads, Twitter

Flera användare har berättat för BBC om den extrema stressen som de fått utstå sedan deras Instagramkonton plötsligt stängts av efter att felaktigt ha anklagats för att ha brutit mot reglerna kring sexuellt utnyttjande av barn.

Det här är användare som har blivit permanent blockerade från sina konton av Meta, som äger Instagram, och först efter att fallen uppmärksammats av journalister har kontona återställts.

En av användarna säger att han förlorat sömn, isolerats från sitt sociala sammanhang och burit på en anklagelse som han beskriver som både kränkande och obegriplig. Han heter David i BBC:s artikel, men hans riktiga namn har ändrats för att skydda hans identitet. Han blev avstängd från Instagram den 4 juni, och fick samma dag veta att även hans Facebook och Messenger spärrats permanent. Anledningen som angavs var brott mot Metas regler kring övergrepp mot barn och nakenhet. När David vände sig till Metas support fick han bara standardsvar. Han hittade tröst i en Reddittråd där andra berättade om liknande avstängningar – alla med samma allvarliga anklagelse.

Flera personer

Flera personer har kontaktat BBC med liknande upplevelser. Över 100 användare säger att de blivit falskt anklagade av Metas automatiserade system (som bygger på AI), vilket har lett till att de blivit av med åratal av bilder, konversationer och minnen. Vissa har dessutom förlorat inkomster från sina företagskonton. Många beskriver att deras mentala hälsa påverkats kraftigt och över 27 000 personer har skrivit under en protest mot Meta, där det hävdas att AI-systemet som används för moderering leder till felaktiga avstängningar, och att möjligheten att överklaga inte fungerar.

Faisal, en student från London, förlorade sitt Instagramkonto den 6 juni. Han hade just börjat tjäna pengar på kreativa uppdrag genom plattformen. Han överklagade beslutet men fick kontot stängt några minuter senare. Han säger att anklagelsen har påverkat hans hälsa och isolerat honom fullständigt under en månads tid. När BBC kontaktade Meta om både Faisals och Davids fall den 3 juli återställdes kontona inom några timmar. Meta skrev att de beklagade misstaget och att åtgärder ibland måste tas för att skydda användarna.

Skydda

En tredje person, som kallas Salim i artikeln, berättar att även han blev falskt anklagad. Han menar att överklaganden ofta ignoreras och att AI-tekniken i praktiken pekar ut vanliga människor som förövare. Hans konton blev återställda nästan en vecka efter att han först stängts av.

Meta har valt att inte kommentera de enskilda fallen. Företaget har däremot tidigare uppgett att det använder både teknik och mänsklig granskning för att upptäcka konton som bryter mot reglerna. I ett tidigare uttalande har Meta sagt att användare kan överklaga beslut om de anser att ett misstag begåtts, men företaget har också sagt att det inte sett någon ökning av felaktiga avstängningar, trots de många protesterna. Meta hänvisar också till att man rapporterar misstänkta fall till den amerikanska organisationen NCMEC, som i sin tur delar informationen med brottsbekämpande myndigheter globalt.

Avstängningar

Företaget har dessutom sagt att dess policy även omfattar bilder som inte föreställer riktiga barn, men som ändå avbildar mänskliga drag – till exempel AI-genererade bilder, konst eller fiktiva figurer. I Sydkorea har dock en politiker bekräftat att Meta internt medgett att det förekommit felaktiga avstängningar där.

Forskarna vet fortfarande inte exakt vad som ligger bakom problemet. Carolina Are, forskare i sociala medier vid Northumbria University, menar att bristen på insyn gör det svårt att förstå vad som triggar dessa beslut. Enligt henne kan problemet ha att göra med otydligt formulerade regler och en bristfällig överklagandeprocess.

Källa:

BBC News