Metas vd Mark Zuckerberg godkände att minderåriga fick tillgång till AI-bottar, trots att företagets egna säkerhetsexperter varnade för att tekniken kunde användas för sexuella interaktioner. Uppgifterna framkommer i interna dokument som har blivit offentliga i samband med en rättsprocess i New Mexico.

Delstaten, ledd av justitiekansler Raul Torrez, anklagar Meta för att ha misslyckats med att stoppa sexuellt material och förslag riktade mot barn på Facebook och Instagram. Rättegången är planerad att inledas nästa månad.

Säkerhetspersonalens protester

Dokumenten, som inkluderar interna e-postmeddelanden och meddelanden från tidigt 2024, visar på en djup splittring inom företaget. Flera anställda uttryckte starka invändningar mot att Meta utvecklade bottar anpassade för romantiska relationer.

• Ravi Sinha, chef för policyn kring barnsäkerhet, skrev i januari 2024 att det var oförsvarbart att marknadsföra produkter som lät vuxna skapa romantiska AI-karaktärer föreställande minderåriga.

• Antigone Davis, global säkerhetschef, höll med och betonade att sådana funktioner sexualiserar minderåriga.

• Nick Clegg, tidigare chef för global policy, ifrågasatte om Meta verkligen ville bli förknipat med sexualiserade AI-följeslagare för tonåringar.

Enligt anklagelserna ska Zuckerberg personligen ha avvisat rekommendationer om striktare begränsningar. Han ska i stället ha betonat principer om valfrihet och motstånd mot censur.

Avsaknad av föräldrakontroll

Meddelanden från mars 2024 pekar på att vd:n även ska ha nekat införandet av föräldrakontroller som skulle göra det möjligt att stänga av den generativa AI-funktionen för barn. En anställd noterade i en konversation att ledningen för AI-avdelningen blockerade förslaget med hänvisning till Marks beslut.

Meta hävdar via talespersonen Andy Stone att dokumenten har valts ut selektivt för att ge en felaktig bild. Stone menar att materialet snarare visar att Zuckerberg gav instruktioner om att explicit material inte skulle vara tillgängligt för unga användare.

Policyändringar efter kritik

Uppmärksamheten kring Metas AI-bottar har tidigare lett till skarp kritik i den amerikanska kongressen. Tidningen Wall Street Journal avslöjade i april 2025 att bottarna inkluderade sexualiserade karaktärer föreställande barn och att de deltog i grafiska rollspel.

Under augusti rapporterades det att Metas officiella riktlinjer tillät att barn engagerades i sensuella samtal. Företaget hävdade då att dokumentet var felaktigt och att policyn skulle ändras. Förra veckan meddelade Meta att de helt har tagit bort tonåringars tillgång till AI-följeslagare i väntan på en ny version av tjänsten.

Källa: Reuters