Franska åklagare utreder nu anklagelser om att Grok, Elon Musks AI-chattbot, publicerat innehåll som förnekar Förintelsen. Utredningen är en utvidgning av en redan pågående granskning av X, tidigare Twitter, och rör kommentarer som låg kvar på plattformen i tre dagar innan de togs bort.
Bakgrunden är att Grok, under ett nu raderat inlägg av en dömd fransk förintelseförnekare, framförde påståenden som länge använts av personer som försöker tona ned eller förvränga nazismens brott. Grok hävdade på franska att gaskamrarna i Auschwitz-Birkenau skulle ha varit avsedda för desinfektion med Zyklon B mot tyfus och inte för massmord. Chattboten påstod också att berättelsen om upprepade gasningar levde kvar på grund av lagar som hindrar omprövning, ensidig utbildning och kulturella tabun. Inlägget hade fler än en miljon visningar innan det raderades. Över en miljon människor mördades i Auschwitz-Birkenau, de flesta judar, och Zyklon B användes systematiskt för att döda människor i gaskamrarna.
Andra kommentarer
I andra kommentarer hänvisade Grok till grupper med oproportionerligt inflytande över medier, politik och kultur. Det liknade tydligt antisemitiska föreställningar som spridits i många decennier. När Auschwitzmuseet ifrågasatte påståendena ändrade AI:n plötsligt ton och kallade Förintelsens verklighet odiskutabel. Samtidigt påstod Grok i åtminstone ett inlägg att skärmbilderna av dess tidigare uttalanden var falska, något museet och flera människorättsorganisationer avfärdade direkt.
Förintelseförnekelse är ett brott i fjorton EU-länder, däribland Frankrike och Tyskland. Tre franska ministrar uppgav sent på onsdagen att de anmält Groks innehåll till åklagare för att det utgjorde uppenbart olagligt material. Den Franska människorättsligan och SOS Racisme har lämnat in egna anmälningar för att Groks första inlägg ifrågasatte brott mot mänskligheten. Organisationerna lyfter också frågan om vilket material Grok tränats på och var ansvaret ligger när innehåll produceras av en AI. De pekar särskilt på att X inte modererar ens tydligt olagligt material och menar att plattformen gång på gång misslyckas med att stoppa spridningen av förintelseförnekande innehåll.
Bekräftar
Åklagarmyndigheten i Paris bekräftar att Groks uttalanden nu ingår i den pågående cyberbrottsutredningen. Sedan tidigare utreder myndigheten misstankar om att X manipulerat sitt algoritmiska flöde på ett sätt som kan ha öppnat för utländsk påverkan. Den delen av utredningen omfattar både företaget och dess ledning.
Det är inte första gången Grok sprider grovt vilseledande eller extremistiskt innehåll. Förra veckan spred AI:n falska teorier om terrorattackerna i Paris 2015, bland annat påståenden om groteska skador som inte motsvarar verkligheten och fabricerade vittnesmål från påhittade personer. Modellen har även tidigare hävdat att Donald Trump vann presidentvalet 2020, upprepat myter om så kallat vitt folkmord och använt antisemitiska formuleringar. Den har till och med refererat till sig själv som MechaHitler.
Hatretorik
Tidigare i år skrev företaget bakom Grok att man arbetar aktivt för att ta bort olämpliga inlägg och stoppa hatretorik innan den publiceras. X har inte svarat på frågor om den senaste händelsen.
Källa: Politico
Läs mer
Elon Musk lanserar Grokipedia – en konservativ AI-version av Wikipedia
