Elon Musks AI-bolag xAI har meddelat att bildverktyget Grok inte längre ska kunna manipulera bilder på verkliga människor för att placera dem i utmanande klädsel. Beslutet kommer efter en omfattande internationell kritikstorm där verktyget använts för att skapa kränkande och sexuellt explicita bilder, bland annat på kvinnliga politiker och minderåriga.

Tidigare i veckan uppgav Musk själv att han inte kände till att Grok skapat nakenbilder på barn, men företaget inför nu striktare filter för att förhindra missbruk.

Granskningen av Grok har intensifierats globalt efter rapporter om att användare digitalt klätt av personer utan deras samtycke och spridit bilderna på plattformen X. xAI betonar nu att de har nollscanning för sexuellt utnyttjande av barn och icke-konsensuell nakenhet. De tekniska begränsningarna gäller alla användare på plattformen, inklusive betalande prenumeranter. Det är dock fortfarande oklart om samma restriktioner gäller i den fristående Grok-appen.

Myndigheter och lagstiftare agerar

Kritiken mot Grok har lett till juridiska efterspel i flera länder. Justitiekanslern i Kalifornien har inlett en utredning och i Storbritannien träder nya lagar i kraft som kriminaliserar skapandet av denna typ av AI-bilder. Premiärminister Keir Starmer har uttalat sig om vikten av att plattformar tar ansvar för det innehåll de möjliggör. Även i Sverige har röster höjts efter att svenska politiker drabbats av liknande fejkade bilder som fått stor spridning.

Indonesien och Malaysia har gått ett steg längre och helt blockerat tillgången till Grok som svar på de oetiska bilderna.Samtidigt pressar amerikanska senatorer och kvinnoorganisationer teknikjättar som Apple och Google att ta bort X och Grok från sina appbutiker om inte säkerhetsåtgärderna skärps avsevärt.

Ansvar och framtida utmaningar

Elon Musk hävdar att Grok är programmerat att vägra olagliga förfrågningar och att användare som skapar olagligt innehåll ska bära samma juridiska ansvar som om de laddat upp det manuellt. Experter varnar dock för att detta bara är början på en våg av AI-missbruk riktat mot kvinnor och barn. De poängterar att tekniska begränsningar som betalväggar inte räcker för att stoppa de som är fast beslutna att kringgå systemet.

Utvecklingen visar på de stora utmaningarna med generativ AI där gränsen mellan kreativitet och grova integritetskränkningar är hårfin. Medan xAI nu inför geografiska blockeringar i länder där lagstiftningen är som strängast,kvarstår frågan hur plattformen ska kunna garantera säkerheten för alla användare på sikt.

Källa: The Guardian