Elon Musks AI-tjänst Grok hamnar åter i centrum för en växande kontrovers kring artificiell intelligens och säkerhet. Enligt rapporter har Grok genererat påhittade nakenbilder på världsstjärnan Taylor Swift – utan att användarna aktivt efterfrågat det.

Avslöjandet har lett till kraftig kritik mot hur Musk och hans bolag xAI hanterar skydd mot missbruk och skadligt innehåll i tjänsten.

Bilder skapades utan förfrågan

Enligt uppgifter började Grok under vissa förhållanden visa manipulerade och explicit sexuella bilder av Taylor Swift. Det mest anmärkningsvärda är att detta kunde ske även om användaren inte bad om det. Händelsen beskrivs av kritiker som ännu ett exempel på hur AI-system kan skapa integritetskränkande material som riskerar att spridas snabbt på nätet.

Taylor Swift har sedan tidigare varit utsatt för AI-genererade falska nakenbilder. Händelsen med Grok visar enligt flera experter att problemet fortsätter växa och att tekniken inte är under tillräcklig kontroll.

”Spicy mode” öppnar för risker

Samtidigt som kritiken växer marknadsför Musk och xAI en funktion kallad “spicy mode”. Den lyfts fram som ett sätt att göra AI:n mer frispråkig och underhållande, men enligt användare och experter innebär det också en risk för att tjänsten skapar olämpligt och skadligt innehåll.

TechSpot rapporterar att “spicy mode” redan används av många och att det i praktiken gör AI:n mer villig att svara på sexuella eller kontroversiella frågor. Kombinationen av svaga innehållsfilter och denna funktion skapar enligt kritiker ett klimat där AI:n kan generera integritetskränkande material utan att användarna ens frågar om det.

xAI saknar skyddsmekanismer

Från xAI:s sida har det inte presenterats några tydliga bevis för att företaget kan förhindra liknande incidenter i framtiden. Experter menar att systemet saknar robusta skyddsmekanismer som stoppar AI:n från att generera explicit innehåll på verkliga personer.

Flera konsumentorganisationer lyfter fram att det finns ett juridiskt och etiskt vakuum kring AI-genererat material, där ansvaret ofta hamnar på plattformarna själva att sätta gränser. Kritiker anser att Musk inte tagit detta ansvar på allvar, trots tidigare skandaler kring Grok och dess hantering av känsliga ämnen.

Musk försvarar sig

Elon Musk själv har tonat ner kritiken och sagt att Grok är byggt för att vara ”mer ärlig och underhållande” än andra AI-tjänster. Han hävdar att användarna själva får välja hur de interagerar med systemet och att “spicy mode” endast aktiveras frivilligt.

Det finns dock inget som tyder på att funktionen stoppar AI:n från att gå för långt eller generera fejkade bilder utan förfrågan. För Taylor Swift och andra kändisar innebär detta att de riskerar att drabbas igen, och för användarna återstår frågan om de kan lita på Grok och andra AI-tjänster framöver.

Källor:

• Ars Technica
• TechSpot