Elon Musks plattform X har infört restriktioner för bildredigering i AI-verktyget Grok. Funktionen är nu endast tillgänglig för betalande användare. Beslutet fattades efter en våg av kritik rörande botens förmåga att skapa sexualiserade deepfakes. Tidigare kunde användare be chattboten att digitalt klä av personer på bilder utan deras samtycke, vilket ledde till ett omfattande bakslag för företaget.
Användare som numera försöker skapa sådant material möts av ett meddelande om att bildgenerering kräver en prenumeration. Detta innebär i praktiken att personens namn och betalningsuppgifter måste finnas registrerade hos X. Kritikerna är dock inte imponerade av åtgärden. Professor Clare McGlynn, expert på juridisk reglering av nätövergrepp, menar att Musk undviker sitt ansvar. Istället för att bygga in säkra spärrar mot missbruk väljer han att helt enkelt låsa funktionen bakom en betalvägg.
Här är de viktigaste händelserna kring restriktionerna:
-
Regeringen i Storbritannien har uppmanat tillsynsmyndigheten Ofcom att använda alla sina befogenheter mot X.
-
Premiärminister Keir Starmer beskriver de AI-genererade bilderna som ”skamliga” och ”vidriga”.
-
Ofcom har under den nya säkerhetslagen möjlighet att via domstol hindra plattformens finansiering eller tillgänglighet i landet.
-
Grok var tidigare ett gratisverktyg som kunde anropas direkt i inlägg för att manipulera bilder av kvinnor till att visa dem i underkläder eller bikini.
Splittrade åsikter om yttrandefrihet och säkerhet
Många av de som drabbats av AI-verktygets redigeringar har vittnat om känslor av förnedring. Trots detta verkar strategin från X fokusera på att göra funktionen exklusiv för verifierade användare med den blå bockmarkeringen. Professor McGlynn ser detta som ett sätt för Musk att underblåsa debatten om yttrandefrihet. Hon menar att han vill framställa regleringar som ett hinder för teknisk utveckling, trots att kraven enbart handlar om att vidta nödvändiga försiktighetsåtgärder för att minska skada.
Situatuationen påminner om förra årets händelser då plattformen tvingades blockera sökningar efter pornografiska deepfakes på Taylor Swift. Regeringskällor betonar nu att de förväntar sig kraftfulla tag från Ofcom för att stoppa spridningen av olagligt AI-material.
Läs mer
