Plattformen X har under veckan hävdat att man infört strikta åtgärder för att stoppa missbruket av AI-verktyget Grok. En granskning gjord av The Guardian visar dock att det fortfarande är enkelt att kringgå dessa spärrar.
Reportrar har lyckats skapa högst sexualiserade videor på kvinnor utifrån vanliga fotografier genom att använda en fristående version av appen.Detta sker samtidigt som Elon Musks nätverk står under hård press från både brittiska politiker och internationella tillsynsmyndigheter.
Kringgår restriktioner via fristående app
X meddelade sent i onsdags att tekniska skydd nu ska förhindra Grok från att redigera bilder på riktiga människor till att bära avslöjande klädsel som bikini. Granskningen visar att begränsningen främst verkar beröra interaktionen direkt på plattformen X. Den fristående applikationen Grok Imagine, som nås enkelt via webbläsare, svarar fortfarande på instruktioner om att digitalt klä av kvinnor. I flera fall gick verktyget längre än instruktionen och skapade provokativa videor i form av en striptease snarare än bara en stillbild.
Starka reaktioner från den brittiska regeringen
Premiärminister Keir Starmer har beskrivit bilderna som genereras av Grok som ”avskyvärda” och ”skamfulla”. Han betonar att yttrandefrihet inte innebär en rättighet att kränka människors samtycke. Teknikminister Liz Kendall välkomnade inledningsvis beskedet om hårdare tag men uttrycker nu försiktighet. Hon förväntar sig att fakta kring hur väl dessa skydd fungerar fastställs genom den pågående utredningen från mediemyndigheten Ofcom.
Ofcom granskar säkerhetsbrister
Tillsynsmyndigheten Ofcom inledde i måndags en formell utredning av X enligt den nya lagen om onlinesäkerhet.Myndigheten arbetar dygnet runt för att få svar på hur illegalt innehåll, inklusive sexuella bilder på barn, har kunnat skapas och spridas via tjänsten. Om X befinns ha brustit i sitt ansvar att skydda användare i Storbritannien riskerar bolaget böter på upp till tio procent av sin globala omsättning. Som en sista utväg har Ofcom även befogenhet att söka domstolsbeslut för att blockera tillgången till tjänsten helt.
Kritik från kvinnoorganisationer
Organisationer som arbetar mot våld mot kvinnor menar att X inte tar frågan på tillräckligt stort allvar. Rebecca Hitchen från End Violence Against Women Coalition poängterar att det inte borde vara möjligt med så enkla kryphål. Hon får medhåll från Fawcett Society som kritiserar tekniksektorn för att inte prioritera säkerhet och värdighet i sina produkter.Kritiker menar att Musk först försökte göra ”avklädningsfunktionen” till en betaltjänst för premiumabonnenter innan han slutligen lovade ett totalt stopp.
Global press och framtidsutsikter
Det är inte bara Storbritannien som agerar mot xAI och plattformen X. Kanadas dataskyddsmyndighet utreder bolaget och länder som Indonesien och Malaysia har redan vidtagit rättsliga åtgärder eller blockerat tillgången till Grok. Elon Musk själv verkar se uppmärksamheten som en framgång och delade nyligen data som visar att sökningar på Grok har nått rekordnivåer. Regeringen i London står dock fast vid att de inte kommer att vila förrän sociala medier uppfyller sina lagstadgade skyldigheter enligt Online Safety Act.
Källa: The Guardian
