Elon Musks sociala medie-plattform X möts nu av stark kritik efter att användare utnyttjat AI-tjänsten Grok för att manipulera bilder på kvinnor. Rapporter visar hur verktyget har använts för att digitalt klä av personer utan deras samtycke eller placera dem i sexuella situationer.

Trots att XAI:s egna regler förbjuder skapandet av pornografiskt material har flera exempel på sådana överträdelser uppmärksammats. Företaget har valt att inte kommentera händelserna på annat sätt än genom ett automatiskt svar som anklagar traditionella medier för lögner.

Lagstiftare och tillsynsmyndigheter agerar

Den brittiska regeringen meddelar nu att de arbetar på att förbjuda verktyg som används för att skapa denna typ av nakenbilder. Enligt det nya lagförslaget ska de som tillhandahåller tekniken kunna dömas till både fängelse och betydande böter. Myndigheten Ofcom betonar att techbolagen har ett strikt ansvar att bedöma riskerna för att olagligt innehåll sprids på deras plattformar. De kräver att företag som X vidtar nödvändiga åtgärder för att snabbt identifiera och ta bort sexuella deepfakes skapade med artificiell intelligens.

Kritik mot plattformens bristande kontroll

Juridiska experter menar att X och Grok har alla möjligheter att stoppa dessa former av övergrepp om viljan fanns. Det riktas skarp kritik mot att plattformen har tillåtit skapandet och spridningen av dessa bilder under flera månader utan märkbara motåtgärder. Detta är inte första gången tjänsten hamnar i fokus för liknande problem då den tidigare har anklagats för att generera explicit material föreställande kända personer. Grok fungerar som en kostnadsfri assistent på X där användare kan redigera uppladdade bilder genom enkla kommandon vilket har öppnat dörren för det omfattande missbruket.

Källa: BBC

Läs mer

Bedragare på X utnyttjar Grok för att sprida skadliga länkar

 

Franska åklagare utreder Elon Musks Grok efter förintelseförnekande uttalanden