Europeiska kommissionen har idag inlett en formell utredning mot plattformen X enligt förordningen om digitala tjänster (DSA). Myndigheten vill undersöka om företaget har gjort en korrekt riskbedömning före lanseringen av AI-verktyget Grok. Utredningen startas efter att tjänsten använts för att skapa sexuellt explicit material.
Risker har blivit verklighet
Kommissionen konstaterar att de befarade riskerna nu ser ut att ha förverkligats. Verktyget har använts för att framställa manipulerade bilder, inklusive material som kan klassas som övergrepp mot barn. EU:s teknikkommissionär Henna Virkkunen beskriver sexuella deepfakes som en oacceptabel form av förnedring. Hon betonar att utredningen ska avgöra om X har följt sina lagliga skyldigheter eller om de behandlat europeiska medborgares rättigheter som oviktiga i sammanhanget.
Även brittiska myndigheter granskar nu plattformen. Detta sker efter att Grok-konton på X använts för att skapa avklädda bilder av användare samt barnpornografiskt material. Både datainspektionen ICO och mediemyndigheten Ofcom har inlett egna undersökningar för att granska regelefterlevnaden.
Kritik mot betalvägg för AI-funktioner
Efter att även justitiekanslern i Kalifornien inlett en utredning valde X att begränsa tillgången till Grok. Möjligheten att skapa och redigera bilder kräver nu ett betalmedlemskap. Beslutet har mött hård kritik från den brittiska premiärministerns talesperson. Uttalandet beskriver åtgärden som förolämpande mot offer för sexuellt våld, då företaget i praktiken förvandlat ett verktyg för olagliga bilder till en premiumtjänst.
Krav på stora plattformar
X klassas enligt EU-lagstiftning som en mycket stor onlineplattform eftersom de når över 45 miljoner användare i unionen. Detta innebär att de är skyldiga att motverka systemiska risker, såsom spridning av olagligt innehåll och hot mot grundläggande rättigheter. Utredningen är inte företagets första problem med EU-rätten. Redan i december bötfälldes X med 120 miljoner euro för brister gällande krav på transparens.
Källa: Bleeping Computer
