En ny granskning från organisationen Tech Transparency Project (TTP) visar att Apples App Store och Google Play Store innehåller ett stort antal så kallade ”nudify”-appar. Dessa applikationer använder artificiell intelligens för att skapa sexualiserade bilder på personer utan deras samtycke. Förekomsten av dessa appar anses vara ett tydligt brott mot båda företagens användarvillkor.
Omfattande spridning och stora intäkter
Utredningen identifierade 55 sådana appar hos Google och 47 hos Apple. Tillsammans har dessa applikationer laddats ner över 700 miljoner gånger och genererat intäkter på mer än 117 miljoner dollar. Eftersom både Apple och Google tar en procentuell andel av alla köp som görs i deras butiker innebär det att de tjänar pengar på verktyg som möjliggör digitala övergrepp.
Många av de utpekade apparna har dessutom fått åldersrekommendationer som gör dem tillgängliga för barn och tonåringar. Exempelvis har appen DreamFace bedömts som lämplig från nio år i App Store och från 13 år i Play Store.
Ofullständiga åtgärder från teknikjättarna
Båda företagen har reagerat på rapporten genom att ta bort vissa av apparna, men kritiker menar att åtgärderna är otillräckliga. Apple uppger att de har raderat 24 appar, vilket är betydligt färre än de 47 som forskarna hittade. Google har stängt av flera appar men har inte velat precisera exakt hur många det rör sig om.
Utöver de fristående apparna erbjuder båda plattformarna fortfarande tillgång till Elon Musks AI-tjänst Grok. Tjänsten har nyligen uppmärksammats för att ha genererat miljontals sexualiserade bilder, varav ett stort antal föreställde barn. Musk har förnekat kännedom om händelserna, trots att AI-tjänsten själv har bett om ursäkt för att ha skapat det olagliga materialet.
Läs mer
Över en miljon ai-bilder exponerade online – inkluderar explicit material
Grok fortsätter att generera sexuellt innehåll – trots löften om förbud
