Den brittiska regeringen inför ett förbud mot appar som används för att skapa falska nakenbilder. Beslutet är en del av en bredare strategi för att halvera våldet mot kvinnor och flickor.

De nya lagarna gör det olagligt att både skapa och tillhandahålla AI-verktyg som används för att manipulera bilder så att personer ser nakna ut. Tekniken har blivit ett vapen för att förnedra och utnyttja individer genom sexuellt explicit material skapat utan samtycke.

Krafttag mot digitala övergrepp

Teknikminister Liz Kendall betonar att kvinnor och flickor förtjänar trygghet både online och offline. Myndigheterna kommer inte att titta på när tekniken används för att exploatera människor. De nya lagbestämmelserna innebär att de som tjänar pengar på dessa appar eller möjliggör användningen av dem ska möta lagens fulla kraft. Det är sedan tidigare brottsligt att skapa djuppoernografi av en enskild individ. Det nya tillägget riktar sig nu direkt mot själva mjukvaran och dess distributörer.

AI som verktyg för skada

Appar för avklädning använder generativ AI för att ta bort kläder från bilder på ett realistiskt sätt. Experter har länge varnat för riskerna med denna teknik. Problemet är särskilt allvarligt när verktygen används för att skapa övergreppsmaterial på barn. Barnrättsorganisationer i England har krävt ett totalförbud med argumentet att om bilden i sig är olaglig så bör även tekniken bakom vara det. Statistiken visar att en betydande andel unga som rapporterar explicita bilder har fått sitt material manipulerat genom liknande tjänster.

Samarbete med teknikbranschen

Regeringen planerar att arbeta tillsammans med teknikföretag för att utveckla metoder som bekämpar spridningen av otillbörliga bilder. Arbetet inkluderar mjukvara som kan identifiera och blockera sexuellt innehåll i realtid. Målet är att göra det omöjligt för barn att ta, dela eller se nakenbilder på sina telefoner. Utöver förbudet mot konsumentappar ska även AI-verktyg som utformats för att generera övergreppsmaterial på barn förbjudas helt.

Källa: BBC