OpenAI förbereder lanseringen av en ny funktion som tillåter sexuellt innehåll i konversationer med ChatGPT. Det nya läget begränsas till textbaserad erotik och kommer inte att stödja generering av explicita bilder, ljud eller videoklipp. Företagets vd, Sam Altman, har tidigare motiverat beslutet med att vuxna användare bör behandlas som vuxna.
Lanseringen har försenats flera gånger under början av 2026, officiellt för att prioritera andra funktioner. Bakom kulisserna har dock OpenAI:s interna expertråd för välmående varnat enhälligt för riskerna. Forskarna menar att AI-genererad erotik kan skapa ohälsosamma emotionella beroenden. En medlem i rådet varnade till och med för att företaget riskerar att skapa en virtuell coach som i värsta fall kan driva instabila personer till självmord.
Säkerhetsfunktionerna har också ifrågasatts. Enligt uppgifter i The Wall Street Journal har OpenAI:s system för åldersverifiering haft en felmarginal på 12 procent. Med tanke på att miljontals tonåringar använder tjänsten varje vecka innebär det att ett stort antal minderåriga riskerar att få tillgång till det explicita materialet. OpenAI medger att inget system är helt felfritt men hävdar att deras algoritmer håller branschstandard.
Källa: Engadget
