OpenAI planerar att tillåta ett bredare spektrum av innehåll i ChatGPT, inklusive erotik, som en del av företagets strategi att ”behandla vuxna användare som vuxna”. Det uppger vd Sam Altman i ett inlägg på X, där han skriver att kommande versioner av ChatGPT ska kunna uppträda mer mänskligt – men endast för de användare som själva vill det.
Beslutet väntas göra tjänsten mer attraktiv för betalande användare, men kan också öka trycket på amerikanska lagstiftare att införa hårdare regler för AI-baserade chattbotar. OpenAI har inte kommenterat uppgifterna offentligt.
Förändringarna kommer efter en uppmärksammad stämning tidigare i år, där föräldrarna till en 16-årig pojke i USA anklagade OpenAI för vårdslöshet efter att deras son tagit sitt liv. Enligt stämningsansökan visade chattloggar mellan pojken och ChatGPT att han uttryckt självmordstankar.
Verktyg
Altman säger att ChatGPT tidigare var ”mycket restriktiv” för att skydda användare med psykisk ohälsa, men att företaget nu har utvecklat verktyg som gör det möjligt att minska riskerna utan att begränsa innehållet lika hårt.
Från och med december ska OpenAI införa strängare ålderskontroll och tillåta mer vuxeninnehåll, däribland erotik, för verifierade användare. Företaget framhåller att det sker under förutsättning att skyddet för minderåriga stärks.
Kritiker ifrågasätter om OpenAI verkligen kan garantera att barn inte får tillgång till vuxeninnehåll. Juristen Jenny Kim menar att ”företaget, liksom många andra inom techbranschen, använder människor som försökskaniner” och att nuvarande åldersgränser inte är tillräckliga.
Politisk nivå
Liknande diskussioner förs på politisk nivå. Kaliforniens guvernör Gavin Newsom stoppade nyligen ett lagförslag som skulle ha förbjudit AI-chattbotar för barn om företagen inte kunde visa att de var säkra. Samtidigt utreder den amerikanska handelsmyndigheten FTC hur chattbotar interagerar med minderåriga, och i senaten har ett lagförslag lagts fram som skulle göra det möjligt att väcka skadeståndskrav mot AI-företag.
Utvecklingen sker samtidigt som OpenAI och andra stora teknikbolag slåss om marknadsandelar i en snabbt växande AI-industri. Trots kraftigt ökade intäkter har OpenAI ännu inte visat vinst. Enligt forskaren Rob Lalka handlar förändringarna om att fortsätta den explosiva tillväxt som gjorde ChatGPT till den snabbast växande konsumenttjänsten i historien.
Källa:
BBC
Läs mer
