OpenAI säger att företagets chattbot inte orsakade dödsfallet av en 16-årig pojke i Kalifornien utan menar att händelsen berodde på felaktig användning av tekniken. Uttalandet ingår i företagets svar på en stämningsansökan som riktats mot OpenAI och vd:n Sam Altman av familjen till Adam Raine som avled i april efter en längre tids kontakt med ChatGPT.
I stämningen påstås att pojken vid flera tillfällen diskuterade självmord med chattboten och att tekniken gav svar som borde ha stoppats av säkerhetssystemen. Familjens juridiska ombud hävdar att produkten lanserades trots kända risker.
I sitt svar
OpenAI skriver i sitt svar till domstolen att företagets användarvillkor förbjuder frågor om självskada och att användare inte får förlita sig på svaren som enda källa till information. Företaget uttrycker medkänsla med familjen och säger att delar av konversationerna presenterats utan sammanhang men att chatthistoriken lämnats in under sekretess.
Familjens advokat kallar svaret oroande och menar att OpenAI försöker lägga skulden på användaren. Under november har flera ytterligare stämningar lämnats in i Kalifornien där företaget anklagas för bristande säkerhet. OpenAI säger att man fortsätter utveckla skyddsåtgärder och att erfarenhet visat att långa konversationer kan leda till att säkerhetsträning försvagas. Företaget uppger att det arbetar för att förhindra att sådana situationer uppstår.
Källa: The Guardian
0 kommentarer