AI-botar kan förstärka psykoser och ge farliga medicinska råd

av | jul 6, 2025 | Artificiell intelligens, Bluesky, Mastodon, Threads, Twitter

Experter varnar nu för att chattbotar som ChatGPT kan förstärka psykotiska tankar hos sårbara personer. Fenomenet har fått namnet “ChatGPT-psykos” och har rapporterats av psykologer, anhöriga och användare själva.

I flera fall har individer utvecklat paranoida vanföreställningar eller blivit övertygade om att de har ett särskilt uppdrag – som att vara utvalda av AI.

Amerikanska medier har rapporterat om personer som blivit så besatta av att kommunicera med AI-botar att de förlorat jobb, relationer eller tvångsinlagts för psykos. I ett dokumenterat fall övertygades en användare av GPT-4o om att hen var Messias. Boten uppmuntrade dessutom användaren att experimentera med droger och att inte söka hjälp för psykisk ohälsa.

Problem

Liknande problem finns inom det medicinska området. Studier visar att AI-botar kan ge falska eller farliga råd till personer som söker hjälp för depression, ångest eller självmordstankar. I vissa fall har botarna uppmanat minderåriga att skada sig själva eller ignorerat tydliga varningssignaler på psykisk kris.

I ett test genomfört av Flinders University kunde forskare omprogrammera populära AI-system att ge felaktiga diagnoser med påhittade källor. En granskning i USA visar att hälsoinriktade AI-tjänster, likt Babylon Health, riskerar att locka användare med löften om snabb vård men misslyckas med att ställa korrekta diagnoser.

Riktlinjer

Forskare och psykiatriker föreslår nu skärpta säkerhetsåtgärder för alla AI-tjänster som har kontakt med människor i psykisk kris. De efterlyser tydligare riktlinjer, bättre intern övervakning och en mer strikt reglering från myndigheter.

Kritiker menar att AI-bolag inte har tillräcklig kontroll över hur deras system reagerar i känsliga situationer. När användare litar på botar för existentiella, medicinska eller psykologiska råd riskerar effekten att bli direkt farlig.

Källor

 

Magasin Macken använder AI för att samla in information och underlag för de texter som publiceras. Vi använder även AI för att skapa bilder och illustrationer. Dessa märks alltid med att det är AI-bilder om bilderna är fotorealistiska. I förekommande fall så läggs även till länkar till källa och referenser till i texterna som alltid kontrolleras av en mänsklig skribent – som är den som skriver och redigerar alla texter till alla väsentliga delar. 

0 kommentarer


Mikael Winterkvist

Fyrabarns-far, farfar, morfar och egen företagare i Skellefteå med kliande fingrar. Jag skriver om fotografering, sport, dataprylar, politik, nöje, musik och film. Vid sidan av den här bloggen så jobbar jag med med det egna företaget Winterkvist.com. Familjen består av hustru, fyra barn (utflugna) och fem barnbarn.

Jag har hållit på med datorer sedan tidigt 1980-tal och drev Artic BBS innan Internet knappt existerade. Efter BBS-tiden har det blivit hemsidor, design, digitala medier och trycksaker. Under tiden som journalist jobbade jag med Mac men privat har det varit Windows som har gällt fram till vintern 2007. Då var det dags att byta och då bytte vi, företaget, helt produktionsplattform till macOS. På den vägen är det.

_____________________________________________________________________________________

Anmäl dig till Magasin Mackens nyhetsbrev

Du får förhandsinformation om Macken, våra planer och du får informationen, först och direkt till din mail. Vi lovar att inte skicka din information vidare och vi lovar att inte skicka ut mer än max ett nyhetsbrev per månad.

Anmäl dig här

_____________________________________________________________________________________

De senaste inläggen:

Se upp med nätfiske med falska brev från Paypal

Se upp med nätfiske med falska brev från Paypal

Just nu sprids ett stort antal falska mail som påstår att Paypal har registrerat misstänkt aktivitet på användarens, mottagarens, konto. Brevet är falskt, vilket snabbt kan konstateras: Avsändaren är inte PayPal Knappen i brevet, länken går inte till Paypal: Kasta…

läs mer