Hundratusentals användarsamtal med Elon Musks AI-assistent Grok har blivit synliga i sökresultat – utan att användarna tycks ha förstått det.
När en Grok-användare trycker på knappen för att dela en konversation skapas en unik länk. Avsikten är att samtalet ska delas med en mottagare, men det visar sig att samtalen samtidigt har blivit sökbara på nätet.
En sökning i torsdags visade att Google hade indexerat närmare 300 000 samtal. En granskning av Forbes pekade på ännu fler – över 370 000 användarkonversationer låg öppet på nätet.
Medicinska tillstånd
Bland de indexerade samtalen fanns förfrågningar om säkra lösenord, kostråd för viktminskning och frågor om medicinska tillstånd. Andra exempel visade hur användare testade gränserna för vad Grok skulle svara på – i ett fall gav chatboten detaljerade instruktioner för hur en klass A-drog kan framställas i laboratorium.
Det är inte första gången AI-konversationer sprids bredare än vad användarna räknat med. OpenAI fick tidigare backa på ett experiment där ChatGPT-samtal dök upp i sökresultat efter att de delats. Även Meta har kritiserats när användarsamtal med Meta AI blev synliga i ett publikt flöde i appen.
Varnar
Experter varnar nu för konsekvenserna. Luc Rocher vid Oxford Internet Institute beskriver AI-assistenter som ”en pågående integritetskatastrof”. Han framhåller att delade konversationer ofta innehåller personliga uppgifter – från namn och plats till känsliga detaljer om hälsa, affärer och relationer – och att informationen riskerar att ligga kvar på nätet för alltid.
Carissa Veliz, filosof vid Oxford Universitys Institute for Ethics in AI, påpekar att användarna inte informerades om att delade samtal skulle bli synliga i sökresultat. Hon menar att tekniken i dag inte ens berättar vad den gör med våra data, och att det är en grundläggande brist.
Källa:
