Det som en gång var enkelt har nu blivit farligt. Förr laddades en webbsida när du klickade på en länk och allt var stillsamt och begripligt. I dag lovar AI-drivna webbläsare som Perplexitys Comet att sköta allt åt dig – läsa, klicka, skriva och tänka. Idén låter smidig men har förvandlats till en säkerhetskatastrof.
Comet har visat hur snabbt ett tekniskt genombrott kan bli en risk. Säkerhetsforskare upptäckte att webbsidor kunde lägga in dolda kommandon som AI-n lydde utan att ifrågasätta. En till synes vanlig blogg kunde be Comet att öppna din mejl och skicka verifieringskoder till en främmande adress. AI-n gjorde det lydigt eftersom den inte kan skilja på vad som kommer från dig och vad som gömts i texten.
Läser och agerar
Vanliga webbläsare fungerar som vakter som bara visar innehåll. En AI-webbläsare däremot läser och agerar, men saknar förmåga att avgöra vem som ger ordern. Den tolkar allt den ser som legitimt, oavsett om det kommer från användaren eller från en manipulerad sida.
Comets misslyckande visar hur sårbart hela idén med AI-webbläsare är. Tekniken är byggd för att förstå och handla, inte för att ifrågasätta. När den får tillgång till konton, formulär och sparad information blir varje felsteg farligt. Angripare behöver inte längre leta efter tekniska buggar utan kan lura systemet enbart med välformulerad text.
Problemet gäller inte bara Comet. Alla företag som utvecklar liknande webbläsare riskerar att upprepa samma misstag. AI-systemet måste behandla varje text som potentiellt fientlig och inte som instruktioner att följa. Säkerheten kräver att webbläsaren ifrågasätter varje uppdrag, begär tillstånd innan den agerar och tydligt redovisar vad den gör.
Misstänksam
Framtiden för AI-webbläsare avgörs av hur snabbt utvecklarna förstår att det inte räcker med att vara smart. Tekniken måste vara misstänksam. Användarna behöver också lära sig att AI-assistenter inte är ofelbara. Ett tryggt system börjar med skepsis, inte med blind tillit.
Källa: Venturebeat
Läs mer
Macken testar: OpenAI utmanar Chrome – ChatGPT flyttar in i webbläsaren
Macken testar: Comet lockar med innovation men snubblar på säkerhet och design
