Säkerhetsforskare vid Symantec har visat hur AI och AI-agenter kan användas för att kartlägga tänkbara phishing-offer och även för att genomföra en sådan attack.
Forskarna använde OpenAI:s Operator-agent, som beta-testas just nu, för att planera en nätfiskeattack och sedan genomföra den typen av attack från början till slut.
Symantec har publicerat det som kallas ”proof of concept” i ett inlägg på företagets blogg. ”Proof of concept” är en redogörelse för en verklig, fullt ut fungerande funktion där alla steg genomförs.
Språkmodeller
Symantec ville visa att visa att stora språkmodeller (LLM) kan användas för att generera innehåll (övertygande nätfiske-e-postmeddelanden), hjälpa till med grundläggande kodningsuppgifter och utföra vissa efterforskningsuppgifter.
Symantec skriver:
Agenter har mer funktionalitet och kan faktiskt utföra uppgifter som att interagera med webbsidor. Medan en agents legitima användningsfall kan vara automatisering av rutinuppgifter, kan angripare potentiellt utnyttja dem för att skapa infrastruktur och starta attacker.
Med hjälp av en AI-agent så har Symantec:
- Identifierat vem som har en viss roll i organisationen
- Tagit reda på dennes e-postadress
- Skapat ett PowerShell-skript designat för att samla systeminformation
- Maila det till dem med ett övertygande lockbete
Den typen av uppgifter kan naturligtvis gör manuellt men en AI-agent gör det avsevärt mycket snabbare. Dessutom så kan en AI-agent snabbt sammanställa och leta fram information på andra tänkbara offer för en attack.
Instruktioner
Symantec har visat att AI kan användas för att utföra uppgifter som i vanliga fall skulle kräva kodningskunskaper, tekniska insikter i hur e-post fungerar och kännedom om offret. Allt det kan nu hanteras av en lite mer avancerad AI-agent.
