Statligt stödda hackare använder nu Googles AI-modell Gemini för att understödja alla stadier i sina attacker, från inledande rekognosering till åtgärder efter ett intrång. En ny rapport från Google Threat Intelligence Group (GTIG) visar att aktörer från Kina, Iran, Nordkorea och Ryssland utnyttjar tekniken för att profilera mål, skapa nätfiskemeddelanden, översätta texter och skriva kod för skadlig programvara.
Även cyberkriminella visar ett ökat intresse för AI-verktyg. Tekniken används bland annat i så kallade ClickFix-kampanjer för att lura användare att installera spionprogrammet AMOS på macOS via manipulerade sökresultat och annonser.
Automatiserade angrepp och kodning
Kinesiska hotaktörer har enligt rapporten skapat expertpersonor i Gemini för att automatisera analyser av sårbarheter. Genom att dikta upp scenarier har de fått modellen att ta fram testplaner för att kringgå brandväggar och utföra SQL-injektioner mot specifika mål i USA.
Iranska APT42 har använt modellen som en utvecklingsplattform för att påskynda skapandet av skräddarsydda verktyg för social manipulation och kodning av skadlig programvara. Google noterar även att AI har använts för att utveckla nya funktioner i befintliga hot som nätfiskekitet CoinBait och programmet HonestCue. Det sistnämnda använder Geminis API för att generera kod som sedan körs direkt i datorns minne.
Stöld av AI-modeller
Rapporten lyfter även fram ett växande problem med stöld av själva AI-modellerna genom en metod som kallas kunskapsdestillation. Genom att systematiskt ställa tusentals frågor till Gemini försöker angripare återskapa modellens beslutsfattande och funktionalitet till en bråkdel av den ursprungliga utvecklingskostnaden.
I en storskalig attack riktades 100 000 frågor mot Gemini i syfte att kopiera modellens resonemang kring uppgifter på andra språk än engelska. Google ser detta som ett allvarligt hot mot affärsmodellen för AI-tjänster och immaterialrätten.
Som svar på dessa aktiviteter har Google stängt ner konton och infrastruktur kopplade till missbruket. Företaget har även infört förstärkta säkerhetsspärrar i Geminis filter för att göra det svårare att använda tjänsten för illegala ändamål.
Källa: Bleeping Computer
