Flera amerikanska politiker har utsatts för avancerade röstbedrägerier där AI-genererade deepfake-samtal använts för att sprida falsk information. Enligt senator Marco Rubio mottog flera av hans kollegor nyligen samtal från någon som utgav sig för att vara honom – men rösten var syntetiskt genererad med hjälp av AI.
Rubio, som är vice ordförande i senatens underrättelseutskott, säger att det inte rör sig om ett isolerat fall. Han beskriver attacken som “försök att så förvirring, skapa osäkerhet och påverka beslutsfattande”. Samtalen tros vara del av en större kampanj riktad mot USA:s politiska ledning.
FBI har bekräftat att man är medveten om incidenterna men vill inte kommentera pågående utredningar. Det är ännu oklart vem som ligger bakom attackerna, men experter pekar på att tekniken för att klona röster nu är så avancerad att det räcker med några sekunders ljudmaterial för att skapa en trovärdig kopia.
Bedrägerierna lyfter fram en växande oro i USA kring hur AI kan användas i politiskt syfte. Under ett valår där trovärdighet och informationssäkerhet är avgörande, varnar flera analytiker för att denna typ av manipulation kan komma att bli vanligare.
Senator Rubio uppmanar till skärpta regler och ökad medvetenhet om hur AI-baserade röstkloner kan utnyttjas i desinformationssyfte.
Källa:
0 kommentarer