Baksidan av AI – Deep Fakes

Så skapas Deep Fakes

Så skapas Deep Fakes

Det kallas Deep Fakes, en metod och ett program för att byta ut ansikten i filmer med hjälp av AI. Sedan ett program släppts pågå nätet där detta kan göras tämligen enkelt så har mängden falska filmer, främst porrfilmer, exploderat ute på nätet.

Ett av de program, FakeApp, som används släpptes gratis på nätet för ungefär en månad sedan. Enligt upphovsmannen så har programmet nu laddats ned över 100 000 gånger.

De här programmen använder avancerade och sofistikerade beräkningsalgoritmer för att byta ut ansikten i videofilmer och gör det på ett så skickligt sätt att det ibland är svårt att avgöra om filmen är manipulerad eller inte. Programmen använder det som kallas maskininlärning vilket betyder att programmet lär sig hur filmerna ska manipuleras för att slutresultatet ska bli så verklighetstroget som möjligt. Du skaffar ett antal bilder, stillbilder, en video och sedan lägger programmen in ansiktet i filmen. Allt som krävs är rå datorkraft och det kan ta upp till 40 timmar att skapa en kort videosekvens.

Du behöver stillbilder tagna ur olika vinklar och sedan lär sig programmet hur videon ska manipuleras och hur ansikten ska kunna bytas ut.

Porr

De första filmerna som kom var porr, naturligtvis, eftersom porren så många gånger tidigare använts för helt ny teknik. Det släpptes filmer i en strid ström som skapades av enskilda som ville förverkliga sina pornografiska fantasier på bekostnad av enskilda kvinnliga skådespelare som exploaterades hänsynslöst. Emma Watson, Nathalie Portman, Gal Gadot och Natalie Dormer är bara några exempel i en gång rad av skådespelare, artister och kändisar som dykt upp i falska porrfilmer. Nätforumet Reddit blev snabbt en mötesplats och en samlingsplats för de här filmerna och det skapas stora mängder falska filmer, varje dag som läggs upp på Reddit.

Politiska filmer

Det finns även exempel på politiska filmer där Barack Obama dykt upp i en falsk film. I exemplet nedan så visas hur en falsk video av Obama skapats med hjälp av analyser av enorma mängder data för att avgöra hur Barack Obama talar. Filmen nedan är gjort av studenter vid universitetet i Washington och det har krävts mycket stora resurser för att göra videon – som gjorts som ett projekt. Detsamma gällde tidigare mjukvaran och tekniken används för Deep Fakes. Tidigare kunde inte vem som helst skapa sådana här falska videofilmer men ny teknik, maskinlärning, AI, stillbilder , en video och en rät ordinär dator räcker nu.

Falska porrbilder

Falska porrbilder har funnits länge men de har ofta varit taffligt sammansatta och de har mer handlat om skaparens skicklighet med Photoshop och andra bildredigeringsprogram än om maskinlärning och AI. Den stora skillnaden är att programmet lär sig ansiktsformer, vinklar, ljus och annat från de stillbilder du matar in. Resten gör sedan programmet.

Nästa steg

Så vad är nästa steg?

Rösten och det som sägs?

Det lär inte dröja länge. Det finns redan projekt som pågått en tid där röst- ch ljudmönster studeras för att kunna skapa en artcifiell röst, identiskt med originalet.

Räkna med att det kommer fler och nya versioner av FakeApp där ljud och bild kan manipuleras med hjälp av AI.

Motherboard

This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.