Deepfake: Näin helppoa on höynäyttää väärillä videoilla

Väärennetyt videot Ukrainan sodasta ovat vain alkua aistiesi manipulaatiolle keinotekoisilla deepfake-videoilla. Opi hoksaamaan tekniset harhautuskikat.

Väärennetyt videot Ukrainan sodasta ovat vain alkua aistiesi manipulaatiolle keinotekoisilla deepfake-videoilla. Opi hoksaamaan tekniset harhautuskikat.

Screendump / Twitter

Totuuden sanotaan olevan minkä tahansa sodan ensimmäinen uhri, ja sanonta pätee Venäjän ja Ukrainan sotaan, jossa kumpikin on käyttänyt manipuloivaa deepfake-tekniikkaa valheellisen tiedon levittämiseen toisistaan.

Tuoreimmassa väärässä videossa Ukrainan presidentistä Volodymyr Zelenskyistä on käytetty deepfake-manipulaatiota, jolloin näyttää kuin tämä esittäisi ukrainalaisille vetoomuksen antautua venäläisille.

Ukraina on itse aiemmin tuottanut satiirisia deepfake-videoita Venäjän presidentti Vladimir Putinista, joka videonpätkässä sanoo, että hän on maailman vihatuin mies, ja kehottaa kaikkia tukemaan Ukrainaa.

Deepfake AI-moottorilla

On totta, että sotaan liittyvät väärennetyt videot eivät ole kovin viimeisteltyjä eivätkä uppoa medialukutaitoiseen. Niin voi kuitenkin käydä myöhemmin.

1990-luvun alun karkeiden videohuijausten jälkeen tekoälyn vauhdittamalla deepfake-tekniikalla on tehty esimerkiksi videoita, joilla julkisuuden henkilöt juttelevat hyvin outoja.

Uskottavan videohuijauksen luomiseksi tunnetusta henkilöstä syötetään tekoälyyn valtavia määriä valokuvia ja videoleikkeitä.

Järjestelmä harjoittelee hahmontunnistusta tuottamalla useita versioita muun muassa kasvojen mittasuhteista ja liikkeistä.

Tämän jälkeen tallennetaan uusi video, jonka tutun näköisellä esiintyjällä on tekoälyn luomat kasvot ja liikkeet.

Uuteen videoon lisätään tekoälyllä uhrille tunnusomaiset piirteet, jotka ovat vain yksi osa kudosta, josta lopullinen deepfake muotoutuu.

Kun kehon, silmien ja suun liikkeet ovat kohdallaan, hahmolle syntetisoidaan ääni.

Taitavimmillaan deepfake-tuottajat voivat saada aikaan niin hyvän lopputuloksen, että käy kuin saksalaisohjaajalle, joka menetti vuonna 2019 kaksisataatuhatta euroa huijarille. Huijari oli tallentanut ohjaajan ääntä ja soitti ohjaajan kollegalle ja käski tätä siirtämään summan unkarilaiselle alihankkijalle.

Näin paljastat deepfaken

Teknisten temppujen lisäksi deepfake huijaa sinua käsitykselläsi äänestä ja kuvasta ja tietenkin myös muistisi avulla, sillä se voi tehdä hyvin sinulle tepposet.

Aiemmissa brittiläis-yhdysvaltalaisissa tutkimuksissa on osoitettu, että jopa 85 prosenttia oppimisesta ja ymmärryksestä pohjautuu näköärsykkeiden kautta koettavaan ja koettuun.

Silti vain 20 prosenttia näköärsykkeistä syntyy aivoissa silmien ansiosta. Loput ovat peräisin aivoista itsestään ja etenkin ohimolohkosta, minne muistot tallentuvat.

Näkemämme ei siis ole vain silmien välittämiä ärsykkeitä vaan pitkälti yhdistelmä siitä, mitä näemme, mitä olemme aiemmin nähneet ja mitä luulemme näkevämme.

Olemme taipuvaisia suhtautumaan kritiikittömämmin informaatioon, joka vahvistaa aiempaa käsitystämme maailmasta tai tukee ennakkoluulojamme tai odotuksiamme.

Tämä niin sanottu vahvistusharha tekee meistä deepfakeille helppoja uhreja.

Näin löydät deepfaket

Pidä silmällä näitä seikkoja, sillä ne paljastavat videon deepfakeksi:

Muutokset valaistuksessa

Ylimääräiset tai oudot pikselit

Äkilliset siirtymät tai liikkeet

Erikoinen ihon väri tai sen vaihtuminen

Äänen, huulten ja silmien huono synkronointi

Epäselvät kohdat henkilössä tai taustassa

TESTAA ITSESI:

Löydätkö tekniset virheet tästä Tom Cruisen deepfake-videosta vuoden 2022 alusta?