Totuuden sanotaan olevan minkä tahansa sodan ensimmäinen uhri, ja sanonta pätee Venäjän ja Ukrainan sotaan, jossa kumpikin on käyttänyt manipuloivaa deepfake-tekniikkaa valheellisen tiedon levittämiseen toisistaan.
Tuoreimmassa väärässä videossa Ukrainan presidentistä Volodymyr Zelenskyistä on käytetty deepfake-manipulaatiota, jolloin näyttää kuin tämä esittäisi ukrainalaisille vetoomuksen antautua venäläisille.
Manipuloitu video presidentti Zelenskyistä on poistettu YouTubesta, kuten myös kaikki sen uudet kopiot. Tässä The Telegraph kertoo videon olevan väärennös.
Ukraina on itse aiemmin tuottanut satiirisia deepfake-videoita Venäjän presidentti Vladimir Putinista, joka videonpätkässä sanoo, että hän on maailman vihatuin mies, ja kehottaa kaikkia tukemaan Ukrainaa.
Deepfake AI-moottorilla
On totta, että sotaan liittyvät väärennetyt videot eivät ole kovin viimeisteltyjä eivätkä uppoa medialukutaitoiseen. Niin voi kuitenkin käydä myöhemmin.
1990-luvun alun karkeiden videohuijausten jälkeen tekoälyn vauhdittamalla deepfake-tekniikalla on tehty esimerkiksi videoita, joilla julkisuuden henkilöt juttelevat hyvin outoja.
Uskottavan videohuijauksen luomiseksi tunnetusta henkilöstä syötetään tekoälyyn valtavia määriä valokuvia ja videoleikkeitä.
Järjestelmä harjoittelee hahmontunnistusta tuottamalla useita versioita muun muassa kasvojen mittasuhteista ja liikkeistä.
Tämän jälkeen tallennetaan uusi video, jonka tutun näköisellä esiintyjällä on tekoälyn luomat kasvot ja liikkeet.
Uuteen videoon lisätään tekoälyllä uhrille tunnusomaiset piirteet, jotka ovat vain yksi osa kudosta, josta lopullinen deepfake muotoutuu.
Kun kehon, silmien ja suun liikkeet ovat kohdallaan, hahmolle syntetisoidaan ääni.
Taitavimmillaan deepfake-tuottajat voivat saada aikaan niin hyvän lopputuloksen, että käy kuin saksalaisohjaajalle, joka menetti vuonna 2019 kaksisataatuhatta euroa huijarille. Huijari oli tallentanut ohjaajan ääntä ja soitti ohjaajan kollegalle ja käski tätä siirtämään summan unkarilaiselle alihankkijalle.
Näyttelijä Tom Cruise on kopioitu useille deepfake-videoille, muun muassa tälle, jossa hänet oli laitettu esittämään Yhdysvaltojen presidenttiehdokasta vuonna 2020.
Näin paljastat deepfaken
Teknisten temppujen lisäksi deepfake huijaa sinua käsitykselläsi äänestä ja kuvasta ja tietenkin myös muistisi avulla, sillä se voi tehdä hyvin sinulle tepposet.
Aiemmissa brittiläis-yhdysvaltalaisissa tutkimuksissa on osoitettu, että jopa 85 prosenttia oppimisesta ja ymmärryksestä pohjautuu näköärsykkeiden kautta koettavaan ja koettuun.
Silti vain 20 prosenttia näköärsykkeistä syntyy aivoissa silmien ansiosta. Loput ovat peräisin aivoista itsestään ja etenkin ohimolohkosta, minne muistot tallentuvat.
Näkemämme ei siis ole vain silmien välittämiä ärsykkeitä vaan pitkälti yhdistelmä siitä, mitä näemme, mitä olemme aiemmin nähneet ja mitä luulemme näkevämme.
Olemme taipuvaisia suhtautumaan kritiikittömämmin informaatioon, joka vahvistaa aiempaa käsitystämme maailmasta tai tukee ennakkoluulojamme tai odotuksiamme.
Tämä niin sanottu vahvistusharha tekee meistä deepfakeille helppoja uhreja.
TESTAA ITSESI:
Löydätkö tekniset virheet tästä Tom Cruisen deepfake-videosta vuoden 2022 alusta?