Our website does not support Internet Explorer.

To get the best experience on our website and of our content, please use a more modern browser like Edge, Chrome, Safari or similar.

Deepfake: Nixon pahoittelee Kuuhun laskeutumisen epäonnistumista

Ennen 20. heinäkuuta 1969 tapahtunutta laskeutumista Kuuhun Yhdysvaltojen presidentti Richard Nixonilla oli valmiina kaksi Apollo 11:n, Neil Armstrongin ja Buzz Aldrinin kohtaloa koskevaa puhetta. Toinen esitettiin eri puolilla maailmaa. Toista, fiaskopuhetta, ei koskaan pidetty eikä esitetty. Ennen kuin nyt.

MIT

"Jos ei tiedä, hyväksyy paljon – täysin kritiikittömästi."

Näin totesi Magnus Bjerg, joka on suunnitellut Massachusettsin teknisessä korkeakoulussa eli MIT:ssä tuotetun In Event of Moon Disaster -deepfakefilmin.

Videon tehnyt ryhmä toivoo osoittavansa, miten "uusilla tekniikoilla voidaan venyttää, kiertää ja häivyttää totuutta ympärillämme" ja "tutkia väärän tiedon leviämisen vaikutusta ja deepfake-tekniikkaa yhteiskunnassamme".

Vuosikymmenien takaiselta vaikuttavassa puheessa Yhdysvaltojen taannoinen presidentti Richard Nixon kertoo, että laskeutuminen Kuuhun ei sujunut suunnitellusti. Kuvat ja ääni ovat kuitenkin keinotekoisesti tuotettuja. Ne osoittavat, mihin tekoäly nykyisin kykenee. Ja puhe ei ole aito.

Kysymys kuuluu: Huomaatko sinä eron?

Näin huomaat deepfaket

Nixonia esittävä deepfake-video on tehty tekoälyn ja niin sanotun deep learning -tekniikan avulla. Tiivistetysti tämä tarkoittaa sitä, että tietokoneeseen on syötetty näyttelijän kasvonpiirteitä ja ilmehdintää kyllästymiseen asti, minkä jälkeen Nixonin kasvoihin on ympätty uusi suu.

Yhdessä puhenäyttelijän kanssa MIT:n tiimi on kehittänyt puheen, joka sopii Nixonin uusiin keinotekoisiin suun liikkeisiin.

"Meille tämä on keino osoittaa, mihin tekniikka pystyy, jotta voimme avata keskustelun siitä, mitä teemme, kun jonain päivänä näemme videon poliitikosta, joka näyttää sanovan jotain selkeästi rasistista. Tiedämme, että kuvia voidaan muokata Photoshopissa. Nyt on koittanut aika, jolloin meidän täytyy suhtautua kriittisesti myös elävään kuvaan", Magnus Bjerg sanoo.

Bjerg toteaa myös, että deepfaket ovat nykyisin jo niin hyviä, että niitä on vaikea erottaa aidoista.

Jos et ole varma, onko video deepfake, voit tarkkailla kasvojen reunoja. Näyttävätkö ääriviivat luonnollisilta? Onko ihonväri tasalaatuinen? Miten kauluksen heittämät varjot käyttäytyvät? Onko henkilön katse epäluonnollisen eloton? Ovatko hampaat oudot tai pikselöityvätkö ne?

© MIT

Piru piilee yksityiskohdissa

Alankomaalainen Sensity-yritys on kehittänyt algoritmin, joka tarkkailee verkon deepfake-sisältöä. Algoritmiin on syötetty tuhansia tunteja aitoja ja väärennettyjä videoita, minkä jälkeen se on alkanut erottaa niitä toisistaan. Löytääkseen epäjohdonmukaisuudet algoritmi käy läpi jokaisen kuvan jokaisen pikselin, joita on usein tuhansia joka videossa.

Uhkatiedustelun päällikkönä Sensityssä toimivan Henry Ajderin mukaan videossa on kiinnitettävä huomiota hyvin pieniin yksityiskohtiin, ennen kuin deepfake paljastuu.

"Moni deepfake ei pistä silmään, ja virheet ovat pikselitasolla. Algoritmimme on muun muassa oppinut löytämään vääränlaisia pikseleitä: pieniä pikselijoukkoja, jotka ovat liian tummia tai vaaleita [suhteessa ympäristöön, toim. huom.],” Henry Ajder kertoo.

Joulukuussa 2018 Sensity löysi verkosta yli 14 000 videota, jotka voitiin luokitella deepfakeiksi.

Sensity on Magnus Bjergin mukaan käynyt myös In Event of Moon Disaster -videon perusteellisesti läpi. Yrityksen algoritmi totesi, että video on deepfake.

Epäaidot kasvot hioutuvat paremmiksi

Tekniikalla on toistaiseksi tuotettu poliittista tai pornografista sisältöä, mutta sitä voidaan käyttää myös muihin tarkoituksiin, huomauttaa Magnus Bjerg:

"Deepfake-tekniikka voi säästää filmiteollisuudelle paljon rahaa. On tehty esimerkiksi filmi, jossa esiintyy James Dean [kuoli vuonna 1955, toim. huom.]. Ja dokumenttifilmeissä voidaan käyttää tekniikkaa henkilöiden anonymisoimiseen, kuten tehtiin ukrainalaisessa Welcome to Chechnya -filmissä, jossa esiintyi paikallisia homoja ja lesboja."

Deepfake-ilmiö sai maailmalla enemmän tunnettuutta 2019, kun eräs Reddit-sivuston käyttäjä alkoi ladata sivustoon pääasiassa pornografisia videoita. Pian sivustosta alkoi löytyä myös sellaisia pornovideoita, joissa muka esiintyi Taylor Swiftin ja Katy Perryn tyyppisiä tunnettuja poplaulajia.

Google, Facebook ja Twitter ovatkin käynnistäneet hankkeita, joissa pyritään löytämään ja poistamaan epäaidot videot ennen kuin ne ehtivät levittää väärää tietoa verkossa.

Facebook on rahoittanut miljoonilla dollareilla korkeakouluja, joiden koulutusohjelmiin kuuluu kuva- ja videoanalyysia ja jotka tutkivat, miten deepfake-videoista päästään eroon.

Samasta syystä Magnus Bjerg ja muu MIT-tiimi eivät halua mielellään kertoa yksityiskohtaisesti käyttämistään menetelmistä. Bjerg toteaa myös:

"Olimme vaikuttuneita - ja järkyttyneitä - siitä, miten hyvä deepfake-videosta tuli. Oli kuitenkin lohdullista, että sen tuottaminen vei meiltä kolme kuukautta, joten meillä on aikaa toimia, vaikka videoiden tekeminen on koko ajan nopeampaa, edullisempaa ja helpompaa."

Lue myös:

Maailmankaikkeus

Onnellinen voittaja sai upean kaukoputken

2 minuuttia
nb_u12 Googlefeud
Teknologia

Uusi peli: Arvaa kilpaa Googlen kanssa

1 minuuttia
Tekoäly

Googlen tekoäly hioo hoksottimiaan

1 minuuttia

Kirjaudu sisään

Tarkista sähköpostiosoite
Salasana vaaditaan
Näytä Piilota

Oletko jo tilaaja? Oletko jo lehden tilaaja? Napsauta tästä

Uusi käyttäjä? Näin saat käyttöoikeuden!

Nollaa salasana

Syötä sähköpostiosoitteesi, niin saat ohjeet salasanasi nollaamiseksi.
Tarkista sähköpostiosoite

Tarkista sähköpostisi

Olemme lähettäneet sinulle sähköpostia osoitteeseen . Siinä on ohjeet, joiden avulla voit nollata salasanasi. Jos et ole saanut sähköpostia, tarkista, että se ei ole joutunut roskapostin joukkoon.

Anna uusi salasana.

Nyt sinun pitää antaa uusi salana. Salasanassa pitää olla vähintään 6 merkkiä. Kun olet luonut uuden sanasanan, sinua pyydetään kirjautumaan sisään palveluun.

Salasana vaaditaan
Näytä Piilota