Näin tunnistat tietokoneen luomat kasvot

Tietokoneet osaavat nykyään tuottaa kuvia, jotka näyttävät niin aidoilta, että niitä on lähes mahdotonta erottaa oikeista valokuvista.

Väärennettyjä kuvia käytetään muun muassa sosiaalisen median valeprofiileissa, joilla halutaan välittää jotain tiettyä viestiä tai huijata toisia käyttäjiä.

Nyt New Yorkin valtionyliopiston tutkijat ovat havainneet kuvissa yksityiskohdan, josta useimmissa tapauksissa selviää, onko kyseessä väärennös.

Vääriä kuvia tuotetaan GAN-koneoppimisohjelmistolla (Generative Adversarial Network) eli generatiivisella kilpailevalla verkostolla, jossa kaksi järjestelmää kilpailee keskenään.

Toinen verkosto on opetettu luomaan kuva mistä tahansa syötteestä, kun taas toinen verkosto on harjoitettu ratkaisemaan, onko kuva aito vai toisen verkon luoma. Kuvaa parannellaan niin pitkään, kunnes toinen verkosto ei enää osaa päätellä, onko se verkon luoma.

Järjestelmä voi luoda sekunnin murto-osassa ilman ihmistä väärennetyn kuvan, joka muistuttaa aitoa uskomattoman paljon. Yhdysvaltalaistutkijat ovat nyt löytäneet GAN-menetelmästä yhden heikkouden.

Tietokone tekee lähes aina virheen silmän pupilleissa. Ihmisen pupillit ovat tarkkarajaiset ja pyöreät tai hieman soikeat. GAN-menetelmällä luodut pupillit näyttävät erilaisilta.

Jos kuvia katsotaan aivan läheltä, selviää, että tietokoneen luomien pupillien muoto on epätasainen tai pupillit leviävät hieman ympäröivään värikalvoon.

Yhdysvaltalaistutkijat ovat kehittäneet menetelmän, joka paljastaa automaattisesti tietokoneen luomat kuvat, mutta paljastustoiminto ei ehkä toimi kauan.

Kun heikkous nyt on selvitetty, uudet kehittyneemmät järjestelmät luovat aidomman näköisiä pupilleja. Ja sitten tutkijoiden täytyy paneutua johonkin muuhun paljastavaan yksityiskohtaan.