Vääriä kuvia tuotetaan GAN-koneoppimisohjelmistolla (Generative Adversarial Network) eli generatiivisella kilpailevalla verkostolla, jossa kaksi järjestelmää kilpailee keskenään.
Toinen verkosto on opetettu luomaan kuva mistä tahansa syötteestä, kun taas toinen verkosto on harjoitettu ratkaisemaan, onko kuva aito vai toisen verkon luoma. Kuvaa parannellaan niin pitkään, kunnes toinen verkosto ei enää osaa päätellä, onko se verkon luoma.
Järjestelmä voi luoda sekunnin murto-osassa ilman ihmistä väärennetyn kuvan, joka muistuttaa aitoa uskomattoman paljon. Yhdysvaltalaistutkijat ovat nyt löytäneet GAN-menetelmästä yhden heikkouden.
Tietokone tekee lähes aina virheen silmän pupilleissa. Ihmisen pupillit ovat tarkkarajaiset ja pyöreät tai hieman soikeat. GAN-menetelmällä luodut pupillit näyttävät erilaisilta.
Jos kuvia katsotaan aivan läheltä, selviää, että tietokoneen luomien pupillien muoto on epätasainen tai pupillit leviävät hieman ympäröivään värikalvoon.
Yhdysvaltalaistutkijat ovat kehittäneet menetelmän, joka paljastaa automaattisesti tietokoneen luomat kuvat, mutta paljastustoiminto ei ehkä toimi kauan.
Kun heikkous nyt on selvitetty, uudet kehittyneemmät järjestelmät luovat aidomman näköisiä pupilleja. Ja sitten tutkijoiden täytyy paneutua johonkin muuhun paljastavaan yksityiskohtaan.