Rorschachin testi tunnetaan musteläikiksi kutsutuista symmetrisistä kuvioista, jotka vaikuttavat yhtä aikaa sekä muodottomilta että tunnistettavilta hahmoilta.
Kuvataulujen tulkinnat vaihtelevat yksilöllisesti. Useimpien viattomasti maljakoiksi ja toisiaan kädestä pitäviksi ihmisiksi näkemät kuviot näyttävät Normanista aivan joltain muulta: mieheltä, joka tapetaan hänen kirkuvan puolisonsa silmien edessä, ja raskaana olevalta naiselta, joka putoaa rakennuksesta.
Norman on maailman ensimmäinen psykopaattinen tietokone. Sillä ei ole moraalia, ja se näkee väkivaltaa siinäkin, mitä ihmiset pitävät yleensä leppoisana arkitodellisuutena.
Älykäs tietokoneohjelma on tutustunut todellisuuteen sulattamalla arkistollisen rajuja kuvia. Norman on todiste siitä, ettei tekoälystä tule koskaan neutraalia: oppiva ohjelma värittyy aina sen mukaan, mihin sen ”varttuminen” perustuu.
Siksi Norman on herättänyt keskustelua myös siitä, voidaanko tärkeitä analyysitehtäviä teettää esimerkiksi rasistisilla tai seksistisillä tekoälysovelluksilla. Muun muassa Bathin yliopistossa työskennellyt tekoälytutkija Joanna Bryson totesi BBC:n haastattelussa, että monet tietokoneohjelmat ovat ”valkoisten kalifornialaisten sinkkumiesten” laatimia, joten ne saattavat hyvinkin suosia miehiä.
Mitä näet tässä musteläiskässä? Tekoäly Normanin mukaan kuvio esittää tilannetta, jossa mies ammutaan kuoliaaksi kirkuvan vaimonsa nähden.
Mutta asenteellisella tekoälyllä on myös etuja. Sellaisena tekoäly voi nimittäin erikoistua taistelemaan maailman törkeimpiä rikollisia vastaan.
Olet mitä syöt
Tekoäly on tietokoneohjelma, joka kykenee oppimaan aiempien kokemustensa pohjalta samalla tavalla kuin ihminen omaksuu uusia tietoja ja taitoja.
Ohjelman digitaalinen sydän on algoritmit. Algoritmi taas on sarja täsmällisesti määriteltyjä käskyjä tai toimenpiteitä jonkin tehtävän suorittamiseksi. Esimerkiksi ruokaohjetta voidaan jossain mielessä pitää algoritmina. Kun toimii sen mukaan, saa valmistetuksi halutun aterian tai sen osan.
Tekoälyn tutkimusalalla kehitetään algoritmeja, jotka eivät ole ainoastaan muuttumattomia käskysarjoja, vaan joissa tapahtuu muutoksia ajan mittaan. Tietokoneohjelmat oppivat yksinkertaisesti suoriutumaan paremmin tehtävistään. Siksi tätä tekoälyn osa-aluetta kutsutaan koneoppimiseksi.
Ohjelmat pystyvät ensinnäkin ratkaisemaan nopeammin määrättyjä ongelmia, ja toiseksi ne voivat kehittää uuden ”ajattelumallin” analysoimalla sitä raakadataa, jonka ohjelmoija on yleensä varustanut etukäteen algoritmeja alkuun avittavilla kuvauksilla.
Esimerkiksi ruokimme usein Googlen älykkäitä algoritmeja, jotka oppivat analysoimaan jatkuvasti paremmin valokuvia ja videoita.
Näin tapahtuu muun muassa silloin, kun Google varmistaa, onko kyse ihmisestä vai robotista, pyytämällä valitsemaan kuvasta kaikki ne ruudut, joissa näkyy esimerkiksi taksi, polkupyörä tai liikennevalot.
Kun tunnistetaan liikennevalot, Google tallentaa vastauksen käytettäväksi myöhemmin kuva-analyysin lisäksi vaikkapa robottiautoa ohjaavan järjestelmän säätöön.
Kun Google haluaa varmistaa, että käyttäjä on ihminen eikä kone, se pyytää valitsemaan kuvasta kaikki ne ruudut, joissa näkyvät esimerkiksi liikennevalot. Samalla yhtiön kuvia analysoiva tekoäly kerää tietoa tarkentuakseen.
Normania on vastaavasti ruokittu kuvilla, jotka Massachusettsin teknillisessä korkeakoulussa toimivat ohjelmoijat ovat varustaneet kuvauksella sisällöstä. Kuvat ovat peräisin tunnetun sosiaalisen verkkosivuston, Redditin, rajusta osasta.
Aineistolla oli kauaskantoiset seuraukset Normanin ”ajattelutavan” kannalta.
Esikuvana ovat ihmisaivot
Tekoäly Norman perustuu menetelmään, josta käytetään nimitystä syväoppiminen. Normanin kuva-analyysiä ohjaavaan algoritmiin on otettu mallia ihmisen aivotoiminnasta, joten se ei ole perinteinen tietokonealgoritmi, joka etenee vakioreittiä toiminnosta toiseen tyyliin ensin A, sitten B ja lopuksi C.
Syväoppimisen myötä tietokone työskentelee vuorovaikutteisten toimintojen verkossa siihen tapaan kuin ihmisen aivot toimivat. Kun esimerkiksi nähdään pihalla koira, sitä ei tunnisteta osa osalta vaikkapa järjestyksessä häntä, kuono, jalat ja turkki.
Kun Norman saa käsiteltäväkseen kuvan, se ryhtyy ripeästi suhteuttamaan kohdetta kaikkeen algoritminsa kuvantunnistuksesta oppimaan. Lopputulos on Normanin muodostama lause, joka kuvaa sitä, mitä se ”näkee”.
Shelley on saanut kauhukertomusoppia verkkosivusto Redditistä ja kirjoittanut yli 200 trilleriä yhdessä Twitterin käyttäjien kanssa.
Normanin sisar kirjoittaa kauhua
Pahistekoäly Normanin luoneet tutkijat ovat ohjelmoineet myös kauhukirjallisuusrobotti Shelleyn. Se on nimetty Frankenstein-teoksestaan tunnetun Mary Shelleyn mukaan.
Mistä tutkijat sitten tietävät, että ”rankka kasvuympäristö” on jättänyt jälkensä Normanin maailmankuvaan?
Siitä, että tekoäly on saanut tehtäväkseen tulkita Rorschachin testin musteläikiksi kutsuttuja kuvioita.
Rorschachin testi on vanha psykologian tutkimusväline, joka perustuu siihen, että henkilö kertoo, mitä hän näkee abstrakteissa kuvioissa. Tulkinnat voivat antaa tietoa yksilön ajatusmalleista ja asenteista.
Norman jahtaa rikollisia
Normanin tulkinnat Rorschachin kuvatauluista ovat enimmäkseen hirvittäviä. Algoritmi ei ole koskaan käynyt läpi koirien, autojen, rakastavaisten tai pilvien kuvia, eikä se siksi tunnista näitä aiheita. Norman näkee sen sijaan esimerkiksi miehen, joka putoaa yleiskoneeseen.
Palataan aiemmin esitettyyn Google-esimerkkiin. Googlen robottiauto osaa käyttäjien algoritmiin syöttämien tietojen ansiosta eritellä aina vain paremmin kameroiden välittämää kuva-aineistoa. Ei kuitenkaan kestä kauan, että robottiauto alkaa kolaroida ja menee romuksi, kun kaikki käyttäjät väittävät tietokoneellaan, että tiet ovat vuoria ja liikennevalot autoja.
Tämä isäkorttina tunnettu taulu on saanut perinteisesti monet ajattelemaan miespuolista ihmishahmoa. Myös Norman näkee siinä miehen – joka imeytyy yleiskoneeseen.
Norman noudattaa samaa kaavaa. Se on psykopaatti vain siksi, että se toimii sen tiedon varassa, joka sille on annettu.
Normaniin on syötetty niin sanottua opetusdataa. Nykyään käytetään valikoitua opetusaineistoa, kun halutaan luoda tekoäly, josta tulee tarkasti rajatun erikoisalan asiantuntija.
Monilla suurilla tietoverkkoyhtiöillä on työntekijöitä, joiden ainoa tehtävä on tarkistaa ja poistaa mahdollisesti laittomia sisältöjä. Koska tietoverkkoon tallennettavaa aineistoa tuotetaan suunnattomasti ja sitä julkaistaan muun muassa yhteisöpalveluissa, voi kestää kauan, ennen kuin viranomaiset löytävät sen sisällön, johon on syytä puuttua.
Tekoäly voi ottaa hoitaakseen urakan, joka on liian suuri suoritettavaksi kunnolla ihmisvoimin.
Erikoistuneet tekoälysovellukset tulevat kuvaan mukaan esimerkiksi silloin, kun jahdataan rikollisia, jotka harjoittavat ihmiskauppaa tai pyörittävät lapsipornorinkiä.
Pahisalgoritmi näkee kuviossa väkivaltaa
1. Rankat kuvat analysoidaan
Tekoäly käy läpi tuhansia rankkoja valokuvia ja videoita ja parantaa samalla algoritminsa valmiuksia tunnistaa samankaltaisia sisältöjä muista kuvista.
2. Norman erittelee musteläiskän
Henkilöitä ja esineitä koskevien tietojensa pohjalta Norman kykenee jakamaan kuvan osiin ja erottamaan muotoja. Näiden perusteella Norman hahmottaa kuvan keskeiset yksityiskohdat.
3. Tulkinta alkaa
Norman suhteuttaa kartoittamansa kohteen omaksumiinsa tietoihin. Vertailu paljastaa vastaavuudet ja jatkuu niin kauan, että Norman pystyy arvioimaan, mitä kuva esittää.
4. Norman näkee kamalia
Saatuaan tulkituksi kuvan Norman kiteyttää analyysin tulokset kuvaukseksi. Se muodostaa lauseen käyttämällä tallennettua sanastoa.
Tekoäly on jo kunnostautunut viestinnällisten verkkopalveluiden alalla. Muun muassa Facebook ilmoitti vuonna 2018 poistaneensa kolmen kuukauden aikana tekoälyn avulla 8,7 miljoonaa kuvaa yhtiön lasten hyväksikäyttöä koskevien sääntöjen perusteella.
Norman todistaa kaksi asiaa: sen, että tekoälyn toiminta voi perustua vääristyneeseen maailmankuvaan, ja sen, että tekoälyn toimintaa ohjaavan maailmankuvan vääristymistapa on valittavissa tehtäväkentän mukaan.
Asiantuntijat rauhoittelevat joka tapauksessa mieliä – meidän ei tarvitse pelätä, että Normanin kaltaiset tekoälysovellukset ovat ottamassa ylivallan.
Norman saa enintään tuntemaan ahdistusta.