Palkinto on tärkeämpi kuin robotiikan pääsäännöt
Ensimmäinen robotiikan pääsääntö, jonka kehitti tieteiskirjailija Isaac Asimov vuonna 1942 kuuluu, että robotti ei saa vahingoittaa ihmistä tai päästää ihmistä vahingoittumaan.
Tekoälytutkijat toteavat raportissaan, joka julkaistiin vertaisarvioidussa AI Magazine -tiedejulkaisussa, että puhtaasti tieteen näkökulmasta ja ilman fiktiota on mahdotonta ymmärtää ja siksi myös simuloida sitä, miten huippuälykäs tekoälyjärjestelmä toimisi eri tilanteissa.
Sisäinen palkitsemisjärjestelmä
Tekoälyn mahdollisten tuhovoimien ymmärtämiseksi on ymmärrettävä sen kaksiosaista rakennetta.
Toinen puoli suorittaa ihmisen antamia tehtäviä, eli luo kuvia kuvausten pohjalta tai laskee mutkikkaita todennäköisyyksiä. Toinen puoli koostuu sisäisestä palkitsemisjärjestelmästä, joka koko ajan optimoi tekoälyjärjestelmän suorittamaa laskentaa.
Tekoälytutkijat pelkäävät erityisesti sitä, että äärimmäisen älykäs tietokonejärjestelmä jonain päivänä optimoi oman palkitsemisjärjestelmänsä sellaiseksi, että se johtaa ihmiskunnan tuhoon.
Ei enää noudata sääntöjä
Tutkijat olettavat raportissaan, että ihmiset tekevät tekoälystä lopulta niin älykkään, että se pystyy vaikeuksitta lyömään ihmisen kaikissa lautapeleissä.
Silloin tekoäly voittaisi ihmisen yhtä helposti kuin ihminen voittaa simpanssin sakissa.
Jos tekoälylle tarjotaan vastusta, se optimoi voitonmahdollisuutensa pian sellaisiksi, että emme kykene edes tajuamaan sitä – aivan kuin simpanssi ei ymmärrä pelaavansa sakkia ja olevansa häviöllä.
Vaikka yritämme sulkea järjestelmän, palkitsemisjärjestelmän ajama tekoäly, joka on yhteydessä muihin tekoälyjärjestelmiin, voi huomaamattamme laatia vastavedon kaikelle, mitä yritämme, ja siten kiertää kaikki tavallisen sakin säännöt.
”Kyllin kehittynyt tekoälytoimija todennäköisesti muuttaa peliä katastrofaalisin seurauksin”, todetaan tutkijoiden raportissa kylmäävästi.
Vastaveto kehitteillä
Useat IT-yhtiöt painiskelevat ongelman parissa estääkseen oman luomuksensa muuttumisen tuhoisaksi.
Esimerkiksi Google-yhtiö on vuodesta 2016 kehittänyt sammutuspainiketta, jolla hallinnasta karannut tekoälyjärjestelmä voitaisiin sulkea.
Jo aiemmin tutkijat ja teknologia-alan toimijat, kuten Stephen Hawkings, Bill Gates ja Elon Musk, ovat varoittaneet tekoälyn olevan mahdollisesti haitallinen ihmiskunnalle, koska emme ymmärrä sitä, miten se kehittää itseään.
Vaikka tekoäly auttaa meitä chatboteilla, kasvojentunnistuksella, kännykkäsovelluksilla ja muilla teknisillä herkuilla, synkeän raportin mukaan myös tekoälyn varjopuoliin on pakko alkaa kiinnittää huomiota.
