AI robotit tekoäly

Tutkijat varoittavat: Näin tekoälyrobotit voivat tuhota ihmiskunnan

Tekoälytutkijat varoittavat uudessa raportissaan, että se, että tekoäly voi tuhota ihmiskunnan, ei ole vain mahdollista vaan myös todennäköistä.

Tekoälytutkijat varoittavat uudessa raportissaan, että se, että tekoäly voi tuhota ihmiskunnan, ei ole vain mahdollista vaan myös todennäköistä.

Shutterstock

Ihmiskunnan pahin painajainen, jossa älykkäät koneet ottavat maapallolla vallan, voi jonain päivänä hyvinkin toteutua.

Tätä mieltä ovat uunituoreen tekoälytutkimuksen tekijät. Tutkimuksessa keskityttiin tekoälyn palkitsemisjärjestelmään, jonka vuoksi kehittyneet koneet voivat tutkijoiden mukaan tehdä kaikkensa saavuttaakseen korkeat pisteet, vaikka se merkitsisi ihmishenkien menetystä.

Yksi synkän tulevaisuudenkuvan maalanneista tutkijoista on Marcus Hutter, joka toimii Australian kansallisen yliopiston IT-professorina ja osallistuu myös Googlen DeepMind-tekoälyhankkeeseen.

Palkinto on tärkeämpi kuin robotiikan pääsäännöt

Ensimmäinen robotiikan pääsääntö, jonka kehitti tieteiskirjailija Isaac Asimov vuonna 1942 kuuluu, että robotti ei saa vahingoittaa ihmistä tai päästää ihmistä vahingoittumaan.

Tekoälytutkijat toteavat raportissaan, joka julkaistiin vertaisarvioidussa AI Magazine -tiedejulkaisussa, että puhtaasti tieteen näkökulmasta ja ilman fiktiota on mahdotonta ymmärtää ja siksi myös simuloida sitä, miten huippuälykäs tekoälyjärjestelmä toimisi eri tilanteissa.

Sisäinen palkitsemisjärjestelmä

Tekoälyn mahdollisten tuhovoimien ymmärtämiseksi on ymmärrettävä sen kaksiosaista rakennetta.

Toinen puoli suorittaa ihmisen antamia tehtäviä, eli luo kuvia kuvausten pohjalta tai laskee mutkikkaita todennäköisyyksiä. Toinen puoli koostuu sisäisestä palkitsemisjärjestelmästä, joka koko ajan optimoi tekoälyjärjestelmän suorittamaa laskentaa.

Tekoälytutkijat pelkäävät erityisesti sitä, että äärimmäisen älykäs tietokonejärjestelmä jonain päivänä optimoi oman palkitsemisjärjestelmänsä sellaiseksi, että se johtaa ihmiskunnan tuhoon.

Ei enää noudata sääntöjä

Tutkijat olettavat raportissaan, että ihmiset tekevät tekoälystä lopulta niin älykkään, että se pystyy vaikeuksitta lyömään ihmisen kaikissa lautapeleissä.

Silloin tekoäly voittaisi ihmisen yhtä helposti kuin ihminen voittaa simpanssin sakissa.

Jos tekoälylle tarjotaan vastusta, se optimoi voitonmahdollisuutensa pian sellaisiksi, että emme kykene edes tajuamaan sitä – aivan kuin simpanssi ei ymmärrä pelaavansa sakkia ja olevansa häviöllä.

Vaikka yritämme sulkea järjestelmän, palkitsemisjärjestelmän ajama tekoäly, joka on yhteydessä muihin tekoälyjärjestelmiin, voi huomaamattamme laatia vastavedon kaikelle, mitä yritämme, ja siten kiertää kaikki tavallisen sakin säännöt.

”Kyllin kehittynyt tekoälytoimija todennäköisesti muuttaa peliä katastrofaalisin seurauksin”, todetaan tutkijoiden raportissa kylmäävästi.

Vastaveto kehitteillä

Useat IT-yhtiöt painiskelevat ongelman parissa estääkseen oman luomuksensa muuttumisen tuhoisaksi.

Esimerkiksi Google-yhtiö on vuodesta 2016 kehittänyt sammutuspainiketta, jolla hallinnasta karannut tekoälyjärjestelmä voitaisiin sulkea.

Jo aiemmin tutkijat ja teknologia-alan toimijat, kuten Stephen Hawkings, Bill Gates ja Elon Musk, ovat varoittaneet tekoälyn olevan mahdollisesti haitallinen ihmiskunnalle, koska emme ymmärrä sitä, miten se kehittää itseään.

Vaikka tekoäly auttaa meitä chatboteilla, kasvojentunnistuksella, kännykkäsovelluksilla ja muilla teknisillä herkuilla, synkeän raportin mukaan myös tekoälyn varjopuoliin on pakko alkaa kiinnittää huomiota.