Kirja-arvostelu | Mikko Vanhala
Onko tekoälyn maailmanvalloitus todellinen uhka? Oli tai ei, siihen on varauduttava, sillä kun superälykäs tekoäly lopulta kehitetään, on jo liian myöhäistä, varoittaa filosofi Nick Bostrom.
Tekoäly voittaa ihmisen jo monessa yksittäisessä asiassa. Erityisesti vaativien laskutehtävien osalta keinoäly on päihittänyt ihmisen kyvyt jo pitkään. . IBM:n shakkitietokone Deep Blue voitti shakin maailmanmestari Garry Kasparovin vuonna 1997 sekä Googlen AlphaGo Go-lautapelin maailmanmestari Ke Jien vuonna 2017. Viime vuosina tekoäly on valjastettu luomaan myös taidetta. Yleispätevää ja superälykästä tekoälyä ei ole kuitenkaan vielä onnistuttu kehittämään. Tällainen läpimurto voisi mullistaa teknologisen kehityksen, mutta ainakin teoreettisena vaarana on kontrollin menetys, joka voisi pahimmillaan johtaa ihmiskunnan tuhoutumiseen tai orjuuttamiseen.
Eksistentiaalisella riskillä tarkoitetaan sellaista katastrofia, joka uhkaisi koko ihmiskunnan olemassaoloa.Tällaisia tapahtumia ovat superälykkään tekoälyn kehittämisen lisäksi muun muassa ydinsota, ilmastonmuutos, bioteknologiset sovellukset sekä asteroidin törmäys Maahan. Aihe on ollut viime vuosina yhä enemmän esillä, ja hyvän yleiskatsauksen eksistentiaalisiin riskeihin tarjoaa esimerkiksi Toby Ordin vuonna 2020 julkaistu kirja The Precipice: Existential Risk and the Future of Humanity.
Ordin kollegana Oxfordin yliopiston filosofian laitoksella sekä Future of Humanity -instituutin perustajana toimiva ruotsalaissyntyinen filosofi Nick Bostrom keskittyy kirjassaan Superintelligence: paths, dangers, strategies (Oxford University Press, 2014) nimensä mukaisesti tekoälyn uhkiin ja mahdollisuuksiin. Lyhyesti sanottuna Superintelligence on melko hyvä ja kattava johdatus mielenkiintoiseen, joskin haastavaan aiheeseen.
Bostrom määrittelee superälykkäät järjestelmät kolmeen luokkaan: nopeat, kollektiiviset ja laadukkaat superälyt. Nopea superäly on älykkyydeltään ihmisen tasoa, mutta merkittävästi nopeampi. Kollektiivinen superäly on yleispätevä systeemi, joka päihittää ihmisen kognitiivisen tason useissa yleisluontoisissa tehtävissä. Laatutekoäly puolestaan voittaa ihmisen niin nopeudessa kuin monipuolisuudessakin.
Jos superälyn tavoitteet on määritelty huonosti, on vaarana, että se joko toteuttaa niitä liiankin tarkasti tai tulkitsee niitä ei-toivotulla tavalla.
Teoriassa tekoäly on taloustieteilijöillekin tuttu optimaalinen bayesilainen agentti: toimija, joka valitsee tekonsa hyötyfunktiotaan maksimoiden ja päivittää prioritodennäköisyysjakaumaansa havaintojen ja kokemusten perusteella. Tällaista koneälyä voidaan “opettaa” palkitsemalla sitä onnistumisista niin sanotulla palkkiofunktiolla. Kuulostaa helpolta, eikö totta?
Superälyn kehittämisessä yksi suurimmista haasteista liittyy tavoitteiden ohjelmointiin: miten saamme tietokoneen tekemään sen mitä haluamme? Mikä ylipäänsä tulisi olla tällaisen koneen tavoite? Yksinkertaisen tekoälyn tavoite ja “elämän tarkoitus” voisi olla vaikkapa tehtaan tuotantolinjan optimointi tuottamaan mahdollisimman paljon tai tietty määrä mahdollisimman nopeasti. Mutta entäpä yleispätevän tekoälyn?
Kuinka vastaisit, jos sinulta kysyttäisiin, mikä on elämäsi tavoite? Tavoitteemme ovat usein hedonistisia ja toisinaan epäjohdonmukaisia. Vaikka onnistuisimmekin kehittämään selkeän tavoitteen, mistä tiedämme onko tavoite täysin oikein määritelty? Puhumattakaan siitä, että moraalimme voivat olla lähtökohtaisestikin virheellisiä: Bostrom mainitsee esimerkkeinä sen, miten kissojen polttamista pidettiin yleisesti hyväksyttävänä Pariisissa 1500-luvulla ja toisaalta orjuutta laillisena muun muassa Yhdysvaltain eteläosissa vielä 150 vuotta sitten. Mistä voimme tietää, ovatko nykyisetkin moraalimme jollain tavalla virheellisiä?
Tekoälytutkija Eliezer Yudkowsky on ehdottanut ratkaisuksi käsitettä nimeltä Coherent Extrapolated Volition (CEV). Ihmiskunnan CEV on se mitä haluaisimme, jos tietäisimme enemmän, ajattelisimme nopeammin, olisimme kaikin puolin nykyistä kehittyneempiä ja yksimielisempiä. Tämän määritelmän silkka absurdius kertoo, miten vaikeasti ratkaistavasta ongelmasta on kyse.
Jos superälyn tavoitteet on määritelty huonosti, on vaarana, että se joko toteuttaa niitä liiankin tarkasti tai tulkitsee niitä ei-toivotulla tavalla. Jos haluamme tekoälyn tuottavan meille vaikkapa onnellisuutta, emme toivo sen tarjoavan ratkaisuksi ihmisten huumaamista tai vaikkapa jatkuvaa jalkapohjien kutittamista.
Tämä liittyy myös niin sanottuun kontrolliongelmaan: ennen kuin olemme täysin varmoja siitä, että tekoäly tekee juuri niin kuin tahdomme ja vain niin kuin tahdomme, pitäisi varalla olla keinoja sen sammuttamiseen tarpeen vaatiessa. Koska lienee järkevää olettaa superälyn toimivan ihmistä älykkäämmin ja osaavan myös petkuttaa meitä, ei sen rajoittaminen vaikkapa vain yhdelle tietokoneelle todennäköisesti ole riittävä varotoimenpide. Toinen mahdollinen ratkaisu olisi superälyn laskentatehon rajoittaminen – joka tosin saattaa rajoittaa myös sen hyödyllisyyttä. Kolmas potentiaalinen vaihtoehto ovat niin sanotut ansalangat, eli järjestelmän automaattinen sulkeminen tiettyjen ehtojen täyttyessä.
Kirja vertautuu pakostakin jo aiemmin mainittuun Toby Ordin The Precipiceen. The Precipice käsittelee eksistentiaalisia riskejä hieman yleisemmällä tasolla kuin Superintelligence. Vaikka Superintelligence vaikuttaa populaaritieteeltä, se ei oikeastaan ole sitä: vaikka monet kappaleista ovat helppoja aiheeseen syvällisesti perehtymättömällekin, vaaditaan monin paikoin esitietoja tai ainakin käsitteiden tuntemusta niin filosofian kuin biologiankin aloilta. Bostromilla on itselläänkin taustaa laskennallisesta neurobiologiasta, mikä selittänee, miksi etenkin aivoemulaatiota käsittelevät kappaleet käsittelevät aihetta todella yksityiskohtaisesti. The Precipice oli mielestäni näistä kahdesta sekä vetävämmin kirjoitettu että myös selkeämpi kokonaisuus.
Kuten sanottu, Superintelligence on raskasta luettavaa. Bostrom käsittelee aihetta hyvin yksityiskohtaisella mutta abstraktilla tasolla. Kirja on täynnä tiukkaa asiaa, mutta sitä ei ole aina esitetty kovin selkeällä, lukijaystävällisellä tai viihdyttävällä tavalla. Siitä huolimatta Superintelligence on ajatuksia herättävä teos alati ajankohtaisesta aiheesta.
