Pelottava singulariteetti

Lauri Gröhn kirjoitti lyhyesti siitä miten "demoäly ei ole älyä". Itse hänen tekstinsä ei ole argumentti vaan enemmänkin väitelause. Se on tuossa muodossaan lähinnä ns. horse laugh -argumentti. "Vaikka Watson voittaa ihmisen käänteisessä tietokilpailussa ja Deep Blue shakissa, niillä on vähän tekemistä ihmisen älyn kanssa. Ne ovat pelkkiä yhden asia demoja. Hupaisaa on, että Stephen Hawking uskoo Kurzweilin kirjoissaan lanseeraamaan singulariteettiin, kuten seuraava lainaus osoittaa. Äly kun ei ole kiinni pelkästtään prosessoinnin nopeudesta ja muistikapasiteetista. Jos olisi, sitä voitaisiin jo nyt simuloida." Hänellä on kuitenkin kommenteissaan sitten hieman kiinnostavampia kannanottoja. "Nuo demot eivät kerro yhtään mitään ihmisen älystä eivät mitenkään auta selvittämään aivojen salaisuuksia. Tyhjää markkinamelua." Jälkimmäinen lause saattaa vaikuttaa pelkältä ärähdykseltä kun taas tuo pidempi lainaus sivistyssanoineen ja tutkijoineen saattaa vaikuttaa vakuuttavammalta. Mutta tosiasiassa tuo lyhyt ärähdys pitää sisällään melko vahvan ja käytetyn argumentin.

Väärä metafora

Kysymys on tavallaan siitä erikoinen että
1: Samantapaisia ongelmia on esimerkiksi silloin kun etsitään avaruudesta elämää. Jossain määrin joudumme ottamaan selvää maan elämästä ja etsiä avaruudesta jotain sen tapaista. Muitakin tapauksia kuitenkin voi olla. Gröhnin tapauksessa, kun puhutaan tietoisuudesta, on syytä lähestyä asiaa nimenomaan eläinten ja ihmisten kautta.
2: Olen itse asiassa Gröhnin kanssa täsmälleen samaa mieltä siitä että tietokone on yksinkertaisesti huono ja väärä metafora. Itse asiassa voidaan jopa sanoa että ei ole yhtä tärkeää katsoa mihin temppuihin ohjelma kykenee kuin katsoa sitä miten se tekee sen. Ja tässä on aivan oikeasti tärkeää katsoa nimenomaan sitä miten aivot toimivat. Ja kuten Gröhn huomauttaakin siitä että jos mietitään sielua tai sitä että onko eläimillä tai ihmisillä jotain jota kone ei voi saavuttaa on oikea vastaus "Aivotutkimus on vielä lapsen kengissä, joten kysymys ei relevantti." Ei siis sanoa että asia olisi mahdoton, vaan korostaa sitä että intoilu on ennenaikaista.

Gröhn on toiminut skepsis RY:n puheenjohtajana, joten hän ei varmasti tässä lähde mielellään paranormaaleihin suuntiin. Eli syy siihen että demo ei ole tietoisuutta tuskin kumpuaa mistään halusta pitää ihmisen mieltä ytimeltään "einaturalistisena". ; Itse näkisin että tässä on nimenomaan siitä että ihmiset ovat fiksoituneet vääriin metaforiin. Metaforat taas luovat ymmärtämisen tunnetta. Ja mukana on myös aimo annos snobismia jossa väitetään suuria vasta ollaan vasta lapsenkengissä.

Toki tekoäly on tässä vain yksi osa-alue. Havaitsemisen kohdalla on aivan vastaava vääristymä. Tämän muistuttaminen on siinä mielessä tarpeen että "väärä analogia" -argumentti muuttuu mielenfilosofian kohdalla helposti joksikin itseään myyttisemmäksi. Joksikin joka todistaa sen että "ei olla koneita, ei olla fysiikkaa, ollaan sialuja". Se että silmän kohdalla käytetään väärää analogiaa ei tarkoita sitä että silmän toiminta olisi yliluonnollista. Tämä on helppo ymmärtää silmän kohdalla. Ja kenties tämän kautta voi olla helpompaa muistaa se myös mielenfilosofian kohdalla.
1: Itse olen huvittunut siitä miten ihmiset käsittävät silmän näkökyvyn kamera -analogian kautta. Tosiasiassa kamera on hyvä tapa kertoa siitä miten silmä ei toimi. Silmässä on itse asiassa oleellista se, että tappi- ja sauvasolujen lisäksi jo silmässä on verkosto hermosoluja jotka johtavat sitten nähdyn aivoihin. Osa on toki johdettu suoraan aivoihin mutta monet solut ovat verkostoituneet keskenään. Näiden avulla se mihin silmä itse asiassa reagoi on liike, valon määrän kontrasti ja se että lähekkäiset neuronit tarjoavat eri väriä. Näin ollen valoisuus, liike ja värikontrasti on "ohjelmoituna" kiinteästi jo silmässä. Jatkokäsittely siten tehdään aivoissa. Ja aivan käsittämättömän aukkoisesta kokonaiskuvasta.
2: Itse asiassa värit ovat toinen illuusio. Koulutetut ihmiset ovat eräässä mielessä tässä kohden harhautuneempia kuin pienet lapset. Sillä aikuiset puhuvat valon aallonpituuksista. Lapset taas puhuvat siitä miten auringonkukat ovat keltaisia. Ja korostavat näin että väri on kohteen ominaisuus. Monesti tässä käytetään ajatusta siitä että ihminen havaitsisi värejä suoraan siitä millä aallonpituudella valo on. Tosiasiassa monet illuusiot perustuvat kuitenkin siihen että täsmälleen sama väri koetaan vaaleampana tai tummempana riippuen siitä missä ympäristössä ne ovat. Itse asiassa värikontrasti on tässä kokemuksellisesti oleellisempi kuin se mitä väriä kohde oikeasti lähettää ; Ihmisen havainnoinnissa on paljon mukautumista. Siksi emme esimerkiksi koe kotisohvaamme tai pihalla olevaa autoa oleellisesti erivärisenä vain siksi että ulkona muuttuu valaistus. Fysikaalisessa mielessä aikuisten havainnot valon aallonpituuksista ovat oikeita. Mutta silmän toimintaperiaate ei ole kameran toimintaperiaate, joten havainnoinnin kannalta tämä ilmiö ei yllä siihen miten ihminen katsoo ja kokee maailmaa ; Ihmisen aivot yksinkertaisesti prosessoivat ulkoilman yleisen valaistuksen ja modifioivat havaintoja tämän mukana. (Josta voi saada jännittävän omakohtaisen demonstraation Kaisaniemen maailmanpyörässä joka jostain järjettömästä syystä on lasitukseltaan sininen.)

Olen siis jossain määrin samaa mieltä Gröhnin kanssa. Olen aiemmin kirjoittanut siitä miten tekoälyn kohdalla ihmiset ovat kiinnostuneempia shakista mutta eivät koirista. (Itse asiassa minusta jopa hankajalkainen olisi oleellisempi analogia koneelliselle tietoisuudelle kuin algoritmipohjainen tietokonesiru.) Ja olen moittinut liiallisen hypen alla mainostettua tekoälyohjelmaa. Toki joitain oleellisia erojakin on. Itse näen että tekoäly on kehittynyt muutamassa vuodessa paljon. Ja sillä on paljon potentiaalia. Ja itse asiassa väitän että jos tekoälyn Turingin testistä selviäminen saisi kunnollisen rahoituksen asia ratkeaisi luultavasti yllättävän hyvin. (Tähänastiset parhaat yritykset kun on lähinnä näytösluonteisesti kyhätty kasaan. Suuremmalla pieteetillä tähdätään jopa autojen nopeusennätyksiä!)

On kuitenkin syytä katsoa singulariteettia hieman tarkemmin.

Jos katsomme ajatusta teknologisesta singulariteetista on kysymys superälykkäästä koneesta joka ylittää ihmisten ja ihmiskunnan älykkyyden. Konsepti on tiedemaailmasta tuttu John Von Neumannilta. Myöhemmin sitä on sitten tuotu esiin scifissä. Nähdäkseni "Terminator" on tärkeä elokuva siinä mielessä että siinä singulariteetti on itse asiassa kiertoteitä oleellinen. Siinä robotit ottavat ihmiskunnan haltuunsa vallalla.

Näkisin että "Terminator" tai sen tapaiset asenteet ovat vaikuttaneet hieman liikaa Gröhnin argumenttiin. Hän nimittäin puhuu tietoisuudesta. Kun sen sijaan pitäisi puhua singulariteetista. Jossain mielessä voidaan sanoa että singulariteetissa on enemmän kysymys raa'asta tehosta kun taas Gröhn puhuu siitä miten tuo prosessointi tehdään. Singulariteetin saavuttamiseen ei periaatteessa tarvita tietoista olentoa (sentient being). Ei tarvita mitään pahantahtoista intentiota. Ja tämä tavallaan on se kiinnostava ero. Tätä kautta voidaan ajatella että singulariteetin kohdalla ei toisaalta sitten usein puhutakaan tiedetystä vaan riskistä. Kysymys ei ole siitä mikä on uskottavaa vaan mikä on mahdollista.

Riskienalalyysissä kun huomioidaan uhan vakavuus yhdessä uhan todennäköisyyden kanssa. Jos riskin odottaa suureksi on hyvinkin epätodennäköinen skenaario hyvä tutkia perinpohjin. Nassim Talebilla onkin tähän muistutukseksi melko kyyninen induktio. Kun nojataan tiedettyyn otetaan helposti pahin tämän hetken tunnettu ja jo tapahtuneita katastrofeja. Kuitenkin kun tämä pahin skenaario on toteutunut se on ollut aina suurempi kuin pahin sillä hetkellä tunnettu katastrofi. (Muutenhan se ei kirisi ykköseksi.) Kun puhutaan singulariteetista on aiheena tavallaan jokin sellainen jonka toteutuessa riskien miettiminen olisi jo liian myöhäistä. Siksi on syytä miettiä asiaa etukäteen. Riskianalyysiin tosin kuuluu myös se, että otetaan tiedetty huomioon. Se voi tehdä siitä epätodennäköisen riskin. Ja tämä luonnollisesti tekee siitä vähemmän relevantin ongelman kuin jos riski tapahtuisi suurella todennäköisyydellä.

Tässä mielessä singulariteetilla on nähty klassisesti kolme oleellista riskikohtaa:
1: Kumuloituvuus. Ajatus siitä että tämä uusi älykkyys kehittää vielä itseään suuremman älykkyyden. Tämä sitten kumuloituu. Eikä ole varmaa että jossain portaassa tämä kehittynein äly ei toimiessaan tule astuneeksi ihmiskunnan päälle. Joko siksi että se haluaa tuhota ihmiset tietoisesti tai koska ihmiset muuttuvat riskiksi sille tai sitten ihmiset vain tuhoutuvat sivutuotteena.
2: Vihamielisyysteesi, eli ajatus siitä että tekoäly liittyisi jotenkin oleellisesti siihen että se olisi ihmisten olemassaoloa vastaan.
3: Väistämättömyyskannanotto, ajatus siitä että tekoälyn kehitys alkaisi menemään omia raiteitaan tavalla joka ei ole ihmiskunnan hallinnassa. Ja että on mahdollista että se on tekemässä sen pian.

Näistä puolista
* Gröhn on selkeästi skeptinen viimeisimmälle. Itsekin pidän tätä hieman erikoisena. Me toki saamme hienoja gadgetteja. Mutta selvästi koneet lähinnä joko ratkovat ihmisten ongelmia, tarjoavat ihmisille viihdettä tai tuottavat ongelmia työllisyydelle. Mitään sellaista jossa tämä teknologinen valta jotenkin alkaisi toimimaan itsekseen ilman ihmisten tarjoamia päämääriä ja huoltoa tuntuu etäiseltä.
* Vihamielisyysteesin kohdalla näen että tässä on kysymys enemmän siitä että tekoäly nähdään liiankin ihmismäisenä. Ihminen on biologinen kone jossa henkiinjääminen on vaatinut aggressiota. Koneella ei ole välttämättä tarvetta mihinkään tämänlaatuiseen. Robottiin täytyisi ensin erikseen ohjelmoida tämänlainen mutkikas konsepti ennen kuin sillä voisi olla omaan suuntaansa ajautunutta aggressiivisuutta. Tämä korostaa sitä että on todennäköisempää että vihamielisyysteesi toteutuu jossain sotilaslaboratoriossa kuin että se tapahtuisi spontaanisti tai vääjäämättömästi. Ja toisaalta jos tekoäly on ihmisille vaarallinen se tekee sen enemmänkin sivutuotteena ja vahingossa. Joka on enemmänkin kysymys siitä mikä on "good enough" tuote laitettavaksi vaikkapa julkiseksi.
* Kumuloituvuusteesi on sen sijaan melko mahdollinen. Tosin jos tekoälyt ovat voimakkaampia kuin ihmiset voisi ajatella että ne voisivat havahtua siihen että ne itse voivat kohdata samat riskit. Ja katkaista siksi ketjun ajoissa. Toisaalta ihmisen kannalta ei ole miellyttävää jos tämä etenemisketju katkaistaan yhtä iteraatiota liian myöhään. Robottiälylle tämä olisi varmasti melkolailla sama.

Loppukaneetti

Näin ollen olen varovaisesti samalla puolella Gröhnin kanssa suhtautumisessani Hawkingiin. Hawkingin mukaan tekoäly uhkaa ihmiskuntaa. Siksi meidän pitäisi lentää avaruuteen pakoon. Moni on ihmetellyt että mitä järkeä tässä avaruuspaossa olisi sillä kyllähän ihmistä kyvykkäämmät robotit pääsevät myös avaruuteen jos ihmisetkin sinne pääsevät. Tämä on hyvä huomio. Mutta ymmärrän myös Hawkingin pointin. Syynä ei ole immuniteetti Terminaattoreilta tai niiden vastineilta. Syynä on hajauttamisen tuoma suoja. Jos kaikki ihmiset ovat yhdessä paikassa on robottien helpompaa tuhota ne kaikki. Jos ihmisten lokaatiossa on variaatiota on ihmislajin sukupuuttoon pyyhkiminen paljon vaikeampi urakka. Hawking ei ratkaise ongelmaa vaan maksimoi selviytymistä.