Turingov drugi stroj


Jan Kostanjevec

Alan Turing je znan predvsem po svojih prispevkih k računalništvu. Turingov stroj, na primer, je standardni abstraktni stroj, tj. matematični model komputacije, ki je še danes temeljni pojem teoretskega računalništva. Tu pa bomo obravnavali nek drug Turingov stroj – tistega, ki se pretvarja, da je filozofska misel, znana pod imenom Turingov test.

Turing je idejo objavil v članku Računalniški stroji in inteligenca, kjer je vprašanje »Ali stroji lahko mislijo?« zamenjal z vprašanjem »Ali je mogoče ustvariti stroj, ki bo zmagal v igri imitacije?«

Članek je obveljal za klasiko, s tem pa sta se precej zabrisala njegov kontekst in razlog za nastanek. Leta 1950 ga je izdal filozofski časopis Mind, Turing pa je snov zanj črpal iz razprave »Um in računalniški stroj« na manchestrski univerzi, kjer je leto pred tem, skupaj z uglednimi znanstveniki z različnih področij, govoril o možnosti mislečih strojev. Med drugimi so se poleg Turinga razprave udeležili še njegov kriptografski sodelavec in matematik Max Newman, zoolog in nevrofiziolog J. Z. Young ter kemik in filozof Michael Polanyi (brat ponekod bolj znanega Karla Polanyija, s katerim pa ni delil niti zanimanj niti političnih prepričanj).

Polanyi, po Turingu drugi najzanimivejši panelist, je znan predvsem po konceptu skritega znanja (tacit knowledge), ki ga je strnil v geslo: vemo več, kot lahko povemo. S to idejo opisuje situacije, kjer npr. radiolog na podlagi rentgenskih slik pravilno diagnosticira pacienta, ne da bi znal razloge za svojo odločitev verbalno razodeti svojemu učencu. To nerazložljivo znanje je po Polanyiju za znanost tako temeljno, da so vsi poskusi iskanja logično utemeljene in jasno izražene znanstvene metode obsojeni na neuspeh. To nemožno algoritmično metodo enači s strojno racionalnostjo in s svojo tezo o skritem znanju nasprotuje analitičnim filozofom v filozofiji znanosti, kibernetikom v teoriji uma, utilitaristom v moralni teoriji in ekonomiji ter, ne nazadnje, planski ekonomiji Sovjetske zveze, saj vsi izkazujejo to, čemur pravi »moralna inverzija« ali scientistični obrat razsvetljenstva; trdijo namreč, da vedo, kako izboljšati in nadzorovati družbo na podlagi tako imenovane strojne racionalnosti. Iz teh razlogov je Polanyi sodeloval tudi pri ustanovitvi Društva za svobodo v znanosti, ki se je borilo proti državnemu načrtovanju ter instrumentalizaciji znanosti in filozofom znanosti, kot je bil J. D. Bernal, ki so se za to zavzemali. V skladu s svojimi splošnejšimi nazori je v manchestrski razpravi zagovarjal nedoločljivost uma in iz tega izpeljeval tezo, da ga ni mogoče sprogramirati. Skliceval se je tudi na slavni Gödlov dokaz. Za Polanyija je imelo vprašanje strojne inteligence presenetljivo daljnosežne posledice. Ni jasno, ali se je Turing s Polanyijem strinjal glede teh posledic, očitno pa ni bil zadovoljen z njegovimi argumenti. Vsekakor pa je dobro imeti v mislih vsaj širše epistemološke implikacije, ki jih prinaša vprašanje strojne inteligence.

S tem ozadjem se vrnimo k Turingovi igri imitacije. Njena pravila so naslednja. Trije soigralci imajo predpisane, asimetrične vloge. Človeški sodnik mora hkrati sodelovati v dveh tekstovnih dialogih z drugima soigralcema in nato razsoditi, kateri od njiju je človek. Druga igralca se potegujeta za to, da bi ju sodnik pripoznal za človeka. Ta igra je danes znana kot Turingov test. Za stroj, ki bi po večjem številu partij z različnimi soigralci dovolj pogosto zmagal, moramo po Turingu reči, da je inteligenten.

Človek, stroj in inteligenca so osnovni pojmi Turingove zastavitve. Človek je opredeljen z vejo filogenetskega drevesa, ki ji pripada, stroje pa Turing zameji na diskretne računalnike. Pojem inteligence pa lahko do neke mere opredeli sodnik sam. Njegova izbira je po eni stani omejena s tem, da mora imeti dovolj dobre razloge za svojo opredelitev inteligence oz. mišljenja, po drugi pa ga omejujejo pravila igre, saj mu mora izbrani pojem inteligence služiti kot vodilo za končno odločitev. Ta nedoločenost omogoča, da se tako sodniki kot programerji dinamično prilagajajo vedno natančneje določenim kriterijem (in konec koncev tudi različnim pojmom) inteligentnosti.

Lahko se zgodi, da kandidat pade na Turingovem testu in je kljub temu inteligenten, ne bi pa se smelo zgoditi, da ga prestane neinteligentni kandidat (po predpostavki, da je vsaj en od kandidatov inteligenten). V tem smislu test pokriva zadostne, ne pa tudi nujnih pogojev za odkrivanje inteligence. Turing se je te šibkosti zavedal, vendar je menil, da je to zaenkrat največ, na kar lahko upamo. Ni nujno, da bo vsako inteligentno bitje sposobno imitirati človeško inteligenco v dialogu, a če jo lahko, potem moramo priznati, da je imitator vsaj tako inteligenten kot človek, če ne bolj. Glavni problem inteligence, ki ostane zunaj teh okvirov, je to, da ni dovolj splošna ali pa je opredeljena le negativno in tako težko služi kot kriterij razločevanja, ne le v Turingovem testu, ampak povsod.

Turing je v svojem članku poskusil tudi preventivno ovreči nekaj bolj ali manj prepričljivih ugovorov proti zastavitvi testa in argumentov, ki bi vnaprej odločili njegov izid. Za Turingovimi konkretnimi ovržbami je skrita logika, ki deluje tudi onkraj posameznih, v članku naštetih argumentov; ta logika nakazuje splošnejšo obrambo testa pred apriornimi napadi. Čeprav se za nekatere od argumentov zdi, da sploh niso argumenti ali da so preveč zastareli in bizarni, da bi danes od njih še kaj odnesli, stojijo za njimi vsaj omembe vredna načela.

Tako, denimo, argument tiščanja glave v pesek (stroji ne morejo misliti, ker bi to imelo slabe posledice za nas) sploh ni argument in kot primer opozarja na to, da je treba ugovore argumentirati, sicer ti ne govorijo o resnici odgovora na vprašanje, temveč prej o resnici tistega, ki ugovor izreka. To je lahko zanimivo, trenutno pa ni relevantno. Kritika teološkega argumenta (bog odloča o tem, kdo misli, torej stroji ne morejo misliti) pa poudarja, da privzemanje zgolj osebnega ali kako drugače nerazložljivega dostopa do znanja o tem, kaj vsebuje množica možnih mislečih bitij, ne more veljati kot argument. Po eni strani gre za retorični trik, ki ga lahko z isto prepričljivostjo uporabi nasprotna stran, po drugi pa to »znanje« nima pojma, ki bi sodniku lahko pomagal v igri imitacije. Argument z zunaj-čutno zaznavo (sodnik s sposobnostjo zunaj-čutne zaznave bo lahko zunaj-čutno zaznal, kateri od sogovornikov je človek) je bizaren samo po vsebini, po obliki pa spada med tiste, ki so obravnavani spodaj.

Ostali argumenti se po eni strani delijo glede na vrsto lastnosti, na podlagi katere delujejo. Te tri vrste so: v testni situaciji nezaznavne oz. zaznavne lastnosti in lastnosti, ki izhajajo iz materialne osnove testiranih kandidatov. Po drugi strani pa se delijo glede na vrsto zavračanja Turingovega testa. Ti dve vrsti sta: ni možno, da stroj opravi Turingov test in stroj lahko opravi Turing test, vendar to ni test za inteligenco.

V vrsto nezaznavnih ali vsaj zelo problematično zaznavnih spadajo lastnosti kot so prvoosebnost izkušnje, svoboda in razumevanje. Paradoks preverjanja svobode je v tem, da bo preverjani po eni strani moral pokazati, da je zmožen kršenja kakih pravil ali da si lahko avtonomno postavlja smotre ter jim sledi, po drugi pa bo vedno določen s smotrom, da prestane test preverjanja in torej ravno ne bi bil svoboden. Hipotetični otrok, ki bo pozvan k demonstraciji svoje svobode, bo začel divje kršiti, kar mu je bilo prepovedano in dejansko deloval dokaj predvidljivo. Pogoji testa so v konfliktu s tem, kar naj bi bilo testirano.

Argumenti, ki se opirajo na take lastnosti, lahko izpeljujejo možnost lažno-pozitivnih rezultatov: Stroj brez prvoosebne izkušnje ali svobode bi lahko prestal Turingov test, ne da bi bil resnično inteligenten ali mislil (test torej vendarle ne bi dal zadostnega razloga za pripoznanje inteligence). Naloga za to linijo sklepanja je pokazati, da so nezaznavne lastnosti povezane z drugimi, ki jih vendarle lahko zaznamo v testni situaciji, kjer bi lahko bile rabljene kot del sodnikovega kriterija. Če njeni zastopniki tega ne morejo ali nočejo pokazati, pa njihov argument dejansko z enako silo deluje tako za kot proti njihovi tezi, saj za nobeno bitje nimajo razloga, da mu teh lastnosti, npr. svobode ali prvoosebne izkušnje, ne bi pripoznali. Rečeno drugače, ni dokaza, ki bi jih prepričal in njihovo zagotavljanje ne bi smelo prepričati nikogar, ki se z njimi ni strinjal že prej. Spet ne gre za argumentacijo, temveč prej za retoriko.

Obstaja še zelo znana podvrsta teze, ki se opira na možne lažno-pozitivne rezultate Turingovega testa na področju razumevanja oziroma znanja. Predpostavimo lahko intuicijo, da nekdo, ki se – namesto seštevanja samega – na pamet nauči le veliko primerov pravilnega seštevanja, dejansko ne razume oz. ne zna seštevati. Če bi lahko situacijo te imitacije znanja seštevanja, ki prestane preverjanje, mutatis mutandis prenesli na Turingov test, bi to močno omajalo njegovo prepričljivost. V duhu te intuicije je filozof John Searle zasnoval svoj miselni eksperiment kitajske sobe.

Predstavljati si je treba stroj, ki prestane Turingov test, kjer dialog poteka v Kitajščini. A ta stroj ni računalnik, v njem je Searle ter knjige z navodili. Ko sodnik pošlje sporočilo v kitajščini, Searle po navodilih v knjigah sestavi odziv. A Searle sam ne razume pogovora in dejansko sploh ni udeležen vanj. Tako naj bi bilo pokazano, da test daje lažno-pozitivne rezultate. Toda Searle je samo del sistema, ki opravi Turingov test. Zato ima ta argument problem. Če izoliramo en nevron ali kak večji kos možganov človeškega kandidata in priznamo, da v njem ni razumevanja, iz tega očitno ne sledi, da kandidat sam ničesar ne razume. Searle skrivnost nastanka razumevanja pri ljudeh uporabi za argument proti možnosti obstoja razumevanja onkraj ljudi. Takšna raba nevednosti ni le neprepričljiva, ampak je tudi mračnjaška, saj mora omenjena skrivnost ostati skrivnost, sicer bi iz kake razlage nastanka razumevanja lahko dobili namige za vzpostavitev tega procesa onkraj ljudi, denimo v strojih. Celo v tej situaciji bi dobili le pol argumenta, ki ga želi Searle. Rešitev skrivnosti bi morala biti takšna, da jo je nemogoče implementirati v strojih. A Searle bi nato moral predpostavljati še to, da je človeška geneza razumevanja edina možna. Težko si je predstavljati, kako bi izgledal dokaz za tako trditev. Turingov test pa se temu izogne, s tem da razumevanja ne išče v telesih, ampak v pogovoru, kar je tudi bližje običajnemu načinu preverjanja razumevanja.

Ta tip argumentacije ima še en problem. Iz logične možnosti, opisane v miselnem eksperimentu, ne sledi fizikalna. Program, ki bi bil podoben stroju, ki ga opisuje Searle, bi bil napisan zelo slabo, tj. potratno. Knjige, ki jih uporablja Searle v stroju, bi morale vsebovati vse možne pogovore, tako da bi bile precej debele. Tak način reševanja problemov se imenuje reševanje s surovo silo, zanj pa je značilno, je zelo potraten in da za rešitev problema ne potrebuje njegovega razumevanja. Tudi rešitve, ki jih tako dobimo, delujejo prej kot surova dejstva, ne pa kot rešitev uganke. Delujejo približno tako, kot kadar na vprašanje o smislu življenja itd. dobimo odgovor »42«. A že za program, ki bi s surovo silo imitiral zgolj znanje seštevanja naključnih dvajset izmed vseh pozitivnih desetmestnih števil, bi potreboval slovar z 10200 gesli. Ker ima vesolje, zelo grobo in zelo navzgor zaokroženo rečeno, 10100 atomov, bi moral npr. vsak od teh atomov vsebovati 10100 gesel. Že tak stroj se ne bo zlepa znašel med kandidati na Turingovem testu, kaj šele tak, ki bi test lahko prestal.

Če pa nasprotniki dokazujejo, da Turingovega testa ne more prestati nekaj nesvobodnega, brez prvoosebne izkušnje ali razumevanja, pa morajo očitno priznati prevod nezaznavne razlike v razliko pri obnašanju na, po njihovi napovedi, nujno spodletelem Turingovem testu. A kot rečeno, so te lastnosti v najboljšem primeru le posredno preverljive, saj so pripoznane po analogiji z pripoznavajočim. Problem potem ni toliko svoboda stroja kot sodnikova ideja svobode. Imitacija svobode je lahko zanimiva naloga za inteligentno bitje, ki mu samemu sploh ni treba biti svobodno. Na ta način se domnevno apriorni dokaz izkaže za empirično vprašanje.

Pri argumentih, ki temeljijo na lažje preverljivih značilnostih, vidimo, da se ta množica možnih odločilnih lastnosti krči sorazmerno hitro z napredkom računalniških pristopov k umetni inteligenci. Tako je npr. Polanyijev primer z izurjenim radiologom danes že skorajda zastarel, saj dajejo nove tehnologije računalniškega vida zelo dobre rezultate tudi na tem področju. Čeprav gre pri diagnozi na podlagi rentgenskih slik za nalogo, ki po Turingu ne bi spadala v Turingov test, bi test danes lahko celo razširili na ta tip situacij in naprej. A nekaj argumentov bi se vendarle dalo sestaviti.

Ti argumenti bi lahko trdili, da lahko sicer testiramo kolikor hočemo, a stroji zaradi prisotnosti ali odsotnosti določene lastnosti ali množice lastnosti nikoli ne bodo mogli prestati Turingovega testa. Zato bi potrebovali dokaz povezave med izbrano lastnostjo in nujnim neuspehom stroja. Če tega ni, potem spet poslušamo le nasprotnikovo zagotavljanje. Tako nekdo lahko misli, da stroji ne bodo prestali testa, zato ker ne morejo biti prijazni, moralno presojati, delati napak, imeti smisla za humor, biti ustvarjalni ali zmožni učenja itd. Če mu poleg tega ni jasno, kako deluje npr. ustvarjalnost pri človeku, potem mora reči tudi, da nikomur nikoli ne bo jasno in da je to tudi nekaj takega, kar pripada izključno ljudem. Jasno je vsaj to, da s tem ne bo nikogar prepričal. Če pa mu je jasno, pa mora pokazati, zakaj takega obnašanja ni mogoče pričakovati od strojev.

Napredek v razumevanju načina »implementacije« neke sposobnosti pri človeku bo prej kot ne podpiral tudi možnost njene preslikave v računalnik. Tako se zdi, da je predpostavka neprenosljivosti človeške realizacije neke sposobnosti prej neutemeljena kot utemeljena. Tudi o edinstvenosti ni treba izgubljati preveč besed.

Tukaj obstaja še skupina argumentov, ki temeljijo na posebnih vidikih osebne zgodovine človeških kandidatov. Gre npr. za sposobnosti prepoznavanja dobrih šal, dobrih imen ali reklam za blaga, tj. sposobnosti, ki jih nekateri razlagajo z asociativnim naperjanjem (associative priming), se pravi z implicitnimi povezavami med npr. zveni besed, ki jih ljudje pridobivamo skozi življenje, ne da bi bili vedno zmožni izraziti razloge za svoje vsakokratne asociacije. V tem smislu bi bil Turingov test pretežek, ker dopušča vprašanja, ki merijo na preveč človeško obteženo inteligenco, se pravi, da so ljudje preveč omejeno inteligentni in da bo presežek te omejitve človeške inteligence vedno izdal razliko med človekom in strojem.

Kot rečeno, je Turing omejitev na zadostnost testa takoj priznal, vendar očitek antropocentrizma ni tako močen, kot se zdi na prvi pogled, saj lahko stroji imitirajo človeške sodbe glede prej omenjenih zadev na načine, ki so zelo različni od tistih, po katerih do svojih sklepov pridemo ljudje. Lahko celo pomagajo pri osvetlitvi razlogov za naša prepričanja, ki jih sami nismo zmožni navesti. Zgodi se, da nam je kaj lepo, ker nam je pač lepo in na vprašanje, kaj je razlog za to sodbo, rečemo samo »Je ne sais quoi«. Imitator pa bi morda lahko navedel razloge za naše občutje, ker bo ta quoi potreboval za uspešno imitacijo. To bi bilo zanimivo, ni pa potrebno. Omejitev tega, kar imenujemo inteligentno obnašanje, ne omejuje vrste inteligence, ki imitira tako obnašanje. Turingov test na nek način res dela krivico nečloveškemu inteligentnemu obnašanju na ravni testnega dialoga, ne omejuje pa inteligence, ki deluje za kulisami te imitacije. Sicer pa lahko antropocentrizem z dovolj domišljije pripišemo vsakemu načinu preverjanja inteligence, če ne kar česarkoli, kar oznako antropocentrizma dela za precej neuporabno.

Tretja vrsta argumentov se sklicuje na materialno osnovo kandidatov. Posebno vlogo tukaj igra človeška (vsaj načelno možna) sposobnost uvida v resničnost posebne skupine matematičnih dokazov, posebej dokazov za Gödlova izreka. Gödel je dokazal, da za vsak neprotislovni formalni sistem, ki lahko podpira aritmetiko – ki bi jo seveda pričakovali od inteligentnega bitja – velja, da lahko navedemo resničen stavek, ki znotraj tega sistema ni dokazljiv. Ljudje sicer vidijo resničnost takega Gödlovega stavka, a se pri tem ne sklicujejo na sistem, v katerem ni dokazljiv.

Za Turingov test je to relevantno, saj so računalniki zgrajeni tako, da bi sistem, ki mu pripada oblika njihovega vezja, lahko našel Gödlove stavke. To se je morda spremenilo s kvantnimi računalniki, vendar na srečo obstajajo lažje razumljive ovržbe tega argumenta. Ta se namreč opira na paralogizem. Po eni strani je jasno, da lahko inteligenten človek v dialogu prizna paradoksno situacijo, kjer znotraj enega sistema ne more dokazati resničnosti Gödlovega stavka, a hkrati uvidi njegovo resničnost ter zna ta primer tudi posplošiti. Po drugi strani je za ta protiarguemt lahko celo dopuščeno, da na ravni vezja stroja ne obstaja analogna rešitev. Toda, vezje samo ne nastopa v dialogu. Obstoj takega stavka na ravni opisa vezja ne pomeni, da bo imel isti stavek v dialogu učinke, na katere računa argument, tj. da bo računalnik, ko bo v dialogu dobil nek problematični stavek, »zmrznil« in se s tem izdal kot neinteligentni, računalniški kandidat.

Po drugi strani bi lahko obstajali argumenti, ki iz materialne osnove sklepajo na lažno-pozitivne rezultate in da torej ne glede na uspešnost testa stroji ne morejo biti inteligentni. Toda če naj ta razlika ne bo samo retorično zagotovljena, ampak tudi dokazana, mora nasprotnik ovreči hipotetično Church-Turing-Deutscherjevo načelo, ki pravi da lahko univerzalni računalnik simulira vsak fizični proces (to ni isto, kot bolj znana Church-Turingova teza). Če se argument nadalje sklicuje na kvantno mehaniko, pa mora analogno pokazati enako še za kvantne računalnike. A tudi če predpostavimo, da tak neverjeten negativni dokaz Church-Turing-Deutscherjevega načela dobimo, ni jasno ali bo iz te razlike sledil tudi dokaz, da so prej omenjeni rezultati s tem tudi lažno-pozitivni, saj se vsi argumenti na podlagi materialne osnove kandidatov opirajo na nedokazano tezo o edinstvenosti človeške »implementacije« inteligence. Kot dodatek lahko, v primeru, da predpostavimo Church-Turing-Deutscherjevo načelo, izpeljemo obstoj nekega Gödlovega stavka za vsako človeško »strojno opremo.« Tako kot za stroj to tudi za nas ne pomeni, da bi, če bi nam kdo ta stavek izdal, npr. takoj umrli od smeha, kot v znanem skeču skupine Monty Python o šali, ki je tako ubijalsko smešna, da jo uporabljajo kot orožje v vojni.

Zgornja shema ne zajema vseh možnih ugovorov proti Turingovemu testu. Pokaže pa, da lahko Turingov test deluje kot stroj, v katerega vnesemo naša prepričanja o inteligenci, on pa nam vrne spisek naših neutemeljenih dogem in seznam bolj ali manj natančnih nalog za ustvarjalce umetne inteligence.