Umetna inteligenca kot postvaritev



Aljoša Kravanja

V pričujočem članku bi rad shematično predlagal marksovsko interpretacijo pojma umetne inteligence. »Marksovsko« pravim zato, ker umetne inteligence ne bom poskušal razumeti v običajnih marksističnih kategorijah (recimo skozi razredni boj ali kritično teorijo ideologije), temveč s pomočjo pojmov, ki jih je razdelal Marx kot filozof. Pri tem bi se rad posvetil zlasti pojmu postvaritve (oziroma »reifikacije« z latinsko tujko ali »Verdinglichung« v Marxovem izvirniku). Trdil bom, da lahko umetno inteligenco razumemo bolje, če v njej vidimo pojav, ki je blizu procesu postvaritve, vendar hkrati razločen od njega.

Osnove pojma postvaritve
Kaj je postvaritev? Kot pravi ameriška filozofinja Hanna Fenichel Pitkin, si je o tem izrazu, kot nastopa pri Marxu in kasneje denimo pri Lukácsu, težko izdelati jasno podobo. V osnovi naj bi postvaritev označevala proces, v katerem značilno človeške prvine – primarno medčloveški odnosi – dobijo značaj stvari. Klasičen primer postvaritve je to, kar pozni Marx imenuje »blagovni fetišizem«. Čeprav nek koristni predmet oziroma blago izdelajo ljudje, čeprav ta predmet nato prevažajo ljudje, čeprav ga ponujajo človeški prodajalci in čeprav ga naposled uporablja ali troši človek, bo ta predmet nastopal kot stvar, navidezno ločena od človeške dejavnosti. Kot pravi H. Pitkin, to očitno ne pomeni zgolj trivialnega dejstva, da predmet obstaja kot materialni objekt v zunanji stvarnosti. Stanje postvaritve pomeni v prvi vrsti to, da se ljudem, ki nastopajo v raznih fazah njegove proizvodnje in uporabe, ta predmet zoperstavlja kot tuja sila z lastnimi zakonitostmi. Zoperstavlja se jim torej tako, kot da bi bila nečloveška reč ali stvar: od tod izraz »postvaritev«. Marxov kritičen sklep je, da bomo stanje postvaritve v blagovnem fetišizmu presegli šele tedaj, ko bomo svoja proizvodna razmerja organizirali tako, da bodo predmeti izgubili svoj tuji, od človeka neodvisni značaj.
V kritični teoriji izraz »postvaritev« seveda ni pridržan za blagovni fetišizem. Lep primer postvaritve nam ponuja teorija človeškega kapitala, ki jo je razvil neoliberalni mag Gary Becker. Po teoriji človeškega kapitala so razne osebne lastnosti, ki jih posedujemo kot ljudje v konkretnih družbenih razmerjih – lastnosti, kot so prijaznost, jezikovna kompetenca, vestnost, seznanjenost z lokalnimi tradicijami, pripravljenost za selitev itd. – pravzaprav forme kapitala, ki jih je treba čim bolje aktivirati v delovnih razmerjih. Kot radi trdijo kritični teoretiki neoliberalizma, mora posameznik v celoti svojih človeških kvalitet videti neko »reč-kapital«, primerljivo z delovnimi orodji ali denarnim imetjem. Podoben primer postvaritve je uporabljal že Lukács: kot zgrožen opaža v Zgodovini in razredni zavesti, je moderna novinarka prisiljena v lastni pisateljski zmožnosti (dobremu slogu, mentalni inventivnosti) videti neko uporabno reč, do katere mora zavzeti instrumentalno ali pridobitniško razmerje. Poanta je torej ta, da lahko postvaritev sega poljubno globoko v posameznike in medčloveška razmerja. Pri tem jih postopoma depersonalizira; v (hipotetičnem) čisto postvarjenem svetu bi bili ljudje le še čisti menedžerji samih sebe, ki bi v svoje lastne človeške kvalitete ali kvalitete svojih otrok spretno vlagali in jih nato aktivirali v čim primernejših delovnih razmerjih. V tem čisto instrumentalnem stanju sploh ne bi bili več oseba, temveč le še čisti upravljalec, ki lebdi nad svojimi lastnostmi in jih poljubno izbira ali neguje z ozirom na prihodnji izkoristek.
Torej gre pri klasičnem pojmu postvaritve, kot ga najdemo pri Marxu in tudi nekaterih dobrih marksističnih filozofih, za dve bistveni ideji. Prvič, postvaritev predstavi nekatere izvorno človeške elemente, denimo medčloveška razmerja ali rezultate človeškega dela, kot zunanje, od človeka neodvisne sile. Drugič, posamezniki, ki so se znašli v stanju postvaritve, so depersonalizirani, saj morajo do postvarjenih elementov lastne človeškosti privzeti instrumentalne drže. Do svojih človeških lastnosti nimajo osebnega, temveč (na primer) menedžerski odnos.

 

Je umetna inteligenca primer postvaritve?
V nasprotju z marksisti ali kritičnimi teoretiki neoliberalizma sam ne mislim, da ta model opisuje relevanten del stanja v družbi. Toda vseeno menim, da lahko postvaritev deluje kot priročen »idealni tip«, se pravi kot teoretski model, ki nam pomaga razumeti nekatere elemente ali tendence v stvarnosti. Moja teza je, da je med temi elementi tudi umetna inteligenca, vendar z nekim specifičnim obratom. Rečeno zelo shematično, za umetno inteligenco – ali za naš način, kako to inteligenco dojemamo – je bistveno ravno to, da, podobno kot postvaritev, skriva svoj značaj človeškega proizvoda. Za umetno inteligenco je bistveno, da se nam predstavlja kot neka samostojna ali celo samovoljna sila, ki je morda res nastala s človeškimi zmožnostmi, a te moči hkrati presega. O tem priča že besedišče, s katerim navadno opisujemo izdelke s kompleksnejšo programsko opremo. Funkcijam pametnega telefona se čudimo kot magičnim učinkom. Googlovo predvidevanje iskalnih nizov se nam zdi strašljivo natančno. Za AlphaGo, Stockfish ali kakšen drug močan šahovski program rečemo, da »igra nečloveške poteze« (to ni le laična sodba, ampak običajen del šahovskega žargona). Notranje funkcioniranje teh programov nam je torej neprosojno. Zaslon tablice nam sicer daje videti uporabniško okolje aplikacij, posnetke ali besedilne vsebine, toda hkrati nam – kar je tudi starejši smisel besede »zaslon« – zaslanja pogled na programsko in strojno drobovje naprave, na kolesje njene inteligence.
Toda to še ne more biti razlog, da lahko imamo umetno inteligenco za primer postvaritve ali reifikacije. Gotovo tudi povprečni voznik ne zna opisati delovanja motorja na notranje izgorevanje. Do neke mere je neprosojna vsaka tehnologija, in sicer preprosto zato, ker je seštevek več proizvajalnih veščin in s tem praviloma znanja več individuov. Vendar gre to, kar imenujemo umetna inteligenca, v tej neprosojnosti korak dlje. Aparat, ki mu prisojamo stopnjo inteligentnosti, se nam kaže kot analogija indvidualne osebnosti. To je znan motiv v znanstveni fantastiki od Langa do Asimova in nedavnega filma Ex machina: kolikor je umetna inteligenca v stiku s človeškim uporabnikom, običajno privzame obliko (ali vsaj videz) neke enotne, nedeljive osebe (ki je vrh tega pogosto skrivnostna ženska). Umetna inteligenca je nekakšna persona – če ne drugače vsaj v tej meri, da z njo upravljamo na način, ki simulira medosebne odnose (s pomočjo besedilnih sekvenc, na primer). Toda kot program umetna inteligenca ravno nima individualne narave. Nasprotno, kot program ali celo kot delujoča aplikacija na aparatu je umetna inteligenca rezultat dela več ducatov programerjev, avtorjev osnovnejših slojev kode, oblikovalcev, prevajalcev, teoretikov, množice uporabnikov, ki s svojim inputom krepijo podatkovne baze, naposled stotin delavcev, ki so udeleženi pri izdelavi strojne opreme. To, kar je pri umetni inteligenci resnično kompleksnega, je vedno rezultat koordinacije pluralnega dela in različnih tehnik, nad katerimi ne more imeti pregleda en sam individuum. Zanimivo je, da to osnovno resnico pogosto zanikajo sci-fi vizije, na primer Blade Runner ali spet Ex Machina: umetno inteligenco navežejo na prometejski mit enega, heroičnega stvarnika, ki ga, podobno kot dr. Frankensteina, izdelek njegovih rok naposled pogubi. Bistvo umetne inteligence je torej neko zakritje. Umetna inteligenca je zakritje ali, bolje rečeno, preobrazba koordiniranega dela množice ljudi v formo ene (virtualne) osebnosti. Je rezultat procesa, ki se začne s pisanjem kode številnih ljudi, in konča z mojim dajanjem navodil izdelku njihove dejavnosti, ki, podobno kot individuum, »izvršuje moje ukaze«.
Ko torej pravim, da je umetna inteligenca postvaritev, imam v mislih dejstvo, da se mi delo z umetno inteligenco, ki je v resnici rezultat nepreglednega mnoštva ljudi, kaže kot interakcija z enim individuom. Umetna inteligenca je personifikacija mnogoterega tehnično intenzivnega dela, ki ga po definiciji ne more opraviti ena oseba. Zato je umetna inteligenca, podobno kot vsaka postvaritev, v osnovi neka mistifikacija ali zakritje. Delo množice ljudi zakrije v virtualno formo individualne osebe. Toda v nasprotju s standardnim modelom postvaritve, ki ga je Marx analiziral pod imenom »blagovni fetišizem«, tukaj delo človeških rok ni prikazano kot stvar, temveč ravno kot oseba. Interesantno je torej to, da se, nasprotno kot po klasični marksistični dogmi, človeško delo ne osamosvoji v formi neodvisne in zato človeku tuje stvari, ampak, nasprotno, v obliki neke persone. Če uporabim nekoliko paradoksen izraz, je umetna inteligenca »personifikacijska reifikacija«, se pravi postvaritev, ki sovpada s poosebitvijo.

Krajšanje kompleksnosti
Dejal sem, da si je po mnenju filozofinje Hanne F. Pitkin težko ustvariti koherentno podobo pojma postvaritve. Ena od težav, ki jih ima ta marksovski pojem, je njegova normativna plat. Očitno je namreč, da Marx in kasneje marksisti izraz »postvaritev« – tako kot sorodno besedo »odtujitev« – omenjajo kot skrajno nezaželeno stanje. Postvaritev naj bi ogrožala dostojanstvo, ki človeku pritiče kot osebi, oškodovala bi ga naj tudi kot spoznavajoče bitje, saj zakriva pred njim resnični, torej človeški značaj procesov in izdelkov. Toda s čisto pragmatičnega vidika si je težko zamisliti kompleksno družbo, v kateri bi bile delovne interakcije polno medčloveške, kjer bi bil torej relevanten delež delovnih procesov podvržen pogajanjem, diskusiji in drugim »mehkejšim« tipom komunikacije. Realno stanje, ki ga marksovska filozofija imenuje »postvaritev«, je v večini primerov preprosto rutinsko izdelovanje okrajšav. Vzemimo enostaven primer takšne okrajšave: semaforizirani promet. Ko sledimo semaforjem, počnemo natanko, kar marksisti imenujejo »postvaritev«: pri koordiniranju prometa, ki je sicer čisto človeška zadeva, se podrejamo volji nečloveške in samostojne sile, namreč utripanju semaforjev. Toda namen takšne podreditve je ravno okrajšava zapletenih pogajanj in medčloveške komunikacije, ki bi jo sicer morali izvajati pri vsakem srečanju v križišču. Se pravi, če se moderni človek, kot trdi marksovska diagnoza, res vedno znova znajde v družbenih razmerjih, kjer mu proizvodi človeške interakcije stojijo nasproti kot neodvisne in celo nečloveške sile, potem je to zelo verjetno zato, ker je kompleksnost moderne družbe treba nenehno krajšati v obvladljive enote, ki – to je njihov stranski učinek – tudi zakrivajo svoj čisto človeški značaj (podobna argumentacija se skriva v ozadju Luhmannovega pojma redukcije kompleksnosti). Konkretno to pomeni, da so fenomeni postvaritve, kot je denimo podrejanje »zahtevam trga«, neizbežne posledice dovolj kompleksne družbe, in ne toliko nezaželeni nasledki kapitalistične družbe.
Dovolj kompleksna družba preprosto ne more obstajati drugače kot tako, da nenehno briše ali krajša zapleteno medosebno poreklo posameznih fenomenov, kar seveda velja tudi in še zlasti za delovno sfero. Še več: koristnost naprav se meri ravno po njihovi sposobnosti čim večje okrajšave kompleksnosti. Umetna inteligenca je skrajen primer takšnega krajšanja. Umetna inteligenca in programi, ki simulirajo dialoške situacije (denimo spletni iskalniki, prevajalniki ali digitalni svetovalci), so okrajšan, anonimen in izjemno zgoščen rezultat nezaslišano kompleksnih delovnih interakcij, ki uporabniku omogoča, da do dosežkov teh interakcij dostopa brez običajnih zamud in stroškov – v obliki, ki simulira dialoško izmenjavo. Če upoštevamo ta vidik, potem se kritična ost, ki je običajno navzoča v marksovskem pojmu postvaritve, precej otopi. Konceptualno jedro postvaritve je preprosto ideja okrajšave ali redukcije kompleksnosti, ki ima za eno od posledic tudi to, da reducira človeško-delovni značaj družbenih procesov. Vsa normativna plat postvaritve pa tradicionalno najverjetneje izhaja zgolj iz tega, da jo marksisti prikazujejo z izrazito negativnimi zgledi, kot je npr. fizična podrejenost delavca stroju pri Marxu ali razosebljenje propagandnih novinarjev po Lukácsu. Če pa, nasprotno, postvaritev ponazorimo s pragmatično učinkovitimi zgledi, kot sta npr. sledenje semaforjem v prometu ali asistenca umetne inteligence, postane manj očitno, zakaj bi morala biti nezaželena postvaritev kot taka. Še enkrat: to, kar je nezaželenega pri stanju postvaritve, niso inherentne značilnosti postvaritve, temveč prej trpljenje in moreča depersonalizacija, ki ju – zgolj naključno – vsebujejo njeni klasični marksovski primeri. To postane očitno, če kot njen primer raje vzamemo umetno inteligenco ali semaforizacijo. Vseeno pa je vredno omeniti, da ravno ta značaj okrajšave ali odmišljanja delovnega porekla prinaša nekatere nevarne plati umetne inteligence, med katerimi je zlasti fenomen programske »črne skrinjice«, se pravi vse manjše dostopnosti kode raznih popularnih (in s tem družbeno vplivnih) aplikacij.
Prišli smo torej do naslednjega sklepa: umetna inteligenca je skrajno okrajšan in obvladljiv rezultat brezmejne mreže delovnih interakcij, ki velik del svoje učinkovitosti dolguje ravno temu, da lahko uporabnik z njim upravlja na dialoški ali kako drugače personaliziran način. Aparatu povem, kaj hočem od njega, in po zaslugi dela programerjev, lingvistov, oblikovalcev in inženirjev ter masovnega inputa drugih uporabnikov je moj ukaz interpretiran in izvršen tako, kot da bi to storil mojim ukazom podrejen (in maksimalno odziven) individuum. Učinkovit je torej brez posrednikov, stroškov koordinacije in zamud, ki so značilni za organizirano delo; poleg tega je aparat z menoj v dialoškem, dozdevno osebnem razmerju. Ta zakrivajoča narava umetne inteligence, ki taji njeno delovno-človeško poreklo, postane najbolj razvidna tedaj, ko uporabnik nese svoj osebni računalnik ali telefon na servis (ali ko je prisiljen naložiti novejšo različico programske opreme). Poanta je ta, da servis ali update – torej stik predmeta z dejanskim delavcem – uporabnica občuti kot neželeno motnjo ali odvečen korak, ki ga je potrebno napraviti zgolj zato, ker se je aparat po nedoumljivi muhi pokvaril (ali zaradi kaprice ponudnika programske opreme). Uporabnica ravna torej tako, kot da bi bilo programersko ali inženirsko delo sekundarno v razmerju do aparata in same umetne inteligence.

Aparat-oseba
Ta zadnji primer pa nam tudi namigne, zakaj se je zanimanje za umetno inteligenco povečalo v zadnjih par desetletjih. Če je namreč res, da je za umetno inteligenco značilno to, kar smo imenovali »personalizacijska postvaritev«, potem bo umetna inteligenca cvetela ravno na tistih tehnoloških platformah, ki so primerne za simulacijo medosebnih stikov. Pojasnimo to tezo na primeru. Omenili smo, da je urejanje cestnega prometa s semaforizacijo prav tako primer postvaritve, saj medčloveško razmerje koordinacije pri potovanju prikaže kot od človeka neodvisno silo, ki se ji moramo posamezni vozniki rutinsko pokoravati. Toda semaforizaciji očitno ne moremo pripisati statusa umetne inteligence, tudi če predpostavimo, da postane bolj odzivna in dinamična (če bi se, na primer, začela prilagajati času v dnevu ali večjim vozilom v prometu). Moja teza je, da semaforizaciji težje pripišemo status umetne inteligence zato, ker kot sistem javnih aparatov in znakov nujno nagovarja večjo množico uporabnikov. Semafor ali ekran z voznimi redi na železniški postaji po definiciji ne moreta biti »zasebna« aparata, saj uspešno opravita svojo funkcijo le tedaj, ko je informacija, ki jo nudita, dostopna vsem udeležencem v prometu. Za voznico ima zelena luč pomen samo tedaj, ko ve, da voznik na sekajoči cesti vidi rdečo luč. Podobno velja za kompleksnejše sisteme koordinacije, kot je programska in strojna oprema, potrebna za nadzor letalskega prometa. Ta oprema ne more uporabniku nikoli nuditi vtisa, da je z njo kot z nekim virtualnim individuom v simuliranem osebnem odnosu. Je nujno javna.
Povsem drugače pa velja za osebne tehnične predmete, kot so pametni telefon, prenosni računalnik ali tablični računalniki. Prvič, ti predmeti so izrazito individualizirani, se pravi vezani name kot posameznika. Postali so individualizirani do te stopnje, da nedovoljeno uporabo telefona ali prenosnika razumemo kot poseg v našo zasebnost, ki je lahko hujši od brskanja po kovčku s perilom. Drugič, vmesnik, ki ga uporabljamo za upravljanje s temi napravami, je še posebej pri pametnih telefonih vedno bolj zasnovan kot dialoška izmenjava (torej kot tekstovna ali zvočna komunikacija). Ta pogoja, personalni značaj aparatov in dialoška forma upravljanja, pa sta, če sledimo zgornji analizi, hkrati tudi pogoja za razcvet ideje umetne inteligence. Značaj inteligence bomo pripisovali tistim aparatom, do katerih gojimo individualizirano osebni odnos in s katerim smo v govorni interakciji. Z drugimi besedami, filmi, kot so Ex Machina, Ona ali drugi del Blade Runnerja so danes popularni ravno zato, ker se opirajo na razširjenost izkušnje s pametnimi telefoni, prenosniki in drugimi personaliziranimi napravami. Ti filmi temeljijo na ideji, da za umetno inteligenco ni bistvena intelektualna zahtevnost operacij, ki jih izvaja strojna in programska oprema, temveč stopnja intimnosti, ki jo lahko človeški uporabnik zavzame do funkcioniranja aparata; in gledalki je ta izkušnja poznana iz njenega osebnega ter skoraj dialoškega odnosa s pametnim telefonom ali tablico. Porast zasebnih tehnoloških aparatov je torej v nekem smislu »materialna baza« (če uporabimo še en zarjavel marksovski izraz) vzpona umetne inteligence. Aparat, ki je namenjen izključno moji rabi in ki ga uporabljam preko vedno bolj dialoškega vmesnika, je utelešenje umetne inteligence. In nasprotno: na delovnih področjih, kjer ima programska oprema izrazito javno rabo in kjer je zato pluralni delovni značaj tehnologije uporabniku nenehno pred očmi – to velja za sisteme koordinacije prometa, znanstveno delo ali finančno tehnologijo – bo toliko manj prostora za personalno držo do tehnologije in s tem manj možnosti za nastop ideje umetne inteligence. To je še en indic, da je umetna inteligenca »personifikacijska postvaritev«.
Ali to znova pomeni, da je umetna inteligenca nekaj potencialno slabega? To je spet odvisno od primerov, s katerimi ilustriramo umetno inteligenco. Če zaupamo nedavni filmski produkciji, potem umetna inteligenca ogroža naše dostojanstvo, spoznavno suverenost in nazadnje človeškost. Toda v tej luči lahko prikažemo skoraj sleherno orodje in vse procese, ki smo jih tukaj imenovali »krajšave kompleksnosti«. Ko usmerimo našo pozornost izključno na človekovo držo do umetne inteligence, denimo na pretirane personalizacijske težnje, lahko hitro spregledamo, da ima raba te inteligence še vedno instrumentalen značaj. Še vedno je orodje. In če je orodje, to implicira, da mora imeti naš odnos do umetne inteligence nek zunanji cilj, ki ga postavljamo mi, človeški akterji. Podobno bi se tudi semaforizacija pokazala za nekaj demoničnega, če bi bili pozorni le na slepo poslušnost diktatu zelene luči in če bi odmislili dejstvo, da ljudje upoštevamo semaforje le zato, ker hočemo nekam prispeti. Kot vsak drug primer postvaritve postane umetna inteligenca strašljiva tedaj, ko izgubi svoj instrumentalni značaj, svoj smoter v sistemu človeškega življenja. Besedo o takšnem stanju pa moramo prepustiti znanstveni fantastiki.

Slika: yumikrum