S. Lemas. Robotų psichologija/ Sąmonės paradoksai. Esė. Vartiklis

... Ginčas būtų išspręstas tik tada, kai sugebėtume sukurti žmogui prilygstančią mašiną. Tačiau ką reiškia „prilygstančią“?

Apie autorių žr. >>>>>

... Bet kurią protingą pašnekovą imituojančią programą anksčiau ar vėliau pavyktų „nuvainikuoti“. Paprasčiausiu būdu, apie kurį (nežinau kodėl) niekas nesusimąstė, yra nepažįstamam pašnekovui papasakoti paprasčiausią istoriją, pvz., anekdotą ar pokštą, ir paprašyti jį ją perpasakoti savais žodžiais. Mašina nesunkiai viską pakartos pažodžiui: normalus žmogus nesugeba būti tikslus perpasakodamas, nes jis įsimena ne tiek TEKSTĄ žodžiais, kiek jo PRASMĘ, t.y., jis supranta pasakojimą. Mes susiduriame su realia problema: ar galime, ir kaip, įsitikinti, ar „kompiuteris“ ką nors supranta panašiai į žmogų? Pradžioje reikia pažymėti, kad „ko nors supratimas“ turi savo lygius ir rūšis. Šuo kažkuria prasme „supranta“, kuo užsiima jo šeimininkas, kai mato, kad tas krauna lagaminą, nes jis tai jau matė ir „žino“, kad bus kokia nors kelionė. Tačiau net musė „žino“, kuo jai gresia musmušis, kuriuo mosuoja žmogus, supykęs ant jos įžūlumo...

... Man atrodo, kad Tiuringo testas, taip stipriai priklausantis nuo hardware ir software vystymosi, kaskart tampa vis mažiau įtikinamu Žmogaus ir Mašinos determinatoriumi. Kartu kyla klausimas, tikriausiai labiau dominantis filosofus nei informatikos specialistus: kokiam velniui mums Vincentas van Gogas

reikalinga mašina, taip efektyviai imituojanti žmogų, savo kalbėjimu neatskiriama nuo žmogaus? Juk akivaizdu, kad kompiuterių ir programinės įrangos evoliucija ne tik ir paprastai ATSISKIRIA, bet kartu ir įžengia, beje vis labiau, į žmogaus mąstymo sritis, kurios šiaip jau nepasiekiamos. Tai, kas įsivaizduojamo konstravimo srityje nei intuityvu, nei logiška ir apmąstyta, mes patys negalim imituoti, sugebės kompiuteriai. Mūsų smegenys dėl savo atsiradimo istorijos paveldėjo ir išvystė afektyvųjį gyvenimą, visas tas pagrindinių ir papildomų emocijų, stresų, jausmų, džiaugsmų, kantrumo, liūdesio, laimės, skausmo rūšis, kurios kompiuterių „pasąmoningai būčiai“ lieka visiškai svetimos, be kurių kompiuteris PRIVALO apsieiti ir be kurių – kaip teigia neurofiziologai – kompiuteris sąmoningai pamėgdžioti žmogų niekada nesugebės.

... Mūsų psichikos poveikio organizme vykstantiems procesams zona, be abejonių, milžiniška ir neaišku, kur jos ribos. Mes jau žinome, pvz., kad net audiniai, kuriems žmogaus kūnas neturi valdžios, „sumaištavę audiniai“, anarchistiniai, naujai susiformavę, betarpiškai PATYS savaime nepaklūsta smegenų poveikiui, tačiau jiems besipriešinančio organizmo savigynos laipsnis, be abejo, priklauso nuo ligonio sąmonės būsenos. Demoralizuoti savo būsena duoda silpnesnį atkirtį nei norintys gyventi: savo troškimu jie labiau pasipriešina mintinai grėsmei...

... Jau mūsų horizonte regima perspektyva, pagal mane originalesnė nei atsakymas į Tiuringo testą. Kalba apie šitai: evoliucinių procesų kompiuterinis modeliavimas vyksta išskirtinai mašinų „viduje“ ir yra milžiniška praraja tarp realaus pasaulio ir skaitmeninio pasaulio (tarp „kūno ir dvasios“, „materijos ir „informacijos“) išlieka, tačiau ją gali pradėti pildyti nauji tvariniai, kurie kartu yra ir konstruktoriškai, ir informatyviai „išauginti“ mažų, pseudogyvų (negyvų, tik prikimštų elektronikos) „įtaisų“ prototipų, šiandien naudojamų įvairių „nanologų“, inžinierių-keistuolių žaidimuose, tačiau kurie ateityje gali pradėti tokią evoliuciją, kuri savarankiškai nesugebėtų prasidėti. Tai būtų „kvazimechaninė evoliucija“ arba, galbūt, elektroniškoji-informacinė ar net kvantinė-molekulinė, pradėta žmonių ir žmonių nukreipiama bei valdoma, tačiau gebanti tam tikrame etape „estafetės perėmimui“, t.y. „savarankiškos iniciatyvos“ apraiškai kaip stiprėjančio nepriklausomumo ir atsirandančių specializuotų krypčių pasekmei. KAM tokia evoliucija reikalinga? Šis klausimas kiek aplenkia įvykius... Kitas, dabar neegzistuojantis „kontinentas“ ateityje GALI tapti atviru dėka konstruktorių potraukio, ir neaišku, kiek jo įsisavinimas atneš mums naudos .... ir problemų.

... Data processing prasidėjo nuo paprasčiausios pirminės saviorganizacijos arba gyvybės, o tada prasitęsė molekuliniame autoreplikatorių diapazone; iš jų susidarė genetinis kodas, kitęs milijardus metų, kol neįgijo to besivystančios jėgos potencialo, sukūrusio ir amebas, ir dinozaurus, ir mus; o mes, savo ruožtu, jau makromasteliu pradžioje ATLIEKAME data processing kompiuterinėje terpėje, kur apvalyta nuo kūniškojo svorio informacija kryžminama ir kur ji transformuojama tokia sparta, kokią gyvybė „pati“ neišvystytų. O kai šis „autonominio informacinio evoliucionavimo“ etapas paliks kompiuterius, nes dėl jų vystymosi įsikūnys į jų sukurtus technobiotus, t.y. į negyvus savo prigimtimi elementus, tai savo funkcionaline „tarsi gyvi“ veikla, beje gyvi vystantis, tada beribė praeities, dabarties ir ateities panorama taps kompaktiška logine schema, kurio mikrogyvybė pradėjo makrogyvybę., savo ruožtu pagimdžiusią „universalią egzistenciją“: nuo molekulių – per organizmus – prie mums dar nežinomų ir net šiandien pavadino dar neturinčių „technobiontų“...

Šis požiūris nėra prognoze, jis – kažkas daugiau nei prognozė, pateikianti fantastines galimybes. Į tiesą panašus atlikimas gali būti kuklus, tačiau pradžioje visada privalo būti aukštesnis tikslas. Galima pažvelgti į pateiktą vaizdą ir kaip tragifarsą, kuris atsitiko arba gali atsitikti su žmogaus, įsivaizdavusio save aukščiausia Kosmine Konstanta, Protu, nors tai tebus preliudija kitai, transantropinei „informacinio Visatos užvaldymo“ fazei. Tokiu pavidalu tokia suprojektuota visuma turi kartoką prieskonį...

Galima priimti, kad visi žmonės turi sąmonę, tačiau tai visai nereiškia, kad jie apie tai galvoja. Visa ši sfera neturi visiško vientisumo. Mes nežinome, kaip atsiranda sąmonė, kaip ir nežinome jos ryšių su intelektu. „Technologijų sumoje“ (1964) aš labai naiviai rašiau apie elektrosmegenis ir net apie jų tikėjimus. Man (ir ne man vienam) atrodė, kad įmanomas betarpiškas konstruktorinis kelias į intelektą. Dabar, labiau informuotas, aš suprantu visą problemos sudėtingumą. Į klausimą, ar gali žmogus nesąmoningai atlikti sudėtingas funkcijas su aiškiai apibrėžtu tikslu ar net labiau – nedalyvaujant sąmonei – galiu nesvyruodamas patvirtinti. Būtent taip elgiasi bent kiek patyręs automobilio vairuotojas, plaukikas, skrendantis deltaplanu, o taip pat žmonės daugelyje kitų situacijų. Greičiau tose situacijose viešpatauja būtent būsenos priešingos sąmoningoms, nes harmoningas įgūdžių, įgautų dalyvaujant sąmonei, derinys vėliau automatizuojamas iki tokio lygio, kad sąmonės įsikišimas į vientisą jau ištobulintų veiksmų seką gali greičiau sutrukdyti nei padėti.

Tai liečia ir mūsų kalbos sugebėjimus. Dažnai sunku mintinai padeklamuoti fragmentą, ištrauktą iš kokios poemos ar eilėraščio vidurio, būtent todėl, kad tai reikalauja tam tikros deautomatizacijos. Juk tokio fragmento deklamavimui būna lengviau pradėti tekstą nuo pradžių. Tai reiškia didėjančią, dėl mokymosi ar įpratinimo, automatizaciją veiksmų, kuriems reikia vienalaikio neuroninių modulių darbo, kartais esančių skirtinguose smegenų pusrutuliuose. DI prieš žmogų

Tačiau labai sunku nustatyti, kaip sąmonę pajaučia žmogus su afazija, ataksija, aleksija ar agnozija. Mes žinome, kad žmogus gali matyti savo sąmonėje būdamas aklu. Toks neregys nežino, kad regi aplinkinį pasaulį ir kitą žmogų su kamuoliu rankoje, tačiau sugaus tą jam mestą kamuolį. Tokio pobūdžio reiškiniai, o jų yra miriadai, geriau žinomi neurologams, kurie, kaip rusų tyrinėtojas A. Lurija¹⁾, užsiėmė su tūkstančiais žmonių, turėjusių įvairius smegenų pažeidimus. Tokių būsenų gydymas dažnai būna pagrįstas nukentėjusio kantriu apmokymu kaip panaudoti įvairius aplinkos pasireiškimus ar specialius pritaikymus, o taip pat valdyti elgesį pasiremiant kitas jutimų organais. Būtų nesąmone, jei aš toliau gilinčiausi į neurologiją, o tai kas pasakyta, tarnauja tik kaip įvadas į nemetrinę daugiamatę smegenų veiklą, kurie gali bet kurią tikslingą funkciją atlikti visiškai skirtingais būdais.

Kaip rašiau „Technologijų sumoje“, konstruktorių nedomina, ar mašina turi sąmonę, o tik tai, ar teisingai ji funkcionuoja. Visa, ką mes žinome apie nemąstantį automatizmą, o taip pat apie pasąmoningą instinktų veiklą, leidžia mums tirti sudėtingas sistemas (pvz., neuroninius tinklus), kai žinodami, kas yra tokių tinklų įėjime, o kas išėjime, mes galim nežinoti, kas vyksta pačiame tinkle. Kol kas mes netoli pasistūmėjome nuo kompiuterinių Winograd²⁾ programų, optinių daviklių ir receptorių pagalba atliekančių tokio tipo pavedimus: „pasakyk, kiek geometrinių kūnų yra ant stalo?“ arba „uždėk kūgį ant kubo“ ir t.t. Dabar mums triumfuodami praneša, kad robotas, mokantis lipti ar leistis laiptais, gali savarankiškai orientuotis laboratorijos aplinkoje. Tačiau aš nesakyčiau, kad jį jau galima pagal protinį išsivystymą palyginti su pusmetiniu kūdikiu, kuris dar nekalba. Tuo tarpu Artificial Intelligence entuziastai nori jau kitose robotų kartose regėti jei dar ne Einšteinus, tai bent jau restoranų padavėjus ar namų apsaugininkus.

O juk tiek su padavėju, tiek su apsaugininku galima paplepėti politikos ar ekonomikos temomis. Mano nuomone, DI šalininkai šiandien primena, greičiau jau cirko akrobatų grupę – jie kiek vikresni nei žiūrovai, nes gali atlikti šuolius ore nuo trapecijos ant trapecijos. Tasai nenuginčijamas meistriškumas sui generis³⁾, tačiau jis neturėtų kaskart vykti su sutelktu sąmonės dėmesiu. Nors ir priskyriau mašininėms sistemoms lingvistinės artikuliacijos galimybę ir, aišku, pokalbių su žmogumi meną tam tikros tematikos apimtyje, tačiau nelyginčiau šio gebėjimo su nekvalifikuoto darbininko ar virėjos kalbos laisve. Juk neminėta svarbi problema, kad gebėjimas kalboje atskirti gerai užprogramuotą kompiuterį nuo žmogaus labai, o tiksliau, skirtingu lygiu, priklauso nuo pašnekovo-žmogaus intelektualinio lygio. Iš Weizenbaum’o darbų žinome, tarp kitko, kad dėl jo pseudopsichologinės „Eliza“ programos apsigaudavo net tie, kurie žinojo, kad joks žmogus ir joks protas nesa už ištariamų klausimų ir atsakymų. Tačiau psichologinis apsigavimas, sukeltas antropomorfinės projekcijos, atvesdavo į tai, kad, pvz., sekretorė, kuriai „Eliza“ uždavė klausimą, jos požiūriu intymų, prašė, kad profesorius paliktų ją vieną su mašina, suprantančia lygiai tiek, kiek gali suprasti siena, atmušinėjanti teniso žaidėjo kamuoliukus. Tad mes priversti dirbtinio intelekto problemą pripažinti esančia dichotomine, nes ji kyla susidūrus dviem sistemoms: žmogaus, kuris pagal mūsų prielaidą supranta, ką daro ir kalba, ir mašinos, kuri, labai palaipsniui tobulėdama įvairiomis kryptimis, imituos pašnekovą. Aš baiminuosi, kad imitacija gali vienu metu būti ir nesąmoninga, ir nepaprastai puikiai vaizduojanti sąmonę. Šis sunkumas dar neįveiktas, - ir todėl šiandien jis yra Gordijaus mazgu, kurio išpainiojimu ar perkirtimu bus užsiimta tik ateityje.

¹⁾ Aleksandras Lurija (1902-1977) – tarybinis neuropsichologas, akademikas. Prieš karą buvo aktyviu geštalt-psichologijos tarybinių ir užsienio tyrinėtojų suartėjimo šalinininku. Nuo 1946 m. MGU profesorius. Vystė kultūrinę-istorinę psichikos koncepciją; tyrinėjo paveldimumo ir auklėjimo santykį. Naudojo tradicinį dvynių metodą. Prisidėjo vystant neuropsichologiją, tirdamas pacientus su lokaliais smegenų pažeidimais. Sukūrė afazinių sutrikimų klasifikaciją. Jo „nusikaltimų afektinių pėdsakų“ nustatymo būdas vėliau panaudotas kuriant „melo detektorius“.

²⁾ Vinogrado schemos iššūkis (WSC) – mašininio intelekto testas, kurį pasiūlė kanadietis H. Levesque (g. 1951 m.) kaip Tiuringo testo patobulinimą. Jis turi daug pasirinkimų panaudojant labia specifinės struktūros klausimus, t.y. Vinogrado schemomis, kurias pasiūlė amerikiečių kompiuterininkas Teris Vinogradas (g. 1946 m.). Iš pirmo žvilgsnio Vinogrado schemos tiesiog reikalauja anaforos išlukštenimo: mašina privalo identifikuoti nevienareikšmio įvardžio antecedentą. Tai tampa kalbos apdorojimo uždaviniu, tačiau H. Leveskas teigia, kad Vinogrado schemoms būtinos įvairiapusės žinios ir sveikas protas.