7. elõadás

Gondolkodnak-e a gépek?

A tárgyak szerepe az emberi gondolkodásban

Egyszerû és könnyû témának tûnik az, hogy gondolkodnak-e és milyen értelemben a gépek. Elhangzanak érvek e mellett és ez ellen most már négy évtizede. Elõadásom elején történeti kifejtést fogok alkalmazni, míg az óra második felében a kritikai mozzanatokat fogom tüzetesebben jellemezni. Mielõtt egyáltalán ezt a kérdést, hogy gondolkodnak-e a gépek felvetnénk, egy tágabb kérdést is vizsgálnunk kell. Az, hogy mi a viszony az ember és a gépek között, nemcsak a gondolkodás szempontjából merül fel a modern európai szellem történetében. Állandóan visszatérõ téma az, hogy tekinthetõ-e a gép az ember modelljének. Oly mértékig visszatérõ téma, hogy a 17. századtól kialakuló sajátos dualisztikus emberképet, amit kartéziánus emberképként szoktunk jellemezni, Gilbert Ryle (1974) meglehetõsen vitriolosan úgy nevezi, mint a "szellem a gépben", vagy "a gépben lakozó kísértet" képe az emberrõl. Descartes számára, amikor az emberi szervezet mûködésérõl beszélt, természetesnek tûnt, hogy az élõ szervezet olyan, mint a Versaillesi-i szökõkutak, az óramûvek vagy egyáltalán a mechanika századának diadalmas gépezetei. Ehhez azonban hozzátette, hogy ez nem így van a lélekkel. A gépi test nem gondolkodik, ez a lélek dolga.

Ha közvetlenebb témánkat tekintjük, ez sajátos állásfoglalás is. A gondolkodás nem modellálható gépiesen. Az, ami az emberben nem gép, lenne maga a gondolkodás, minden egyéb viszont gép. Nem fogom most visszaidézni azt, hogy miért is hibás ez, csak egyetlen egy jelzõvel utalnék rá. Ez a típusú gépi gondolkodás megfeledkezik arról, hogy a biológiai szervezõdés kissé más, kicsit opportunusabb, alkalomszerûbb, lágyabb, véletlenszerûbb és egyáltalán természet által formáltabb az ember teremtette gépekhez képest. A 7.1 táblázat mutatja, hogy általában milyen hármas lehetõséggel használjuk fel az újkori gondolkodásban a gépeket az emberre nézve. Ezek kombinációja azt a lehetõséget is felveti ugyanis, hogy a gépekkel jellegükben azonosak vagyunk.

Általában igaz a 17. századtól kezdve is, hogy annak ellenére, hogy mindig érezzük, hogy valami baj van akkor, ha az embert gépekkel modelláljuk, minden olyan korszakban, amikor valamilyen új gép jelenik meg a technika fejlõdésével, fellép az a csábítás, hogy a gépet átfordítsuk az ember modelljévé. Nézzünk egy másik, jóval késõbbi, 20. századi példát. A telefónia megjelenésével, különösen Puskás Tivadar találmányának köszönhetõen, a telefonközpontok megjelenésével jelentek meg olyan felfogások az emberi idegrendszer mûködésérõl, amelyek az idegrendszert tulajdonképpen telefonhálózatként, és az idegrendszer magasabb szintjeit, fõként az agymûködést egy átkapcsoló telefonközpontként fogják fel. Ez nem a mesterséges intelligenciakutatás és a mai gondolkodás privilégiuma, így volt már a húszas években is. A húszas évektõl kezdve megfogalmazódott a pszichológiában meg a filozófiában, az alaklélektanban ennek egy radikális ellentételezése. Az emberi élmények nem atomisztikus szervezõdésébõl kiindulva az alaklélektan sajátos biológiai és filozófiai doktrínát is megfogalmaz. A biológiai doktrína - ez most a gépi gondolkodás szempontjából számúnkra érdekes - leghíresebb megfogalmazója Wolfgang Köhler (1938, 1947), aki azt mondja, hogy tulajdonképpen a természet és az ember mûködésének tudományos modellálásában alapvetõen kétféle gondolkodási mód él velünk. Ha posztmodern idiómában fogalmaznánk, azt mondhatnánk, két metanarratívája van a a természetrõl való gondolkodásnak. Az egyik a topografikus gondolkodás, a másik pedig a dinamikus gondolkodás, mint az 1. elõadásban már láttuk. A probléma Köhler szerint, - most már visszavetítem az ember megértésére - azokban a modellekben, amelyek az idegrendszer mûködését mint telefonközpontot képzelik el, voltaképpen az, hogy nem veszik észre, hogy az élõ szervezet saját biokémiájával nem egyszerûen egy topografikus modellt alkot, hanem egy erõteljes dinamikus modellt is, ahol idõbeli folyamatok s energiaátadások vannak. Amikor az információ problémáját gépekkel kezeljük, ezzel csak egy újabb lépést teszünk, de megmaradunk a topografikus szemléletben. Vagyis a mai kognitívizmus néhány alapgondja hosszú folyamatba illeszkedik bele a gépek metaforikus felhasználásában. Amikor az ember információkezelõ tulajdonságait elkezdjük egy éppen aktuális gép módjára értelmezni, ez csak látszólag a semmibõl létrejövõ újdonság az ötvenes évek közepétõl. Valójában egy három évszázados hagyományba illeszkedik, amely sok mindent megpróbált gépekkel leképezni. Ebben a három évszázados hagyományban mindaz a dilemma, amit a mesterséges intelligenciával és az emberi gondolkodás gépi modellálásával kapcsolatban felvetünk, már korábban megjelenik, a nem gondolkodási jellegû emberi funkciók gépi modellálásánál is. Nevezetesen, hogy az élõlények modellálásában nem lehet pusztán a mechanikából kiindulni.

Karl Poppernek (1972) van egy híres cikke, amelynek az a címe, hogy Órák és felhõk. Popper azt mondja, hogy tulajdonképpen a természet modellálásában kétféle szemlélet él bennünk. Az egyik az órásmester szemlélete, a 17-18. századi mechanika szemlélete, amely a természetet úgy tekinti, mint egy mindent tudó órásmester által létrehozott óramû gépezetet, ahol a viszonyok determinisztikusak. Mit értünk azon, hogy determinisztikusak? Ha egy fogaskerék jól illeszkedik egy másikkal, akkor ennek az elmozdulása egyértelmûen meghatározza a másik elmozdulását. És a szerkezet tervrajzának megértésével vagy átlátásával az egészet megértettük. Ki kell nyitnunk az órát, és megértenünk, hogy a különbözõ fogaskerekek hogy kapcsolódnak egymáshoz, mindez a rugóhoz és a másik végén a mutatóhoz, és megértettük, mi is történik. A természetrõl való gondolkodásnak van azonban egy másik módja is, ezt nevezi õ "felhõk" metaforának. Milyen is egy felhõ? Ha légballonnal, vagy ha repülõgéppel haladunk és belemegyünk egy felhõbe, az elsõ furcsa dolog amit látunk, hogy nincs éles határa. Nem olyan ez, mint mikor beugrunk a vízbe, s vagy kint vagyunk a szárazon, vagy bent vagyunk a vízben. A felhõ határai bizonytalanok. A felhõt mint egységet tulajdonképpen vízmolekulák állandó dinamikus kölcsönhatása tartja fenn. Egy felhõ mozgásának, eltûnésének, az esõ keletkezésének megértése nem ugyanazt a gondolkodásmódot igényli, mint ahogy egy fogaskerék elfordul és a másikat elfordítja. A természetrõl gondolkodva tehát, mondja Popper, világosan látnunk kell, hogy többnyire hajlunk arra, hogy mindent az órák analógiájára értelmezzünk. Pedig a valóságos viszonyok többnyire inkább a felhõre emlékeztetnek.

Amikor a 20. század ötvenes éveinek közepén élesen és határozottan felmerül az a kérdés, hogy gondolkodnak-e a gépek, az erre adott pozitív válaszok óráknak és topografikus szervezõdésû telefonközpontoknak értelmezik a gondolkodást, amikor gépekkel próbálják utánozni. Világosan éreznünk kell, hogy itt tulajdonképpen a kartéziánus hagyomány kiterjesztésérõl van szó, és a dilemma ugyanaz, mint Descartes-tól kezdve: ha az emberben minden egyéb, ami nem a gondolkodás, gép, akkor mi akadályozza meg, hogy ne csináljunk jobb gépeket, melyek a gondolkodást is gépként fogják kezelni? De vajon helyes-e egyáltalán ilyen óramûszerû gépként hozzáállni a dolgokhoz? A sokat emlegetett szimbólumkezelõ felfogás és az egész kognitivista fordulat csak annyiban tesznek meg egy kritikus új lépést, hogy az embert virtuális gépként kezelik. Nem az érdekli õket, hogy az ideghálózatok ténylegesen hogyan gépek, hogy az agyban folyó mûködések milyen értelemben mechanikai rendszerek, hanem azt hirdetik, hogy a gondolkodással lehet úgy foglalkozni, hogy eltekintünk annak szubsztrátumától.

A 7.2 táblázat azt mutatja, hogyan is jelenik meg a számítógépek értelmezésében a fentebb bemutatott hármas viszony gépek és az emberrõl gondolkodás között.

Az információkezelõ gépek újdonsága

Miután ezt a lépést megtettük, utána fogjuk definiálni, hogy minden gondolkodás tulajdonképpen szimbólumkezelõ folyamat. Ha ezt megtettük, akkor felvethetjük a kérdést: de hát akkor az ember tulajdonképpen milyen értelemben is lehet virtuális vagy szimbolikus gépezet vagy gép maga az ember is?

Az elsõ radikális felfogást, illetve az ahhoz vezetõ eljárást ezen a téren a modern matematika és komputációelméleti számítás teória nagyja, Allen Turing (1937) fogalmazta meg. Turingnak több szempontból van jelentõsége a minket érdeklõ problémákban. Természetes nyelvre, a mi "fogyasztásunkra" átfogalmazva egyik alapvetõ matematikai tételét, Turing tézise körülbelül az, hogy minden olyan probléma eldönthetõ, amelyre létrehozható egy mûködõ véges algoritmus. Ez a Church-Turing tézis lesz az általános motiválója annak a törekvésnek, amit Hofstadter nyomán úgy jellemeztem, mint Boole álma. Vagyis annak a hitnek, hogy a fizikailag ténylegesen létrejövõ számítógépek megjelenésével Boole álma átfordítható arra a tézisre, hogy minden olyan emberi teljesítmény, amely algoritmikusan leírható, az azután gépekkel szimulálható lesz. Ezt a naiv, használó, praktikus emberek fordítják így át, már nem Turing maga. Az algoritmus fogalmán informálisan valami olyasmit értünk, hogy véges elemi lépésekre lefordítható minden nagyon komplex folyamat, ahol a végsõ lépések tulajdonképpen elemi, aritmetikai és logikai mûveletek lesznek.

Érdekes tudománytörténeti folyamatról van itt szó. Ezek a tézisek azelõtt fogalmazódnak meg, mielõtt létrejöttek volna azok a számítógépek, amelyek valójában mindent elemi aritmetikai és logikai mûveletekként próbálnak megoldani. Turing elsõ dolgozata errõl a témáról 1937-ben jelent meg. Akkor még sehol nincsenek számítógépek. Ha hegeliánusok lennénk azt mondanánk, hogy ez mutatja a "gondolat erejét", a szellem erejét az anyag felett, vagyis azt, hogy szellemi, intellektuális értelemben mindannak, amirõl itt a számítástechnika és a megismeréskutatás kapcsolatában beszélünk, a szellemi alapjai hamarabb jöttek létre, mint azok a fizikai gépek, melyek megvalósítják ezeket a számításokat. Vagyis a 7.2 táblázatra gondolva, itt legalábbis kérdéses a "gép meghatározza a tudatot" elv érvényessége. Azokat a fizikai gépeket, például a Neumann János elindította tényleges számítógépek létrehozását ezek az elméleti tézisek irányították.

Turingnak tehát három adaléka van a minket érintõ dolgokban. Az egyik egy általános tétel, amely majd programatikusan úgy hangzik, hogy legyen a feladatunk, hogy minden dologról mutassuk ki, hogy algoritmizálható. Ha algoritmizálható, akkor már jól állunk vele. Azokat a dolgokat, amelyek nem algoritmizálhatóak, a sugallat az, hogy igazából tudományosan vizsgálni nem lehet. Ha szabad profánnak lennem, ez a tézis azt is implikálja, hogy minden, ami nem tartozik az algoritmizálhatóság hatálya alá, arról nincs is mit beszélni. Kicsit olyan sugallatú ez, mint az ifjú Wittgenstein utolsó megjegyzése: Amirõl nem lehet beszélni, arról hallgatni kell. (Wittgenstein: Logikai-filozófiai értekezés. 6.54.7, 1989, 90. oldal)

Turing másik adaléka az elméleti Turing-gép és az absztrakt algebrai automataelmélet kidolgozása. A Turing-gép tulajdonképpen egy olyan gép osztály, amely az algoritmizálható mûveleteket véges lépésszámmal ténylegesen meg tudja oldani. A Turing- gép mint matematikai fogalom nem azonos egy valódi fizikailag létezõ géppel. A benne található objektumok, az, hogy van egy leolvasó s van egy szalag, még annak elõtte fogalmazódnak meg, hogy valóságos mágnesszalagok meg lyukszalagok és egyebek lettek volna. Megint csak: a szellemi progresszió jóval megelõzi a tényleges gépeket. Szóval nem kell igazán elkeserednünk azt illetõen, mennyire meghatározza gondolkodásunkat a gépek világa. A Turing-gépekre számos tézis vonatkozik. Tulajdonképpen egy általános elméleti számítógép-osztály ez, amely képes arra, hogy bármilyen algoritmizálható feladatnál ténylegesen eredményeket produkáljon. Õsképe vagy archetípusa lesz a ténylegesen megvalósuló számítógépeknek. Fontos megértenünk, hogy az általánosított Turing-gép gondolatmenetének kiinduló mozzanata az, hogy létre lehet hozni egy ilyen gépet. A szimbólumfeldolgozó gondolkodásmód majd ezt konkretizálja, amikor mindent ugyanúgy próbál kezelni, függetlenül attól, hogy a feladat a látásból, az algebrából, a sakkozásból, a zenébõl vagy honnan is származik. Végül is ugyanazokra az elemi, végsõ mûveletekre lehet lefordítani a feladatot. Mindenki, aki valóságos házi használatú számítógépekkel találkozik, jól azonosítani tudja, hogy ezeknek a végsõ mûveleteknek, mint Newell (1980) leírja õket, hogyan feleltethetõ meg az, amit mi összevissza csinálunk a gépekkel, hogy törlünk, elmentünk stb.

Turing próbája és az ellenpróbák

A harmadik gondolat, amelyet Turingtól örököltünk a Turing próba fogalma. Különbözõképpen lehet megfogalmazni, de a legegyszerûbb dialógikus formában megtenni ezt, hiszen õ maga is így állítja be. Képzeljük el, hogy egy személynek azt kell eldöntenie, hogy írott formában két társalgó partnere közül melyik a férfi s melyik a nõ. Képzeljük el továbbá, hogy az egyik gép, a másik ember, s azt kell eldönteni, melyik a gép. A szigorú Turing próba következõ lenne. Ha egy emberi döntnök nem tudja megkülönböztetni, hogy melyik párbeszéd származik a géptõl, és melyik származik az embertõl, akkor joggal mondhatjuk, hogy "a gép gondolkodik". Turing optimista volt e kérdésben: "Véleményem szerint mintegy 50 éven belül körülbelül 109 tárolási kapacitású számológépeket lehet úgy programozni, hogy az imitációs játékot olyan jól játsszák, hogy az átlagos kérdezõnek nem lesz 70 százaléknál több esélye ahhoz, hogy úgy perces kérdezés után a helyes azonosításhoz jusson." (Turing, 1964, 134. lap)

Az egész mesterséges intelligencia koncepciót bíráló Searle-i érvelés ugyanezt használja, mikor a kínai szoba gondolatkísérletben szintén társalgási helyzetet teremt. (Searle,1996) Természetesen Turing próbájának a megfordítása a kínai szoba probléma. El tudom képzelni azt, hogy évtizedeken keresztül levelezek egy kínai barátommal kínai nyelven, és csak harminc év múlva tudom meg, hogy az valójában egy gép volt, aki mindig tökéletesen pontosan válaszolt a leveleimre. Searle szerint abból, hogy adekvátan reagál, még semmit nem tudok arra nézve, hogy gondolkodik-e egyáltalán, ha szabad mindezt ilyen kartéziánus dolgokra visszafordítani.

Turing maga is elõre látta az ellenvetéseket. Hosszú listát ad meg, hogy mi minden ellenvetést lehet arra mondani, hogy gondolkodást tulajdonítsunk egy olyan rendszernek, amely történetesen az embernek megfelelõen viselkedik, mégpedig nem akármilyen feladatokban, hanem olyan feladatokban, melyeket szokásosan gondolkodási feladatnak tartunk. Van köztük számos morális ellenvetés is. Ha egy gépet felemelünk az ember rangjára azon az alapon, hogy ugyanúgy viselkedik, akkor hol van az ember Isten teremtette különlegessége? Turing persze ironikus is itt: ha félünk a gépek gondolkodásától, vajon "Hogyan vélekednek a keresztények arról a muzulmán nézetrõl, hogy az asszonyoknak nincs lelkük?" (uott., 135. lap).

Nézzük inkább a technikai ellenvetéseket. Az elsõ: el tudunk képzelni olyan gépeket, amelyek bizonyos esetekben az emberrel adekvát módon viselkednek, más esetekben nem. Képzeljünk el mondjuk egy olyan gépet, mely bizonyos példákra jól válaszol, jól ki tudja számítani a szorzást, más példákra nem válaszol jól. Turing viszont- ellenvetése erre az, hogy az ember is ilyen. Attól, hogy tudok szorozni, lehet, hogy a 12×30-at most egyszer rosszul számolom ki. Ezzel nem vonjuk kétségbe, hogy tudok szorozni. Tehát az, hogy a gép néha elakad, néha jól csinálja, néha rosszul, nem igazi érv. Ennél sokkal súlyosabb érv a második, az érzésekre való támaszkodás, mely a késõbbi filozófiai terminológiában a már többször emlegetett qualia kérdésben is visszatér. Lehet, hogy a gép megtanul szonettet írni, és ír egész jó kis szonetteket. Felmerül a kérdés, hogy amikor írta a szonettet, nem voltak meg azok az érzései, nem élte át azokat az érzéseket, amelyek a mûvészetet létrehozzák. Ismét ironikus Turing, azt mondja, hogy de hát mivel ha egy emberi költõ olyan dolgokat ír egy szonettban, hogy valójában az egész világ egy nagy sáros gömb, honnan tudjuk, hogy az ember tényleg átélte ezt? Kicsit piszkálgatja azt, hogy a mûvésznél sem olyan biztos az, hogy mi is annak az értelme, hogy "átéli", amit ír. Évtizedek múlva Dennett (1996a) gondolatmenete is hasonló: a mûvész szándékának ismerete legalábbis nem segít. Ezt most nem fogjuk eldönteni.

Logikailag kicsit eltérõbb érv, egy olyan érv, amely a késõbbi valódi szimbólumkezelõ rendszerekkel kapcsolatban nagyon sokszor felmerül, hogy nem igaz az, hogy minden emberi viselkedés szabálykövetõ. Márpedig gondoljunk erre az egész Turing tézisre. A gépek olyan dolgokkal tudnak foglalkozni, amelyek algoritmizálhatók, s az algoritmizálható, aminek magasabb szinten valami szabály feleltethetõ meg. Az emberi viselkedést azonban nem lehet szabályok segítségével kimeríteni. Nos, a kognitív tudósok következõ nemzedéke, a konnekcionisták majd boldogan állítják ezt saját érvelésük középpontjába: valójában semmirõl sem biztos, hogy szabálykövetõ lenne.

A kezdeményezéssel kapcsolatos ellenérv a következõ. Ezek a gépek, amelyeket gondolkodónak neveznénk, nem kezdeményezõek. Nincs bennük váratlanság, újdonság. "Automaták" a szó hagyományos, nem matematikai értelmében. Váratlanságokat nem tud létrehozni, sosem kezdeményez, míg az ember kezdeményezõ lény lenne, és viselkedésének váratlan mozzanatai is vannak. Ezzel szemben Turing viszont ellenérvként csak olyasmikkel küszködik, hogy tényleg olyan kezdeményezõ-e az ember. Az 1950-ben írt dolgozat idején a pszichológiában egy egyértelmûen determinisztikus behaviorista viselkedéselvû felfogás uralkodik. Turing nem pszichológus, de ahogy elemzi a gondolkodást, hogy a majdani gépek mikor gondolkodnának, vagy hogyan gondolkodnának, az tulajdonképpen ezt a viselkedéselvû emberképet tükrözi. Ha viselkedéselvû determinált lény az ember, akkor bizony ezen a szinten tudnának gondolkozni a gépek.

Végül az utolsó probléma a tanulás. Itt nagyon profetikus volt Turing. Azt mondta, hogy ezek a gépek csak azt csinálják, amit megmondtak nekik. Ez azóta is így van. Ha mi megmondtuk nekik deklaratívan, hogy ha baloldalt 12, a plussz és a 7 jeleket látod, akkor jobb oldalra 19-et kell írni, akkor ezt meg fogja tudni csinálni. Vagy ha megmondtuk nekik, hogy ha a piros gomb zöldre vált a lift ajtajánál, akkor ki kell nyitni az ajtót, akkor ezt is tudni fogja. De késõbb a valóságos mesterséges intelligencia probléma majd úgy fog felmerülni, hogy a tudás nem a gépben van, hanem a programozó fejében. A gép valójában csak azt hajtja végre, amit a programozó beletett. Azért mondom, hogy profetikus itt Turing, mert ez az ellenvetés majd három évtized múlva kardinális jelentõségûvé válik. A hagyományos mesterséges intelligenciakutatás, a szimbólumkezelõ felfogás gondjaiból az egyik kiút éppen a tanuló programok megjelenése lesz. Turing azt mondja, hogy elvileg az intelligencia mércéje, hogy a gép maga tanulja-e a dolgokat. A mai rendszerek egy jó része ezt szeretné magáról hirdetni. Nem instruált rendszerek, melyeket nem utasítottunk közvetlenül valamire, azt fogják csinálni, amit kiemeltek (kitanultak) a környezetbõl. Ilyenek például a különbözõ konnekcionista rendszerek. Azzal a képességgel már kiindulásként felruházzuk a rendszert, hogy bizonyos fizikai tulajdonságokat felismer, de nem mondjuk meg neki, hogy mi tartozik a tárgyosztályokhoz. Elkezdi a tulajdonságok alapján szortírozni a dolgokat, s egy kicsit felhõszerûen, nem óramûszerûen osztályba sorolja. Nem fogja megcímkézni, de szét fogja õket választani egyszerûen a valóságbeli együttjárások alapján. Ez pedig egy nagy különbség, vagyis: itt mi nem mondtunk semmit a rendszernek, az mégis osztályokat alakít ki. Persze mindig lehet vitatkozni, hogy mondtunk-e elõre valamit többet is. Hisz egy tanulógépnek, amely a tudást anélkül sajátítja el, hogy mi megmondanánk neki a tartalmakat, meg kell adnunk azért, hogy mik a tanulás szabályai. Ez az a paradoxon amelyet a klasszikus újkori filozófia már úgy fogalmazott meg, hogy semmi sincsen az értelemben, ami nem lett volna az értelemben, kivéve magát az értelmet.

Turing tulajdonképpen még a valóságos gépek létezése elõtt megadja az alaphangot arra nézve, hogy mit kell, mit lehet érteni azon, hogy gondolkodik-e egy gép. Az ellenvetéseket is elõre látja. S végül is a kínai szobával, a minõséggel vagy intencionalitással való érvelések mind elõvételezõdnek már Turingnál. Tudja, hogy ezeket lehet majd ellenne vetni.

Neumann János a gépek gondolkodásáról

Hogyan látta szintén a kezdetekor, az elsõ gépi rendszerek megjelenésével párhuzamosan - amiben neki nagy szerepe volt - Neumann János azt a problémát, hogy milyen értelemben lehet gondolkodás és gépek kapcsolatáról beszélni. Neumann - s ezt nagyon fontos látnunk -Turingtól eltérõen egy másik kérdésre helyezi a hangsúlyt. Ha szabad mai zsargonnal élnem, olyan, mintha Turing azzal foglalkozna, hogy milyen szoftverekre, milyen programrendszerekre lehet azt mondani majd, hogy gondolkoznak. Neumann viszont azzal foglalkozik, hogy milyen eltérés van az emberi idegrendszer mint hardver, mint nyersanyag és az elképzelhetõ fizikai gondolkodó gépek nyersanyaga között. Neumann számára nem a "milyen jogon nevezhetjük a gépet gondolkodónak" az alapkérdés, hanem a "hogyan lehetséges az, hogy eltérõ hordozók ugyanazt a terméket állítják elõ". Vagyis az, hogy nagyon eltérõ technikai elveken mûködõ eszközök egyaránt képesek lesznek számolni, sakkozni - ha akarjuk gondolkozni. Öt elvet sorol fel, amelyekben szembeállítja egymással az akkor elsõként megjelent számítógépek és az emberi idegrendszer mûködésének különbségét. Ma is fontos ezt hangsúlyozni, mert a "gondolkodnak-e a gépek" probléma új generációs megközelítései, a nyolcvanas-kilencvenes évek megközelítései ebben az értelemben ismét Neumannhoz térnek vissza. Észreveszik, hogy a kérdés kulcsa talán az, hogy magát az embert mint szervezetet rossz gépnek képzeltük el. Nem olyan gép ez ugyanis, mint ahogy feltételezések alapján sugalltuk. A filozofikus érvelésekben is megjelenik ez, mindazokban az érvelésekben, amelyek azt mondják, hogy a hagyományos Turing, Simon és egyéb típusú megközelítéssel az a baj, hogy eltekint az információhordozó közegtõl.

Mi a különbség Neumann (1964) szerint a számítógépek és az ember között?

(1) Az elsõ különbség az elemek nagyságára vonatkozik. Az emberi idegrendszer végsõ egységei jóval kisebbek, mint a számítógépek végsõ egységei. Igaz ez vajon ma is? Nem feltétlenül. Akkor igaz volt. A természettudomány nagyon fixnek és biztosnak tûnõ összehasonlító téziseit a technika fejlõdése megkérdõjelezheti. Abban az idõben arról volt szó, hogy egy-egy egység a számítógépben egy néhány centis elektroncsõ volt, míg a neuron igen kicsiny. A csipek persze megkérdõjelezik ezt, de mindenesetre Neumann még azt hitte, hogy az idegrendszer fölényének vagy különlegességének az az oka, hogy ennek kicsik az elemei, szemben a gépéivel.

(2) Ez az elv máig igaz. Az idegrendszer elemeinek a neuronok mûködése bonyolultabb, mint a fizikai gondolkodó rendszerek végsõ elemeinek. Az elektroncsõnek, de bármilyen késõbbi egységnek a digitális gépekben, két állapota lehet, egy plusz és egy mínusz állapota, éppen ezért nevezzük õket digitális felépítésû számítógépeknek. A neuronok nem ennyire egyszerûek, bár kétségtelenül van analógia. Éppen az volt Neumann János óriási szerepe, hogy ezt az analógiát újra hangsúlyozta, McCulloch és Pitts (1943) nyomán, vagyis hogy a neuronok szintén a minden vagy semmi törvényének engedelmeskednek. (Errõl a felfedezésrõl lásd Érdi, 1985.) Elvont értelemben a digitális számítógép és az idegrendszer közti analógia feltételezése helytálló. Persze a részletek bonyolultak. Az, hogy egy sejt ki fog-e sülni, maga is komplex számítások eredménye. Ezt már Neumann nagyon jól látja. Õ úgy fogalmazza meg, hogy a neuron mûködése kontextus függõ, és a neuronnak valamiféle összegzést kell végeznie. Ez nagyon sok munka, de az evolúció erre alakította ki.

(3) A Neumann hangsúlyozta harmadik eltérés, hogy az idegrendszer igen gyakran követ párhuzamos feldolgozási elveket. Ez majd a konnekcionizmusnál nagyon fontos lesz, s jó emlékezni rá, hogy ezt az eltérést már Neumann is látta. (Nekem Geier János hívta fel erre a figyelmemet.)

(4) Továbbá, míg a gépek determinisztikusak, az idegrendszer statisztikus. Többé kevésbé saccokkal mûködik. Persze tudunk olyan gépeket csinálni, amelyek statisztikusak lesznek a szoftver szintjén. De ez nem így van a hardver szintjén. Azt akarjuk, hogy a hardver, a gép "vasanyaga" determinisztikus legyen, és ne statisztikus.

(5) Végül az utolsó eltérés: a gépekben többnyire digitális szervezõ elvek mûködnek. Ez a "digitális" megfelel ennek a determinisztikus gondolatmenetnek, számok, ideális esetben bináris számok sorozatával jellemezhetõ minden mûködés. Az idegrendszerben feltehetõen vannak analóg folyamatok is. Neumann egész gondolatmenetének és elemzéseinek állandó problémája, hogy vajon az emberi idegrendszerben hol vannak analóg folyamatok. Az egyik érdekes megoldás, amit õ erre használt, az "analógan kódolt digitális elv". Ez tudjuk, hogy tényleg mûködik sok helyen az idegrendszerben. Mit is jelent ez? Képzeljük el - és ez a hallásnál tényleg így van -, tudjuk, hogy a hangmagasság élménye a frekvencia függvénye. De hát az idegrendszerben a rostoknak minden vagy semmi kisülése van. Hogyan lehet ez? Nos, a kisülések frekvenciája le tudja képezni bizonyos határok között, az alsó sávokban a hangfrekvenciát. Ez tulajdonképpen a digitálisan kódolt analóg elv egyik megjelenése.

Erõs és gyenge MI

A Neumann elindította gondolatrendszer valóságos érvényesítésénél két sokat emlegetett felfogás alakult ki a gépek és az emberi gondolkodás viszonyának elemzésére. Az egyiket szoktuk erõs, a másikat gyenge mesterséges intelligencia hipotézisnek nevezni. Az erõs mesterséges intelligencia hipotézis szerint a szimbólumkezelés kimeríti az emberi gondolkozást. Feladatunk az, hogy hozzunk létre olyan gépezeteket, amelyek az emberhez mérhetõ teljesítményekre képesek, és utána az erre felállított program elvei valójában magyarázzák és kimerítik az emberi gondolkodást. Természetesen egy kitérõt kellene arra tenni, hogy maga egyáltalán a mesterséges ingelligenciakutatás hogyan is alakult vagy bontakozott ki ebben az idõben, a hatvanas évektõl kezdve. A mesterséges intelligenciakutatásnak, mely természetesen a magasszintû logikai és listakezelõ programnyelvek révén vált lehetõvé, önmagán belül is van két fõ világa (Dehn és Schank, 1982). Létezik egy technikai, és egy elméleti mesterséges intelligenciakutatás. A technikai mesterséges intelligenciakutatás kimenete a robotika, a gyártó automaták és így tovább. Ezek a technikai rendszerek nem feltétlenül azzal törõdnek, hogy "utánozzák" az embert. Az emberi végteljesítményt akarják helyettesíteni. A hegesztõgép nem azt szeretné, hogy ugyanúgy gondolkozzon a gép, mint a japán hegesztõ, hanem hogy az ajtó rendesen illeszkedjen az autóba. Tehát sokkal praktikusabb megoldásai vannak. Mûszakilag elemzi a feladatokat és nem emberileg. Mindaz, amirõl most beszélek, tehát az erõs és gyenge mesterséges intelligencia hipotézis, az elméleti mesterséges intelligenciakutatásra, a másodikra vonatkozik. Az erõst már valahogy jellemeztük. Mit gondol a gyenge mesterséges intelligenciakutatás hipotézise? Úgy véli, hogy modellálnunk kell az embert, ezzel segítjük az emberi teljesítmény megértését, de nem feltétlenül ugyanúgy végzi majd a gép a feladatmegoldást, mint az ember.

Az erõs mesterséges intelligencia érveléssel szemben számos erõteljes kritika fogalmazódott meg. Öt különbözõ ellenérvet lehet elõhozni a mai irodalomból az eredeti Turing-féle felvetés kritikájára, tehát arra, hogy a gépek egyáltalában gondolkodhatnak-e. A kínai szoba példa alapja tulajdonképpen a szemantikai probléma. Ez az elsõ számú ellenvetés. Searle (1996) részletesen elemzi azt, hogy minden hagyományos mesterséges intelligencia felfogás szigorúan szintaktikai abban az értelemben, hogy jelek átalakítását végzi úgy, hogy abban a jelek jelentését nem veszi tekintetbe. És egyáltalán, a jelentés problémája ebbõl a gondolkodásmódból véglegesen kimaradt. Egy védelmet azért hadd mondjak el. Miközben kétségtelenül jogos a szemantikai hiány emlegetése, célkitûzéseikben az erõs mesterséges intelligencia hipotézis képviselõi, különösen a szimbólum manipuláló rendszerekkel operáló felfogás úgy gondolta, hogy õk egy szemantikailag telített rendszerrel foglalkoznak, csak nem használják fel a jelentést. Maga a fizikai szimbólumrendszer koncepció, ahogy azt Newell (1980) kifejti, mindig azt mondja, hogy a szimbólumok valami helyett állnak. Csak láttuk már, hogy nem tudja betölteni, hogy mi helyett. Talán nem érdektelen megemlíteni, hogy Nyíri Kristóf (1968) már jóval a mesterséges intelligencia kritikák elõtt, a korai generatív nyelvtan "szemantikájára" megfogalmazta ezt az ellenvetést. Kiemelte, hogy Katz és Fodor (1970) ismertetõjegyes szemantikája valójában csak a szintaktikai elemzés finomítása, ebben az értelemben tehát szintaxis.

A következõ alapvetõ filozofikus ellenvetés az intencionalitással kapcsolatos, ami részben átfedi, vagy valahogyan kapcsolatba is hozható a szemantikai ellenérvvel. Ha egy program tényleg képes válaszolni arra a kérdésre, hogy ki Magyarország jelenlegi királya, akkor valóban arról van-e szó, hogy õ ezt gondolja is, hogy intenciói vannak, mind a szó szándék, mind a valamire vonatkozás értelmében? Nem, mondja ez az ellenérv. Az intenciók és a vonatkozások világa csak az én fejemben, a felhasználó fejében létezik. Valójában tengernyi dolgot tulajdonítunk a gépnek, de a gép csak számításokat végez. A számításokban semmiféle intencionalitás nincs. Emlékeztek rá, ezt a bárgyú és egyszerû kis programocskával, az Elissa programmal kapcsolatban már emlegettem. Egy párbeszédet látunk a gép és a beteg között arról, hogy mióta szeretné a világ másik felén látni a rokonait? - és így tovább. Mire a páciens azt mondja, hogy már két hete. Úgy tûnik, hogy értelmes a társalgás, pedig valójában az értelem, a koherencia és az intencionalitás csak a mi fejünkben van, egy valódi nyelvi értelemben, tehát egy humán értelemben. Azt mondaná ez az ellenvetés (pl. Dreyfus. 1972), hogy minden mesterséges intelligenciarendszer csak az emberi gondolkodás automatizált aspektusait képes tükrözni, az összes többi az csak illúzió, beleolvasás vagy belelátás.

Elválaszt tehát az intencionalitás e felfogás szerint, ugyanúgy, ahogyan Brentano gondolta volt, csak most nem a természettõl, hanem a magunk teremtette gépezetektõl. Ez az elválasztási igény egy redukálhatatlan mentalizmust takar. Gépeknek márpedig nincsen eredeti intencionalitásuk, csak származtatott, ezért azután gondolkodni sem tudnak. Jellegzetes és tanulságos, hogy azok, akik az intencionalitás természeti gyökereit keresik, elsõsorban Daniel Dennett (1987/1998) e kérdésben is nagyvonalúak: megengedik, hogy intencionalitást rendeljünk a gépekhez.

Dennett azt is megfogalmazza, mi is e tekintetben vitája Searle-lel:

A harmadik és a negyedik ellenérv is tulajdonképpen Dreyfustól (1972) származik. Turing már kimondta, mint egy lehetséges ellenvetést, hogy nem minden fogalmazható át szabályokba amit az ember csinál, vagy a szabályok számát nagyon meg kell növelnünk. Dreyfus számos vicces példát sorol fel a mellett, hogy mi minden kell ahhoz, ha egy mesterséges intelligenciarendszer szeretné megérteni azt, hogy miért úgy viselkedünk egy étteremben, ahogy viselkedünk. Konkrét mesterséges intelligencia példákból indul ki, Schank már említett munkáiból. A rendszert például az étterem fajták révén állandóan újra bõvítenünk kell. Úgy lehetne megfogalmazni, hogy a mesterséges intelligencia rendszerek nem tudnak mit kezdeni a világ nyitottságával, a világ nyitottsága révén állandóan foltozgatnunk kell õket. Olyan ez, mint hogyha egy olyan tudományelméletünk lenne, ami állandóan újabb és újabb kiegészítõ elvek felvételét lehetõvé teszi.

Nem érdektelen, hogy hasonló ellenérvek nemcsak a MI rendszerekkel, hanem humán kutatásokkal kapcsolatban is felhozhatók. A modern társalgás kutatás egyik vezetõ iránya, az etnometodológusok például (Sacks, Schegloff s mások) számos szabállyal jellemzik a kérdés-válasz szekvenciákat. Olyan szabályokkal, mint viszontkérdés csak akkor megengedett, ha a válasz releváns az eredeti kérdés megválaszolására (pl. Jössz a buliba? Hánykor lesz? de: Jössz a buliba? Mikor volt a mohácsi vész?). Goffman (1981) híres kritikája Dreyfusék elemzéséhez hasonlóan rámutat arra, hogy itt az ember fejét tömjük egyre burjánzó szabályokkal tele (vö. elõbb a gépet) ahelyett, hogy a társas viselkedés konstruktív-konstruált jellegét vennénk észre. Ez azért tanulságos, mert rámutat: a Dreyfus-féle kritika nemcsak a gépekrõl szól, hanem azt érinti, hogy mennyire lehet explicit maga az ember szociális viselkedésének leírása.

A negyedik érv, ami szintén elõtérbe kerül Dreyfuséknál is, hogy a mesterséges intelligencia rendszerek többnyire egy dologgal foglalkoznak. Például sakkoznak. Például megértenek tõzsdei híreket, például számolni tudnak. Míg az ember egyszerre több dolgot tud. Ezt én nem tartom igazán súlyos érvnek. Mégpedig azért nem, mert igazából tudjuk eközben, hogy a rendszer ugyanazokat az erõforrásokat és ugyanazokat az elveket használja fel. Az egységes megismerés koncepciójából indul ki, csak valamilyen gazdaságossági okból most mi ezt, vagy azt, vagy amazt dolgozzuk ki, vagy dolgozzuk fel.

Végül az ötödik ellenérv a hagyományos erõs mesterséges intelligenciafelfogással szemben a percepció világával kapcsolatos. Herbert Simon maga is (1982) hangsúlyozta már ezt. Ezek a rendszerek nem tudnak mit kezdeni a fénnyel, a hangokkal, egyáltalán azzal, hogy az ember a környezetnek kiszolgáltatott komputációs rendszer. A gépek kényelmes urak. Nekik elõkészített, feldolgozott, megemésztett input kell. Lehet, hogy az, ahogy mi felvesszük a fényt és csinálunk vele valamit az agyunkban, sokkal bonyolultabb dolog, mint a sakkozás.

A Turing próba szintjei

Az erõs és gyenge Mi vitáját, mivel itt igazából világnézeti hangsúlyok is szerepelnek, nemigen tudjuk feloldani. Közelíthetünk azonban úgy is a kérdéshez, hogy megnézzük, hogyan változik meg a Turing probléma a kognitív kutatás újabb, biológiailag és fiziológiailag interpretált korszakában. Tulajdonképpen Hernád Istvántól (1994) származik egy sajátos elméleti igényünk megfogalmazása annak, hogy a Turing próbát kicsit általánosítva milyen különbözõ Turing adekvátságokat lehet elképzelni információkezelõ rendszerek és emberek között.

(1) Viselkedéses adekvátság. A gép ugyanazt teszi meg, mint az ember. Ha az ember azt mondja, hogy 6×2=12, a gép is ugyanazt fogja mondani. Ez felel meg e gyenge MI álláspontjának.

(2) Ugyanolyan lépésekkel teszi, ugyanolyan algoritmussal. Ez már érdekesebb kérdés, hiszen ehhez tökéletesen meg kellene ismernünk az embert. Kérdés, hogy a számítástól eltérõ esetekben menni fog-e ez. Ez felelne meg az erõs MI programjának.

(3) Ugyanolyan fizikai rendszerben valósítja meg. Ez azt jelentené, hogy sikerült létrehoznunk nemcsak a mesterséges életet, hanem hogy az ugyanolyan elveken alapul, mint mi. Képzeljünk el tehát olyan számítógépet, amely szilikon chipek helyett ugyanazt csinálja mint az ember, és ráadásul mindent: beszél, megérti, és ráadásul agyból van. Hernád logikája szerint még e háromból se következne a negyedik.

(4) Ugyanúgy érez. Qualia tekintetében is egyenértékû.

Hernád szerint a tudomány célja legfeljebb az elsõ három lehet. A negyedik a nem megismerhetõ világába tartozik. Ha lenne olyan gépünk, ami ugyanúgy számol mint mi, ráadásul ugyanolyan agyból áll, akkor se tudnánk eldönteni, hogy ugyanúgy érez-e, mint mi. Sõt, azt sem, hogy valóban érez-e. Nem könnyû kérdés, mert én magam azt mondanám erre, hogyha hármas van, akkor abból következik a négyes, ha nem is logikailag vagy ismeretelméletileg, de a természettudós kissé laza szóhasználatában. Van aki azt mondaná, hogy a kettes is csak akkor lehet igaz, ha a négyes is igaz.

Van aki azt mondja, hogy "pontosan ugyanúgy csinálni a dolgokat" csak akkor képes egy gép, ha már érez. Hernád felfogása vagy rendszerezése szerint azonban ezek egymásra épülõ megfeleltetések. A kérdés az, hogy amikor gépekkel próbálunk embert modellálni, egyáltalán meddig tudunk eljutni. Nem biztos, hogy ezek nem korrelatívak.

Érdemes ezzel kapcsolatban a kínai szobára visszatérni, és ezzel zárnám az elõadást. Én a kínai szobát is azért érzem fiktív példának, mert úgy gondolom, hogy az emberi nyelv használatát nemcsak grammatikai szabályok határozzák meg, hanem számos pragmatikai szabály, számos közös ismeret is, amely a múlthoz, illetve bizonyos társas konvenciók követéséhez tartozik. A példa azért fiktív, mert nem hiszem, hogy valóban lehet órákon keresztül társalogni, vagy éveken keresztül levelezni, úgy, hogy nem gondoljuk, amit írunk. "Gondoljukon" most azt értem, hogy nem élünk ugyanabban a feltételezett emberi társas világban, mint a másik. Nem hiszem, hogy lehet csinálni olyan gépet, ami igazán be tudná csapni az embert, anélkül, hogy õ már ember lenne. Nehezen tudom elképzelni, hogy nem derülne ki, hogy a másik nem tudja mirõl beszélünk.

Irodalom

A MI kérdéskörérõl Lábos és Mérõ még mindig jó kiindulások. E mellett Nyíri, 1989, 1992 és a Pléh, 1996 szerkesztette szöveggyûjtemény használható.