Lesz-e a gépeknek lelke?

Ex Machina picture (c) New York Times (Alicia Vikander)
Ezt kérdeztem egy, a digitalizálódás iránt érdeklődő idegsebésztől. Mint később kiderült, magamtól is kérdeztem. Most pedig megpróbálok válaszolni. Magamnak. (Az idegsebész szerint nem lesz lelke a gépeknek, mert a lélek több, mint a periódusos rendszer, vagy az elektronok tánca.) Előre elmondok egy aforizmát: „Mivel minden embernek két lába van, tehát bárkinek lehet egy időben legalább két érvényes álláspontja.” – Vértessy Mária, 1983.


Nem megyek bele a „Mi a lélek?” kezdetű spirituális fejtegetésbe. (Nagyon gyakran kezdem a fejtegetéseimet a „nem” szóval…) Egyelőre maradjunk abban, hogy a lélek egy meglehetősen magas rendű szellemi működésmód. Továbbá meglehetősen nyomatékosan leszögezem, hogy a tudomány mai (2016 őszi) állása szerint biológiai úton létrejött értelmes, emberi lényeknek van lelke, a fogantatás, illetve létrejövés, esetleg gyártás technikai módjától függetlenül. A klónok emberek. A bármilyen módon „növesztett” emberek – emberek. Személyek, tehát megilleti őket (idézőjel nélkül!) a természetes személyek jogi védelme. Nem működnek, hanem élnek.

Egy
Amikor évtizedekkel ezelőtt a sakkozó számítógépek Élő-pontszámai a nagymesterekéihez felértek, akkor sakkozó barátom aggódó kérdésemre így kérdezett vissza: vajon kihalt-e az atlétika a bicikli miatt? Jó, lesznek gépek, amelyek jobban sakkoznak, mint az aktuális világbajnok. Jó, lesznek gépek, amelyek jobb döntéseket hoznak, mint a legjobb menedzser. Ez a fajta „jobb” legalább relatív, de talán nem is a minőség a fontos, hanem a sebesség: lesznek gépek, amelyek életszerű idő alatt hoznak olyan döntéseket, amelyek nagyságrenddel több és bonyolultabb tényezőt vesznek figyelembe, mint az ember. A hadviselés alapvetően változik meg éppen most (a 2010-es években) a drónok miatt, egyelőre a vezérlés és a végrehajtás szétválasztásával. Az önvezető autók is már a spájzban vannak.

Mégsem aggódik senki amiatt, hogy lelkük lesz, vagy már van. Ezek egy (több) adott rendeltetésű tárgyak, termékek, használjuk azokat, és kész. Amikor nem használjuk, akkor a fiókban vannak, mint a konyhakés. Raktárban. Garázsban. Hangárban.

Amikor meg használjuk, akkor okosabb, gyorsabb, körültekintőbb, mint mi, sőt, az adott szakmában legkiválóbb humán művelőnél is. Amitől persze az a humán szakma kihal, mint a lóápolóké, a nyomdászoké, a vadászpilótáké, a mikrosebészeké és így tovább, de hogy a kütyüknek lelke volna? Badarság.

De hiszen már a legelső, csöves számítógépet is arra találták ki, hogy gyorsabban számolja ki, hova fog becsapódni az ágyúgolyó, mint a tüzér (valójában a lőelemző). A számítógép meghatározása: „a szellemi rutinmunka eszköze”. Nos, a társadalmi érintkezés számos formája is szellemi rutinmunka. Lásd a portás- illetve ügyfélszolgálati robotokat. Ezek is meghatározott rendeltetésű gépek, véges tervek alapján legyártva, ha nem olyanok, amilyennek tervezték, akkor a minőségellenőrzés kiszűri, és eldobják, vagy újrahasznosítják. (Igen, vannak sci-fik, amelyekben a robotok a lomtárban társalognak. A Star Warsban visítanak is, mikor billogozzák őket, mint a lovakat. A legrosszabb geg…)

Kettő
Mindettől függetlenül (a Gólem óta legalább) ősi igény a gépember. Ennek megtestesülése a Kempelen-féle sakkozó török, és minden egyes, ember formájú robot. Hogy legyen olyan dolog, amely ember – hogy ha úgy hozza kedvünk, ne legyen muszáj emberként kezelni. De ha működik, akkor múlja felül az embert egy vagy sok valamiben – mégse legyen ember.

Vagyis a gépnek nem lesz lelke, vagy azért, mert nem akarjuk, hogy legyen (nem tervezzük bele, nem valósítjuk meg, meggátoljuk a keletkezését). Vagy pedig ha mégis lesz neki (lásd „Három”), akkor nem érdekel minket, nem vesszük figyelembe (tudatosan vagy ösztönösen, „zsigerből”).

Három
A lelket, mint magas rendű szellemi működést, kezelhetjük anélkül, hogy a legkevésbé is törődnénk a létezésének módjával. Egyszerűbben: annak van lelke, amiről (innentől: akiről) a legtöbb ember úgy gondolja, hogy van neki, és úgy is viselkedik vele. Ebben a viszonyrendszerben a „legtöbb” mennyiségjelző a kritikus. Mennyi a „legtöbb”? Tízből három már elég? Tízből nyolc már elég? Ha százból egy ember számára az a szerkezet nem értelmes lény, akkor az a valaki személy?

A jelenség hasonlít arra, ahogy három, megfelelő elhelyezkedésű foltba a legtöbbünk belelát egy arcot. Mint az közismert, a látóidegek csak kb. 15 százaléka megy a látókéregbe, a többin érkező ingerületek előfeldolgozáson esnek át – ez a fajta működés az alapja az agy különösen fejlett mintafelismerésének. Nemcsak a látásban, a többi érzékben is, sőt, a magasabb szintű kognitív tevékenységekben is van mintafelismerés – a saját akcióinkra kapott reakciók értékelésében is. Azért alakult ki az evolúcióban, mert erősen növelte a túlélés valószínűségét. (Egy régebbi szimuláció szerint, ha egy tulajdonság vagy viselkedésforma akár csak 5 százalékkal növeli a túlélés valószínűségét, akkor fönnmarad, mert elegen örökítik tovább. Ha valami – véletlen mutáció, egy korábbi evolúciós nyomás eredménye stb. – kicsit vagy egyáltalán nem zavarja a túlélést, az is fönnmarad. Lásd: csuklás.)

Hányan beszélnek az autójukhoz? A számítógépükhöz? Hányan tulajdonítanak személyiséget a használati tárgyaiknak? Tudják, hogy nincsen lelkük, de ha az a tárgy komplex funkciókat lát el és komplex reakciókra képes, akkor egy bizonyos mérték után egyre többen fognak személyiséget „látni” bele, és úgy is viselkednek vele kapcsolatban. Lásd a házi kedvencekkel kiépített viszonyokat: bár az állatok valóban, különböző mértékben intelligensek, mégis sokszor ítéljük meg tévesen a reakcióikat abból a szempontból, hogy a „lelkük”, vagy valamilyen egyszerűbb, ösztönös érdekük diktálta-e azokat. Ezt a tévedést az állatkísérletek során régen felismerték, antropomorfizálásnak hívják, és erősen törekednek az elkerülésére.

Ingoványos talajon járunk, mert bizony sok olyan állampolgár is van, akit a társadalom többsége nem fogad el. Például az értelmi fogyatékosokra gondolok. A nagyvárosok állatmenhelyein naponta több tíz (nagy testű, ezért nem szívesen befogadott, keverék, beoltott, egészséges) kutyát altatnak el, egy-egy súlyosan fogyatékos, önmaga ellátására képtelen, rendellenességei miatt rossz életkilátású, inkontinens (nem szobatiszta…), de valamennyire reagáló, tanítható gyermeket viszont évtizedekig ápolnak a családjaik – pedig erőforrásaikat egészséges utódok nevelésére is fordíthatnák.

De gondolhatok az autistákra is. A súlyos beilleszkedési zavaroktól szenvedő és-vagy azokra büszke zsenikre is.

Ingoványos talajon járunk, mert olyan szerkezetet, amelyet a „társadalom” „többsége” személynek fogad el, már ma sem nagyon nehéz készíteni – ha a közvetlen fizikai érintkezést nem követeljük meg. Erről a szerepjátékokat űzők tudnának mesélni: az NPC-k (non playing characterek, a nem játszó szereplők) az adott játék megvalósításának technikai igényességétől függően látszanak valódinak, mármint a szerepjáték virtuális valóságában. Már túl vagyunk azon, hogy számítógép játsszon egy MMORPG-ben (sokszereplős online szerepjátékban), eddig nem voltak túl sikeresek a próbálkozások, de éppen mostanában (2016 őszén) eresztenek rá egy olyan MI-projektet egy MMORPG-re (a Starcraft II-re), amely megverte a go-világbajnokot. (Keresőkifejezés: Google DeepMind.)

Van-e lelke egy olyan szerkezetnek, amely kiemelkedően sikeres egy MMORPG-ben?

Nem írtak olyan MMORPG-t, amely nagyon hűen utánozza a valóságot – mert éppen azért fizetnek ezekért a játékokért, hogy ne legyenek olyanok. Kevés kutatási projektre van annyi pénz, amennyiből olyan magas szintű valóságutánzó virtuális környezetet lehet létrehozni, amelyben már érdemes „éles” MI-t tesztelni a lélek létezése szempontjából. De ha már: mi lesz akkor, ha ez az MI „belefeledkezik” az őt tesztelő virtuális valóságba?

Nos, szerintem a kezelők lelkifurdalás nélkül leállítják majd ezt a – nagyon átvitt értelemben – végtelen ciklusba futott szimulációt. Hiszen se az MI-t, se a környezetet nem „értesítették” arról, hogy ez lehetséges. Vagyis nem programozták beléjük. Itt futunk bele az intelligencia és autonómia alapvető különbségébe. Ugyanis a virtuális világ egyetlen lényének sincs valódi keze, amellyel megakadályozhatná a valódi kezelőt a kikapcsoló gomb működtetésében. (Ennek a problémának a kiküszöbölésére a sci-fi írók azt találták ki, hogy a valódi kezelőt a virtuális lény úgy manipulálja, hogy képtelen legyen „őt” leállítani.)

Vagy legalábbis nem szabadna, hogy legyen. Bár a Neumann-elv előírja, hogy az adatok ugyanabban a memóriában legyenek, mint a program, azért az energiaellátást vezérlő egység memóriáját fizikailag el kell választani a „lény” memóriájától, nehogy felül tudja azt írni (mint Neo a Matrixban). Itt (egyelőre?) nem arra gondolok, hogy a programja módosítására szükségszerűen képes – mert tanuló – lény feltalálja a saját működésének módját, és ilyen módon tör a függetlenségére, csak arra, hogy programhiba miatt a szoftver tiltott memóriaterületeket is felülírhat.

 

Valójában nem tudom a választ
Nem az a kérdés, hogy lesz-e a gépeknek lelke, hanem az, hogy ha lesz, akkor értelmes lényként kell-e kezelni „őket”? Megilleti-e „őket” az a jogi védelem, amelyet a természetes személyek élveznek? Gyilkosság-e egy „lelkes” gép (különösebb ok nélküli) szétszerelése?

Ha igen, akkor képesek leszünk-e biztosítani ezt? Mert az biztos, hogy nem mindenkinek lesz ez a vélekedése.

Létre fognak jönni előbb a virtuális, majd talán a valódi mesterséges és értelmes lények anélkül, hogy pontosan tudnánk, hogyan éljünk velük együtt – ahogy a szerzői jogokkal történt. Lesznek, akik emberként bánnak velük – de kicsit furcsának találjuk majd őket. Lesznek, akik visszaélnek velük, de valahogy nem tartjuk illedelmesnek őket. Lesznek, akik nem vesznek tudomást a létezésükről, nem érintkeznek velük – akiket majd (kicsit) ódivatúnak, vaskalaposnak tartunk.

Tanácstalanságomat egyelőre egy poénnal ütöm el: egy lény lehet mesterséges, értelmes és emberi. Természeti törvény, hogy ebből csak kettőt választhatunk. Emberi és értelmes, de nem mesterséges. Mesterséges és emberi, de nem értelmes. Mesterséges és értelmes, de nem emberi.

Szóljon hozzá!

Hozzászólás beküldése vendégként

0
szabályok és használati feltételek.
  • Nincsenek hozzászólások