A gondolataimban

/Valóban szingularitás?

Valóban szingularitás?

Photo by Franck V. on Unsplash

Kedves István!

Zavarban vagyok, mert informatikai szakmai kérdésben vitába bocsátkozni a Neumann János Számítógéptudományi Társaság ügyvezető igazgatójával – ez az álmoskönyvek szerint nem biztos, hogy jót jelent.

Ennek ellenére nem hagy nyugodni az a lelkesedés, amellyel Ray Kurzweil: A szingularitás küszöbén című könyvét a figyelmembe ajánlottad.

A szerző azt állítja, hogy az emberiség közel van ahhoz a ponthoz (vagy már el jutott hozzá, csak még nem vettük észre), amikor a mesterséges intelligencia az ember számára követhetetlen szintet ér el, és ezzel (a könyv alcíme szerint) „az emberiség meghaladja a biológiát”: a biológiai evolúciót technológiai evolúció folytatja: mintha az ember és a mesterséges intelligencia együttműködéséből új, különleges képességű faj jönne létre.

„Tehát mi is a szingularitás? Egy jövőbeli korszak, melyben a technológiai változás üteme olyan gyors lesz, a hatása pedig olyan mély, hogy az emberi élet visszafordíthatatlanul átalakul.”

Az oda vezető út pedig abból adódik, hogy „Egyre gyorsabban nő azoknak a területeknek a listája, ahol a számítógépek képességei meghaladják az emberét. Emellett a számítógépes intelligencia egykor szűk alkalmazási területei is fokozatosan bővülnek, egyre több tevékenységet ölelve fel.”

Egy másik, levelemben, az „Attól tartok, hogy baj van” címűben (a megjelenés dátuma: 2019. február 27.) a gépi és emberi „mintaillesztés” hasonlóságáról írok. A különbség főképpen annyi, hogy a számítógép, az algoritmus mindegyik korábbi mintára „emlékszik”; az összehasonlítást mindegyikkel egyformán, „elfogulatlanul” végzi; miközben az „ingerületek” körülbelül hárommillószor nagyobb sebességgel közlekednek a kábelein, mint nekünk az idegeink segítségével, és a műveleti sebessége már most is több milliárdszorosa az idegsejt reakcióidejének. Az, hogy nekünk hány agysejtünk működik egyszerre, egymással párhuzamosan, nem is tudjuk igazán; és hogy a számítógépben mennyi az egyidőben működő processzorok száma, az pedig technikai kérdés, amely megváltozna, mire leírnám.

Ebben a számítógép, az algoritmus mindenképpen gyorsabb és pontosabb nálunk.

Ebből a szempontból valóban itt van tehát a szingularitás, amikor „a világegyetem öntudatra ébred”, ahogyan Ray Kurzweil jellemzi „az evolúció 6. korszakát”.1

Amire viszont nem válaszol: a gép, az algoritmus miért csinálja, amit csinál? Mivégre? Milyen céllal?

Nincs önálló célja, nincsenek önálló értékei.

Az algoritmus: a létrehozójának a konzervált feladatmegoldási folyamata. Ha az adott szakértő most itt lenne (és változatlanul ugyanazt a gondolati utat járná végig), akkor a jelenleg adott feladatot eszerint oldaná meg. Ez akkor is így van, ha több szakértő készítette az algoritmus egyes részeit. Amikor az algoritmus gépi végrehajtása során „megidézzük őket”, akkor már nem gondolkodnak, akkor már nem alkalmazkodnak az új helyzethez, hanem az egykori gondolkodásuk lépései ismétlődnek meg újra.

Az algoritmus gépi végrehajtása olyan, mintha minden egyes részfeladathoz hatalmas és villámgyors szakértői tanácsot hívhatnánk össze – akik azonban ezúttal a gondolkodási tudatosság legalacsonyabb szintjén, a mintakövetési szinten, a „szabálykönyv” minden apró lépését betartva, a beválást legfeljebb próba-szerencse alapon végezve „bedolgoznak” számunkra. Ez akkor is így van, ha annakidején eredetileg ők alkották meg az algoritmust: most már annak csak pontos és makacs végrehajtói.

Így is nagy dolog, így is nagy újdonság. A Prolog programnyelv (jellegzetes mesterséges intelligencia-nyelv, amelyben „világokat” definiálhatunk, majd rákérdezhetünk különféle állításokra, hogy azok az általunk definiált világban igazak-e) szintén – hát persze – gépiesen teszi egyik lépését a másik után és ha megakad, más utat választ, mint a labirintusban az egykori mű-katicabogár, aztán vagy kijut, vagy jelzi, hogy minden lehetséges utat végigjárt és nem talál kijáratot. Ennyit tud; de ezt olyan sebességgel és következetességgel, annyira hiba- és tévedés-mentesen, hogy mégiscsak megoldhatunk vele olyan feladatokat, amelyekre az ember élete és koncentrálóképessége kevés lenne.

Most majdnem elkövettem egy csúnya szóhasználati hibát – és pontosan itt a dolog lényege. Majdnem azt írtam az előbb, hogy „megoldhatunk vele olyan problémákat,…”, pedig erről szó sincs. Tudjuk: a feladat és a probléma között az a különbség, hogy a feladat esetében ismerjük a megoldás módját, csak végre kell hajtani; problémának pedig azt nevezzük, ahol ki vagy meg kell találni, hogy hogyan oldjuk meg. A feladat megoldása sem magától értetődően egyszerű: ha száz, egyenként tízjegyű számot papíron kellene összeszoroznom, aligha tudnám az egész művelet-sorozatot hibátlanul végigcsinálni, noha az írásban való szorzás műveletét ismerem. De ez mégsem több, mint ismert eljárás végrehajtása. Ez az, amit a számítógép, az algoritmus tud (akkor is, ha eredetileg problémamegoldás útján jött létre), és nem több ennél.

Hasonló példák alapján „önállóan” választ megoldási eljárást? Azt is úgy teszi, ahogyan azt a programozói előírták, hogy milyen feltételek teljesülése esetén tekintsen egy példát „hasonlónak”. Valószínűségi alapon választ? Azt is az előírt módon csinálja: még a „véletlenszám” előállításának is pontos algoritmusa van. Új megoldási módokat fejleszt ki? Igen, de úgy, ahogyan az új megoldási módok kifejlesztésére programozták. Megjósolni sem tudjuk, mit „talál ki”? Hát azt találja ki, amire az általunk megadott algoritmusok vezetik, még akkor is, ha ezek az algoritmusok önmagukat és egymást átalakítják, továbbfejlesztik, és mi már régen nem tudjuk, hogy milyenné alakultak – mert ez az átalakítás, továbbfejlesztés is kizárólag az előre programozott módon történik. Véletlenszerű? Azt is mi mondtuk meg „neki”, hogy mit tekintsen véletlenszerűnek és hol, hogyan alkalmazza a véletlenszerűséget. Teljesen új megoldásokat talál? De ezeket az általunk megadott műveletekből rakja össze, még akkor is, ha ezek közt művelet-létrehozó és művelet-átalakító műveletek is vannak. Olyan megoldásokat talál, amelyek akár szembe is mennek az eredeti szándékainkkal? Ha nem tudtuk előre, minden eshetőségre felkészülve megtervezni, hogy az algoritmus számára mi fejezi ki a szándékainkat (mert esetleg önmagunknak sem fogalmaztuk meg egyértelmű igen/nem formulákban), akkor bizony bekövetkezhet, hogy az eredmény nem felel meg az elgondolt akaratunknak – de az algoritmusnak akkor is megfelel.2 Követni sem tudjuk? Az autót se tudjuk követni, de azért nem mondjuk azt, hogy az olimpiai futóversenyre ezentúl autókat kell benevezni, mert a futás elérte a szingularitást, főképpen, amióta önvezető autó is van és arra és úgy megy, amerre és ahogyan „ő akar”…

Az önvezető autó hibái látványosak és egyértelműek, ráadásul emberéletekbe kerülhetnek, nem úgy, mint mondjuk egy hibásan programozott „városvezetési mű-agyvelő”; így aztán ezeket jobban kontroll alatt tartjuk. A kevésbé látványos területeken, és főképpen, ahol üzleti vagy hatalmi kérdés az algoritmus titokban tartása, ott ez nehezebben és sokkal kevésbé ellenőrizhető módon működik: ezt a szakmai és a jogi ellenőrizhetőségre egyaránt érthetjük. Valóban „elszaladhat a ló” olyan mértékben, amikor már késő beavatkozni, főleg, ha figyelembe vesszük, hogy a beavatkozás érdekekbe ütközhet és ezért torzulhat is, késhet is.

De ez nem szingularitás abban az értelemben, ahogyan Kruzweil mondja, hanem „csak” annyi, hogy egyre gyorsabb és egyre kevésbé áttekinthető „hatalmas és villámgyors szakértői tanács” készíti elő a döntéseket és egyre kisebb eséllyel tudjuk nyomonkövetni, hogy az előre programozott feltételek, szabályok, minták és eljárások melyike hogyan befolyásolta az eredményt. (Sőt azt se tudjuk, hogy az egykor rögzített feltételek, szabályok, minták és eljárások valóban kifogástalanul alkalmasak-e a jelenlegi helyzet kezelésére is; sőt, már azt is elfelejtettük, hogy hogyan is hangzottak pontosan azok a feltételek, szabályok, minták, és előfeltevések, amelyeket szándékosan vagy végiggondolás nélkül valakik beépítettek az algoritmusokba – akár például a követhetőség elősegítésére is; akár például a követhetőség akadályozására is.) Ez nagy veszély, de nem ugyanaz a helyzet, mint amelyről a szingularitás-könyv szól.

Nem bírom ki, hogy befejezésül ne idézzem önmagamtól, amit egy jellegzetes, a könyv által a nagy áttörések közt említett eset kapcsán egykor írtam. 3

Ennek a cikknek az alapötlete akkorról származik, amikor a sajtó a „Kaszparov kontra sakkozógép” játszma-sorozat híreivel volt tele. Remélem, az Olvasó nem tart cinikusnak, ha elmondom, hogy képtelen vagyok átérezni a helyzet izgalmát. Sajnálatos, de ilyen „szenzációkhoz” még csúcstechnika sem kell: a legegyszerűbb daru is bármikor legyőzi a súlyemelés világbajnokát, egy segédmotoros kerékpár is gyorsabb és kitartóbb a marathoni futóknál, és a régi, rozoga, rácsosajtajú liftek is felülmúlják a rúdugrás magassági rekordját. Mellesleg biztos vagyok abban, hogy egy jól programozott mikroprocesszor már ma is jobban vezetne egy Forma 1-es autót, mint a versenyzők legjobbika. Gondoljuk csak meg: ahol nem pontosan az a cél, hogy a „puszta embert” tegyük próbára, hanem ahol az eredmény és a biztonság a fontos, ott ma is darut használunk, motorral hajtott járművet, liftet, robotpilótát. Hadd kockáztassak meg egy pimasz jóslatot: évtizednyi időn belül nem lesz kártya- vagy táblajáték, amelyben ne volnának bajnokokat legyőző kütyük és ketyerék.4 Ami szabályokba foglalható, azt a gép jobban, megbízhatóbban, kitartóbban, gyorsabban, olcsóbban csinálja; mi, emberek, éppen ezért készítünk gépeket, nemde?

Őszintén szólva nincsenek kisebbségi érzéseim a sakkozó embert legyőző gép miatt, mint ahogy a többi felsorolt példa miatt sem, és amiatt sem, hogy nem tudok olyan szépen énekelni, mint amilyen szép ének a hanglemezen van – már tudniillik, ha előzőleg felvették rá valakinek a szép énekét! Ugye értjük egymást? Jobban sakkozik-e az ember a gépnél: ez a kérdés értelmetlen, mert a gép nem sakkozik! A gép algoritmusokat hajt végre, amelyeket mi a jelen esetben egy sakkjátszma lépéseiként „dekódokunk”, de a gép tevékenységének annyi köze van a sakkhoz, mint a videómagnetofonnak a filmművészethez. A sakkozó kütyü voltaképp egy Neumann-féle számítógép, amely ennek révén arra és csakis arra képes, hogy konzerválja és koncentrálja ki tudja, hány programozó kódolt gondolatait a sakkjáték tényeiről és szabályairól. Ha ezeket sikeresen kombinálja és illeszti az adott játszma adott „mintázataihoz”, ezt az „emberi elme” sikereként és nem kudarcaként élem meg.

Kaszparov most elveszített egy szuper-szimultánt, amikor a sakkozógépet konstruáló szakértők és programozók ezreivel mérkőzött meg egyszerre, úgy, hogy neki a sakkóra által kiszabott idő állt rendelkezésére, amazoknak pedig a fejlesztés évei. Ez semmiben nem csökkenti az én izgalmamat és örömömet, amikor nagyfiammal sakkozom és egyszer-egyszer a huszadik lépésig is eljutok, mielőtt tönkreverne. Ez a két dolog nem ugyanarról szól: az egyik a hegyet mászó ember örömteli erőfeszítéséről, a másik a hegyoldalba sífelvonót építő ember technikai diadaláról. Ha ezt a kettőt össze akarjuk hasonlítani, akkor az erre vonatkozó klasszikus példánál vagyunk: egy alma és egy körte közül melyik a jobb cseresznye?

Remélem, hogy (egészen más indíttatású) cikkem ebből a szempontból is olyan gondolatokat kelthetett az Olvasóban, amelyek érdemesek a továbbgondolásra. Egykori kedvenc geometria-tankönyvemből vettem azt az idézetet, amellyel ezt a gondolatmenetet zárom: „Mi csak megmagyarázzuk álláspontunkat, de nem állítjuk, hogy ez az egyetlen lehetséges álláspont.” Lectori salutem!

1 Ray Kurzweil: A szingularitás küszöbén, Ad Astra Kiadó, Budapest, 2013, 27. és 38-39. oldal

2 Állítólag Neumann Jánostól származik a mondás, hogy az a baj a számítógéppel, hogy azt csinálja, amire programozzuk, nem pedig azt, amire közben gondoltunk.

3 Eredeti címén: „Gépi gondolkodás” – emberi gondolkodás. Megjelent A mesterséges intelligencia alkalmazása (Számítástechnika-tanulás felnőtt korban) címmel az Iskolakultúra XVI. évf. 3. számában (2006. március): 24-33. oldal

4 Azóta ez a legnehezebbnek tartott táblajátékban, a go-ban is bekövetkezett a Google AlphaGo segítségével, amely Fan Hui európabajnokot, majd Lee Sedol világbajnokot győzte le 2016. januárjában illetve márciusában, azaz az Iskolakultúra-cikk 2006. márciusi megjelenéséhez képest valóban „évtizednyi időn belül”.

2019-02-11T14:43:24+00:00

Szóljon hozzá!

Ez a weboldal az Akismet szolgáltatását használja a spam kiszűrésére. Tudjunk meg többet arról, hogyan dolgozzák fel a hozzászólásunk adatait..