Európa legizgalmasabb, a jövő titkaira és folyamataira fókuszáló fesztiválján idén is meghívott előadóként szerepelt az EMIH vezető rabbija, Köves Slomó. A Brain Bar témája idén a mesterséges intelligencia, a robotizáció, a start-up mánia veszélyei és mindenféle, az innovációval kapcsolatos problematika volt. A rendezvény után arra kértük a rabbit, néhány izgalmas felvetést fejtsen ki részletesebben is. 

 

Saját teremtményeink tolják az arcunkba a korlátoltságunkat

– Mi az, ami elsőként eszébe jut a mesterséges intelligencia kapcsán?

– Elsősorban azt a fajta pánikot tartom érdekesnek, ami ezzel kapcsolatban a köztudatban elhatalmasodik. Azt sugallják a youtube-videókban és a hollywoodi filmekben felvázolt disztópikus képek, hogy a robotok átveszik a hatalmat, a robotok bolygója leszünk, és hogy ez milyen nagyon veszélyes. Ha nem lépünk időben, akkor megjósolhatatlan, hogy mi történhet stb.

Nyilván van alapja némi félelem­nek ezzel kapcsolatban, de meglátásom szerint ez inkább egy társadalompszichózis. Egészen pontosan az embereknek azt az igényét elégíti ki, hogy félhessen valamitől (olykor a környezetvédelem kapcsán is tapasztalhatunk ilyen „vadhajtásokat”). Az individualista gondolkodás manapság nagyon erős – ha kivesszük Istent a rendszerből, akkor ennek a gondolatnak az a lényege, hogy nekünk mint individuumoknak a célja a saját érvényesülésünk. Az egyén vagyonszerzése, saját ma­gunk bebiztosítása – az egyéni örö­mök. Ezek nagyon fontos dolgok természetesen, de ha öncélúvá vál­nak, akkor azt a téves üzenetet sugallják, hogy elérhetjük a korlátok nélküliséget. Minden elérhetővé válik, semmi sem kell és semmi sem szabad, hogy kielégülésünket, létünket gátolja. És amikor a korlátok mégiscsak felbukkannak (mint például a robotizáció által eredményezett önreflexió), akkor pánikba esünk. Rájövünk, hogy bármennyire is szeretnénk, nem tudunk is­tenekké válni. Éppen a korlátlan­sá­gunkat erősíteni hívatott saját te­remt­ményeink tolják az arcunkba mér­hetetlen korlátoltságunkat.

Létezésünk célját nem szabad elfelejtenünk és azt sem, hogy létünk nem korlátlan. Ha nincs egy magasabb rendű létezés, ami az egésznek célt ad, akkor automatikusan jön a pánik, valamitől félni fogunk. Attól fogunk félni, hogy felismerjük a saját korlátainkat. Tulajdonképpen ez egy pótvallás – a rettegés vallása. 

 

– Miért állítja, hogy erre az emberi bizonytalanságra, ami szerintem természetes, megoldást ad az istenhit?

– Addig, amíg az ember azt vallja, hogy van Isten, a korlátozott és felfogható létezés fölött van egy felfoghatatlan, addig automatikusan belátja a saját korlátait. És ezzel együtt, ez nem kelt benne félelmet, mert hiszi és tudja, hogy az egésznek van egy célja. Ha viszont céltalan, akkor az egész létezésünk csak az individuumnak a kiterjesztése és a „jóérzés-hormon” felszabadulásának elérése lesz. Viszont abban a percben, amikor felismerjük ennek a korlátait, mérhetetlenül megijedünk. Rájövünk, hogy a jólét ígérete nem örök, hogy a kielégülésnek egyszer fájdalmasan vége szakad, és előre félünk a pillanattól, amikor fel kell majd ismernünk saját korlátainkat.

Szeretnénk jól élni. Sőt! Jelen kultúránkban a jólét szinte a legfontosabb ígéret, a legfontosabb kulturális toposz. Egy materialista létfelfogásban nincs több mint a matéria, tehát a dolognak nem lehet több célja a matéria gyarapodásánál, a fizikai jólétnél. Technológiai fejlődésünk is ezt a jólétet gyarapítja. Csakhogy miközben örülünk a technológiai fejlődésnek, félünk is tőle. Attól tartunk, hogy a jóllétünk érdekében tett lépések hosszú távon, éppen a jóllétünket veszik majd el. Olyan ez, mint egy modern gólem, amely alkotója ellen fordul.

Ez az MI-vel kapcsolatos félelemnek a metafizikai része. Az az elem, amely számomra, rabbi számára talán a legérdekesebb és legtanulságosabb, talán éppen azért mert, megítélésem szerint, nem sok köze van a racionalitáshoz. Itt jutunk el az egész témának a mélységéhez: soha nem fog egy gép az ember szintjére emelkedni, és ezért emiatt nem is érdemes pánikolni. 

– Miért olyan biztos ebben? Meg lehet valahol húzni egy esszenciális határvonalat egy élőlény és egy gép között?

– Meg. A határvonal a tudat. Tud a saját létezéséről. Egy példa: egy műveltségi vetélkedőben egy szoftver legyőzött nagyon okos embereket, mindenki arról áradozott, hogy ez milyen fantasztikus. Másnap azonban megjelent egy cikk, amelyben felvetették, hogy igen, nagyon okos ez a szoftver. Minden tud. Csak éppen azt nem tudja, hogy nyert. Itt a lényeg: a gépnek nincs tudata. A tudat az, amikor a begyűjtött információt nem csak felhasználjuk és kiadjuk, hanem egy személyes vonatkozást rendelünk hozzá. Van az információ, vagyunk mi és a mi viszonyunk az információhoz. 

A Kabbalában ezt a szintet hívjuk a tudás harmadik szintjének, dáátnak. A harmadik szint attól tudás, hogy abból fakadnak az érzelmek. Hogy valamit tudunk, és ahhoz van egy személyes viszonyulásunk. Egy számítógép – ahogy egy ember is – tudhatja, hogy valaki kedves, de attól még nem táplál érzelmeket az irányába, mint egy ember. Neki van személyes viszonyulása az egészhez. A tudat alapja, hogy tudjuk, hogy létezünk és szeretnénk létezni. Nem tudjuk megmagyarázni, hogy miért, de az alap a létezésre való vágy. Ez mozgat mindent a legkisebb szúnyogtól Albert Einsteinig. És a kreativitás is ebből fakad. A kis szúnyog is tudja, hogy ha közeledik az árnyék – amely a rá lecsapó kezet jelzi –, melyik irányba repüljön el, ha tovább szeretne élni. Ugyanígy Einstein, aki meg akar oldani egy problémát, a saját létezésében szeretne előrébb jutni. Egy számítógépben ez nincs meg. Ő benne is lepöröghet a túléléshez szükséges algoritmus, de ehhez nem fog társulni a félelem, az ijedtség vagy éppen a siker érzése. Éppen ezért nem tud újabb feladatot sem kitalálni, azt a feladatot tudja megoldani, amit megadunk neki. Az érzelmi intelligenciában egy szúnyog is fejlettebb a legfejlettebb MI-nél.

 

– Vannak racionális félelmek is a robotizáció és a mesterséges intelligencia kapcsán?

– Kétségkívül. Az például legitim felvetés, hogy a robotizáció és az MI megjelenésével munkahelyek milliói fognak majd megszűnni, emberek tömegei válnak majd munkanélküliekké, mert az élő munkát robotokkal fogják helyettesíteni. Ugyanakkor ne felejtsük el, hogy hasonló vészharangok szólaltak meg az ipari forradalom idején, a gépesítés elején. Aztán mégiscsak alakultak újfajta munkahelyek, újfajta feladatok. Összességében nem jártunk rosszul az ipari forradalommal, és úgy vélem, hogy az IT forradalommal sem fogunk rosszul járni.

Sőt! Ha jobban belegondolunk, az MI hatékonyságának növekedésével egyre kevesebb monoton, kreativitásszegény feladatot kell hogy ellássunk. Mindannyiunk munkájában vannak olyan feladatok, amelyeket szeretünk és vannak olyanok, amelyek kevésbé vannak kedvünkre. Általában azokat a dolgokat szeretjük, amelyek feladatmegoldást, önálló gondolkodást, személyes azonosulást, más szóval kreativitást igényelnek. És pontosan ez az, amire egyre több időnk lesz. Ugyanis pont ez az az eleme az emberi létnek, amit soha nem fog tudni a mesterséges intelligencia kiváltani. Tudomásom szerint az MI jelenlegi fejlődése semmilyen előrelépést nem mutat a kreativitás kapcsán. Magyarul egy előre meghatározott, beprogramozott probléma megoldásában hatékony az MI, de semmilyen módon nem hatékony abban, hogy felismerjen új megoldandó feladatokat stb. Ehhez ugyanis érzelmi azonosulás is kell. Ahogy az előbb már érintettük ezt a kérdést, véleményem szerint ez az oka annak is, hogy miért nem fognak a gépek tudatra ébredni, miért nem leszünk soha a gépek bolygója…

 

A tudás megszerzésének fázisai

– Régen sokat kellett ahhoz tanulnunk, hogy sok információnk legyen, ma már erre nincs szükség, hiszen beütöm a keresőbe, és mindenre választ kapok…

– Ahhoz, hogy beüssek a keresőbe valamit, tudnom kell, hogy mit szeretnék beütni. Hogy milyen kérdést kell feltennünk, hogy tudjunk válogatni a források között, hiszen minőségben nem osztályoz a Google.

 

– Ennek alapján milyen hátulütői vannak a mesterséges intelligen­ciá­nak?

– A személyes ismeretszerzés hiányát például problematikusnak tartom. Hogy érthető legyen, mire gondolok: manapság az egyik legtrendibb vonal az oktatás területén a fent említett személyes kreativitás fejlesztése.  A gyerekeknek a kreativitását kell fejleszteni, nem pedig az adatokat a „fejükbe verni”. Az a gond ezzel, hogy ugyan valóban nem szükséges annyi adatot megtanulni, mint korábbi nemzedékekben, hiszen azok könnyen el­érhetőek, ugyanakkor nem szabad elfelejteni, hogy a kreativitás is csak bevitt információk bázisán tud fejlődni. Igaz, hogy a pékiskolában az a cél, hogy a péktanoncok megtanuljanak sütni, nem pedig, hogy az iskolában minél több kenyér süljön, csak hogy mégiscsak szükség van egy pár kenyér megsütésére ahhoz, hogy a kreatív tudást elsajátítsák…

A helyzet nem úgy áll, hogy van az agyunknak olyan része, amely az információ-begyűjtéssel foglalkozik és egy másik része, ami a kreativitásra szakosodott, és minél többet szabadítok fel az elsőből, annál több teret nyerünk a másodiknak, hanem ez a kettő egymásra van utalva. Amikor tanulok, akkor az nemcsak egy hard-drive-feltöltés, hanem a szoftvert is fejleszti, hat a kreativitásra is, mert azt az információt a tudásom és személyiségem részévé teszem. Ezért egy olyan ember, akinek kevesebb a lexikális tudása, feltehetőleg kevésbé tud kreatív is lenni.

A haszid filozófiában ezt nevezzük a tudás megszerzése három fázisának. Chochmá, a bölcsesség, a kreativitás, Biná, megértés, amely lexikális ismeretszerzést is igényel, és Dáát, tudás, amikor az információ olyannyira a sajátom lesz, hogy a jövőben azt már a Chochmá kreatív szintjén fogom újra hasznosítani. A Dáát nélküli Chochmá olyan, mint a tehetséges pék, aki még soha nem látott lisztet.

 

A lelkiismereti elemet nem lehet kivenni a rendszerbõl

– Korunk egyik legnagyobb prob­lé­mája a „fake news”-jelenség, vagyis a tévhitek terjedése az ellenőrizhetetlenül áramló információ­tengerben. Sokan ezt is az MI számlájára írják.

– Régen azé volt a hatalom, akinek a kezében volt az információ. A demokrácia egyik fő feladata az volt, hogy az információosztás ne a hatalom kezében legyen, hanem szabadon áramolhasson. Ezért volt a legfontosabb erény a szabad sajtó, szabad véleménynyilvánítás. Eljutottunk arra a pontra, hogy ennek a netovábbja az internet, a social media, ahol mindenki tud megosztani információt és mindenkihez eljut az információ. Csakhogy mostanra a dolog megfordult: most már nem az a cenzúra, hogy visszatartják az információt, hanem hogy többletinformációval árasztják el és manipulálják az embereket.

 

– Hogyan védekezhetünk ez ellen?

– Ez ellen is csak az a fegyver, hogy az embereknek a saját gondolkodása fejlődjön, mert ha csak beütünk a Google-ba valamit, nem tudunk meg még valójában semmit. Lehet bármilyen fejlett az MI, az önálló gondolkodást, az önálló erkölcsi, lelkiismereti elemet nem lehet kivenni ebből a rendszerből, mert akkor a sok információ nem az előnyünkre, hanem a hátrányunkra válik. Amikor nincs vallás, ha kivesszük Istent ebből a rendszerből, akkor a felelősség, mint olyan, megszűnik. Egy emberben attól van felelősségérzet, hogy a létezésének van egy célja. Viszont, ha nincs célja a létezésnek, akkor nem kell felelősséget vállalnunk.

 

– Sokat emlegeti a „felelősségvállalás” kérdését. De hogyan jelent ez problémát és miért érzi úgy, hogy ez kifejezetten nemzedékünk hendikepje? Milyen problematikát vet föl a felelősségvállalás hiánya?

– A nyugati társadalmakban az elköteleződés és a felelősségvállalás egyre jobban hiányzik az élet bizonyos területeiről, mint például a munka, a család, a gyereknevelés, gyerekvállalás területe. Sokan úgy gondolkodnak, hogy nincs miért. Az erkölcsi felelősséghez való viszony egy kérdőjel, amit a nyugati ember próbál magáról ledobni. Az pedig veszélyes, hogyha a mesterséges intelligenciát megpróbáljuk erre felhasználni.

 

– Hallhatnánk erre egy példát?

– Volt szó a Brain Baron tartott kerekasztal-beszélgetésen egy olyan szoftverről, ami kvázi a HR-est helyettesítve az önéletrajzokon található fotók alapján (a beprogramozott jellemzőkből kiszűrt algoritmusok segítségével) szelektálja a jelentkezőket, hogy alkalmasak-e a meghirdetett pozícióra vagy sem. Így azonban nem a HR-esre hárul a döntés kényszere és felelőssége, hogy felveszi-e az adott jelentkezőt vagy sem. Nyilván egy személyes beszélgetés során a HR-es megnézi az objektív adatokat és beszélget az álláskeresővel. Ebből leszűr valamit tudatosan és tudat alatt is. Ugyanezt megcsinálja a mesterséges intelligencia is, az arcvonásokból osz­tályoz, mert „megtanulta”, hogy ilyen-olyan arcvonásokhoz milyen sze­mélyiségjegyek tartoznak. Ami na­gyon sok esetben abszolút helytálló. Felmerül a kérdés, hogy akkor mi a különbség.

A probléma a döntés körül van. Amikor rábízunk egy ilyen elhatározást egy gépre, akkor azzal kivesszük a felelősséget a rendszerből. Ha mi hozunk egy ilyen döntést, akkor abban a mi emberi felelősségünk is benne van, akkor az is egy elem a mérlegen, hogy nekünk kell döntenünk, ez a mi felelősségünk, hogy jó vagy rossz döntést hozunk a cégnek. Illetve a munkavállalóval szemben is felelősség. Mindez pedig a tudatunkhoz és lelkiismeretünkhöz kapcsolódik, amivel egy gép nem rendelkezik. A gépnek nincs felelőssége, őt nem fogják megbüntetni, ha rossz döntést hozott és ha igen, akkor mi van? Kikapcsolják, de ez neki nem fáj, ez az ő „életét” nem érinti, nem befolyásolja. Nem fog fájni neki…

És itt jutunk vissza a Brain Baron is felvetett kérdéshez: lesznek-e valaha robot rabbik? A válasz az, hogy nem volna helyénvaló, ha lennének. A Talmud azt tanítja, hogy az ókori Szánhedrin, a valamikori legfelsőbb rabbi bíróság, a 71 tagú rabbitanács tagja csakis az lehetett, aki egészen különleges tudással bírt: tórai ismeretek mellett sok nyelvet kellett beszéljen és a természettudományokhoz is kellett hogy értsen. Mindez azonban nem volt elegendő. Nem lehetett a szánhderin tagja, akinek nem volt családja, nem voltak gyerekei. Az ilyen emberből ugyanis hiányzik a könyörület attribútuma. Egy erkölcsi kérdésben nem csupán a száraz kognitív értékelés, a kognitív algoritmus a szükséges. Fontos, hogy legyen személyes, érzelmi azonosulás is.

 

A tudomány, a technológia, az üzleti, kulturális és politikai szféra elismert szereplőit vendégül látó Brain Bar fesztivált 2018. május 31. és június 2. között rendezték meg a Corvinus Egyetem campusán. Az egész épületet átalakították az eseményre, különböző nevű helyiségekben gyűlt össze a főleg fiatalokból álló hallgatóság, hogy az angol nyelvű előadásokat és kerekasztal-beszélgetéseket meghallgassa.

A sejtelmes nevű Secret Gardenben megrendezett kerekasztal beszélgetésen Köves rabbi beszélgetőtársai Jody Kochansky, a BlackRock innovációs befektetési cég vezető mérnöke és Bisztrai Dávid, a távoli elérést biztosító magyar cég, a LogMeIn mérnök­igazgatója voltak. 

V. Shepherd írása