Fekete doboz

Egy marék föld

Szeretek figyelni a nálam okosabb emberekre. Az alábbi gondolatmenet lényegét egy nagyon bölcs asszonytól hallottam először, aki az életével is példázza, hogy mennyire komolyan gondolja, amit mond: képzeljetek el egy masinát: a felső nyílásán beleteszünk egy marék földet, alul kigurul egy paradicsom. Ha megkérdezik, mi történik odabent, nem tudjuk pontosan elmagyarázni. Vannak sejtéseink, folyamatábráink, tudjuk működtetni a gépet, de a „miért” és a „hogyan” végső részleteire nincsenek válaszaink. Mint ahogyan azt sem tudjuk teljességgel felsorolni, mi minden volt abban a marék földben – gombák, baktériumok, nyomelemek láthatatlan hálózata –, a paradicsomról viszont határozottan kijelentjük: ez egy zöldség, ez ennivaló. Úgy véljük, ez a felszínes tudás nekünk elég is a hétköznapi élethez.

Amikor nagyipari termelésből származó, vízízű paradicsomot vásárolunk a szupermarketben, ritkán gondoljuk tovább, hol is lehet a probléma. Pedig érdemes lenne, ugyanis ez a jelenség valami alapvetőre mutat rá: a redukcionizmus csapdájára. Az emberiség teljes tudása jelenleg nem elegendő ahhoz, hogy mesterségesen, ipari körülmények között tökéletesen helyettesíteni tudjunk egyetlen marék természetes földet. Amit „tápoldatnak” hívunk, az csupán a mi leegyszerűsített modellünk a valóságról. A végeredmény pedig – a vízízű paradicsom – egyfajta biológiai „szimulákrum”: külalakja szerint paradicsom, de hiányzik belőle a komplexitás, a „föld íze”. Nem a felfogóképességünk minőségével van a baj, hanem a világ felfoghatatlan mennyiségi összetettségével, amihez a véges emberi elme csak közelítéseket tud gyártani.

„Mindset”

Ilyen „fekete doboz” azonban nemcsak a külvilágban található, hanem legbelül is. A masinát megértő masinánk, az emberi agy szintén olyan szerkezet, amelyhez nem férünk hozzá a maga teljességében. Bár a modern agytudomány és neurobiológia lenyűgöző részletességgel írja le az idegi aktivitást, a tanulás vagy a döntéshozatal hálózatait, egy ponton falba ütközünk. Arról, hogy a neurális aktivitásból – az elektromos jelek tűzijátékából – miként lesz szubjektíven átélt, tudatos gondolat, hogyan születik meg a „paradicsom ízének élménye”, nincs végleges magyarázatunk.

Mindezt azért létfontosságú átismételni, mert beléptünk a mesterséges intelligencia korszakába. Egy újabb fekete dobozt építettünk, abban a hitben, hogy ez majd segít megérteni a másik kettőt. Csakhogy az MI kizárólag azt a véges tudást tudja hasznosítani, amit mi pár ezer év alatt összegyűjtöttünk és digitalizáltunk.

Itt ütközünk bele abba a korlátba, amit Polányi Mihály „hallgatólagos (tacit) tudásnak” nevezett: többet tudunk, mint amennyit el tudunk mondani. A valóság ismeretének nagy része – a biciklizés egyensúlya, egy arc felismerése, vagy a földműves ösztöne az időjárásról – nem digitalizálható, nem önthető adatsorokba. Az MI viszont csak az explicit, leírt adatból tanul. A térképet tanulja meg, nem a tájat. Elemzi a „paradicsom” szót milliárdnyi kontextusban, de sosem harapott bele, nem érezte a nap melegét, nincs érzékszervi horgonya a valósághoz.

Ez a probléma gyökere: ha az emberiség többezer éves tudásanyaga nem elegendő ahhoz, hogy pontosan rekonstruáljuk, mi van egy marék földben, akkor miért várjuk el, hogy a mesterséges intelligencia releváns, mélyreható válaszokat adjon arra a valóságra, amelyhez hozzá sem fér?

A legnagyobb veszély talán nem is az, hogy az MI öntudatra ébred, hanem az, hogy mi magunk hisszük el róla tévesen, hogy érti a világot. Ha megelégszünk a szupermarketek vízízű paradicsomával, mert az „elég jó” és „hatékony”, akkor fennáll a veszélye, hogy megelégszünk majd az MI által kínált „vízízű” valóság-magyarázatokkal is. Olyan válaszokat kapunk majd, amelyek statisztikailag helyesek, formailag tökéletesek, de lényegüket tekintve üresek. Mert ahhoz, hogy valódi paradicsomot növesszünk – vagy valódi válaszokat találjunk –, nem elég a digitalizált adat; kell hozzá az a bizonyos marék föld is, a maga titokzatos, megfoghatatlan, teljes valóságában. A valódi probléma tehát ott kezdődik, hogy ezt a „vízízű”, leegyszerűsített logikát nemcsak a mezőgazdaságra, hanem az emberi sorsra is kiterjesztettük. A 21. században ugyanis új törvénykezés lépett életbe, amely láthatatlan, megfoghatatlan és fellebbezhetetlen.

A fekete doboz diktatúrája

Évezredeken át a törvényeket kőtáblákba vésték, papiruszra írták, vagy alkotmányokba foglalták. Láthatóak voltak, vitathatóak, és ha igazságtalanok voltak, fel lehetett lázadni ellenük. A 21. században azonban új törvénykezés lépett életbe, amely láthatatlan, megfoghatatlan és fellebbezhetetlen. Ez az algoritmus.

Az algoritmus eredetileg matematikai fogalom: utasítássorozat egy probléma megoldására. De amit ma a Szilícium-völgyben így neveznek, az már rég nem matematika. Az a valóság szerkesztője. A megoldásként árult „fekete dobozba” bemegy a világ végtelen bonyolultsága, és kijön belőle egy személyre szabott, leegyszerűsített, emészthetővé tett – és manipulált – valóság.

Az algoritmus dönti el, mit látsz a hírekből. Eldönti, kivel találkozol a társkeresőn. Eldönti, hitelképes vagy-e. Eldönti, hogy a véleményed eljut-e másokhoz, vagy néma kiáltás marad az űrben. Az algoritmus az új kapuőr, de ellentétben a régi szerkesztőkkel vagy cenzorokkal, őt nem lehet megvesztegetni, és nem lehet meghatni. Se lelke, se önérdeke. Csak kódja van, amely egyetlen parancsot követ: optimalizálj.

A valószínűség terrorja

A magyar észjárás – a „székely góbéság”, a lelemény – mindig arra épült, hogy kijátsszuk a szükségszerűséget. Hogy megtaláljuk a kiskaput a sors falán. Az algoritmus azonban a valószínűségre épít. Azt figyeli, mit tettél tegnap, mit tettek a hozzád hasonlók, és ebből kiszámolja, mit fogsz tenni holnap.

Ez a „prediktív analitika” az emberi szabadság felszámolása. Ha a gép jobban tudja, mit akarok venni, mint én magam, ha pontosabban tudja, kire fogok szavazni, mint én magam, akkor hol marad a döntés? Az algoritmus nem jósol, hanem beteljesít. Azzal, hogy folyamatosan azokat a tartalmakat tolja elém, amelyek megerősítik a meglévő vágyaimat vagy félelmeimet, bezár egy körbe. Egy önbeteljesítő jóslatba.

A magyar történelem a valószínűtlenség diadalmenete. Ha egy algoritmusnak kellett volna döntenie 896-ban, 1526-ban vagy 1956-ban, az adatok alapján azt dobta volna ki: „Error. A magyarok túlélése statisztikailag lehetetlen.” Mi mégis itt vagyunk. Mert a nemzet sorsa nem adat, hanem akarat. Az algoritmus viszont nem érti az akaratot, csak a mintázatot. Ezért veszélyes: mert elhiteti velünk, hogy a jövő kiszámítható, és nem megváltoztatható.

A vak tükör

Az algoritmusok nem semlegesek. Nem tükröt tartanak a világ elé, hanem torzítótükröt. És ez a tükör vak a magyar valóságra.

A globális platformok kódjait Kaliforniában vagy Kínában írják. Nem ismerik a Kárpát-medence fénytöréseit. Nem értik a magyar nyelv áthallásait. Egy mesterséges intelligencia számára a „sírva vigad a magyar” kifejezés logikai hiba. Számára a kuruc dac: rendszerhiba. A magyar irónia: értelmezhetetlen adat.

Amikor a kultúránkat az algoritmusok szűrik, akkor szükségszerűen leegyszerűsítik azt. Ami nem fér bele a globális „mainstream” kategóriákba, az láthatatlan marad. A digitális térben a magyar kultúra árnyékban van. Nem azért, mert rossz, hanem mert az algoritmus nem tudja besorolni. A néptáncunk, a költészetünk, a sajátos történelmi fájdalmaink nem generálnak elég „engagement”-et (elköteleződést) a globális piacon, ezért a rendszer hátrasorolja őket.

Ez a kulturális vakság. Ha a gyermekeink az algoritmusok által válogatott meséken nőnek fel, akkor a lelkük is „globálissá” válik: elveszítik a képességet, hogy értsék a saját anyanyelvük mélyebb rétegeit.

A visszhangkamra és a törzsi háború

Az algoritmus célja, hogy a képernyő előtt tartson. Erre pedig a legjobb módszer, ha azt mutatja neked, amivel egyetértesz, vagy ami felháborít. A langyos víz nem hoz kattintást.

Így jönnek létre a visszhangkamrák. A társadalom buborékokra szakad. A baloldali csak baloldali híreket lát, a jobboldali csak jobboldaliakat. A vidékinek más a valósága, mint a pestinek. Nem azért, mert másképp gondolkodnak, hanem mert más világot látnak. Az algoritmus elzárja előlünk a „másik” valóságát.

Ez a logika polgárháborús pszichózist teremt. Azt hisszük, hogy a másik oldal gonosz vagy őrült, mert nem látjuk azokat az érveket, amiket ők látnak. Az algoritmus felszámolja a közös teret, a nemzeti agorát, ahol találkozhatnánk. Helyette digitális törzseket hoz létre, és egymásnak uszítja őket, mert a harag a legjobb üzlet. A lájk: dopamin. A kommentháború: aktivitás. A gyűlölet: profit.

Az algoritmus-szuverenitás: a gép megszelídítése

Mit tehetünk? Nem térhetünk vissza a számológép előtti korba. A technológia itt van, és itt is marad. A feladat nem a gép összetörése (luddizmus), hanem a gép megszelídítése.

A kulturális nemzetépítés egyik legfontosabb, legmodernebb feladata az algoritmuspolitika. Ez azt jelenti, hogy nem fogadjuk el a „fekete doboz” döntéseit természeti törvénynek.

Követelnünk kell az átláthatóságot.

Építenünk kell saját, magyar logikájú ajánlórendszereket a közmédia és a kulturális platformok számára.

Fel kell töltenünk a digitális teret olyan minőségi magyar adattal, amelyből a jövő MI-rendszerei tanulhatnak, hogy ne „felejtsenek ki” minket a jövőből.

És ami a legfontosabb: meg kell tanítanunk az embert arra, hogy felismerje az algoritmust. Ez a digitális tudatosság. Amikor görgeted a hírfolyamot, tudd: ez nem „a világ”. Ez egy válogatás, amit egy gép rakott össze neked, hogy eladjon valamit.

Legyünk mi a legnagyobb hiba a Mátrixban. Az algoritmus mindent tud modellezni, ami kiszámítható. De a lényeg a kiszámíthatatlanban van.

A szeretet nem algoritmizálható. A kegyelem nem algoritmizálható. A katarzis nem algoritmizálható. A hűség – amikor akkor is kitartasz, ha nem éri meg – nem algoritmizálható.

A magyar kultúra lényege éppen az a „hiba”, amit a gép nem tud értelmezni: a lélek többlete. A géniusz. Az a pillanat, amikor az ember túllép a programozott ösztönökön, és valami nagyobbat alkot.

A végső harc nem ember és gép között zajlik, hanem az emberi lélek és a gépiesítés között. Ha hagyjuk, hogy az életünket a statisztikai valószínűség irányítsa, akkor biorobotokká válunk. De ha merünk váratlanok lenni, ha merünk csendben lenni (III. szócikk), ha merünk figyelni (IV. szócikk), akkor az algoritmus elveszíti a hatalmát.

Az algoritmus jó szolga, de kegyetlen úr. A 21. század magyarjának feladata, hogy úr maradjon a saját házában – és a saját fejében.