Spike Jonze tavaly bemutatott, A nő című Oscar-díjas sci-fijében a Joaquin Phoenix játszotta Theodore menthetetlenül belehabarodik gépe operációs rendszerébe. Nem csoda, hisz a Scarlett Johansson hangján megszólaló „Samantha”, bár teste nincs, és a lelke is szilíciumlapkákon kergetőző egyesek meg nullák sorozata csupán, kifejezetten vonzó egyéniség. Mesterséges intelligencia, de több is annál: személyiség, amely (aki?) nemcsak a tanulásra és önmaga tökéletesítésére képes, de álmodni, vágyakozni és szeretni is tud – csak felejteni nem.
Jonze utópisztikus jövőképet vázol fel filmjében, de vajon mennyire „utópisztikus” ez a jövőkép? Nos, Stephen Hawking, korunk talán legjelentősebb elméleti fizikusa szerint korántsem annyira, mint hinnénk. „Ha sikerül megalkotnunk az MI-t, az a legnagyobb esemény lesz az emberiség történetében. Szerencsétlen módon egyben az utolsó is, hacsak nem tanuljuk meg idejekorán, hogyan kerüljük el a járulékos kockázatokat” – írta a The Independentben megjelent cikkében.
Sosem látott lehetőségek és kockázatok
Az elmúlt években jelentősen felgyorsult a mesterséges intelligencia (MI) kutatásának fejlődése. A technológiai mérföldkőnek tartott újdonságok, mint az autonóm autók, az IBM kvízshow-nyertes szuperszámítógépe vagy a digitális személyi asszisztensek csupán hasznos melléktermékei annak az elképesztő iramú, példátlan összegeket felemésztő és egyre szilárdabb elméleti alapokra építkező fegyverkezési versenynek, amit a világ informatikai óriásvállalatai vívnak egymással. A kísérleti laborok és K+F-központok mélyén minden bizonnyal olyan találmányok vannak születőben, amelyekhez képest a fent felsorolt újítások csak buta játékszernek tűnnek majd.
Az MI-fejlesztésben sosem látott lehetőségek rejlenek. Valamennyi civilizációs eredményünk az emberi elme terméke, és egyelőre csak találgatni tudunk, mi mindent érhetünk el, ha egy „gépagy” is besegít. Hawking szerint az sem lehetetlen, hogy véget vethetünk a háborúknak, felszámolhatjuk a betegséget és a szegénységet.
Már ha odafigyelünk. Az MI megszületése ugyanis nem csak az „emberiség virágkorának” kezdetét jelentheti. Világszerte egyre több ország fontolgatja olyan önjáró fegyverrendszerek bevezetését, amelyek képesek maguk kiválasztani és megsemmisíteni célpontjaikat, márpedig ez önmagában is komoly fenyegetés. Ahogy Erik Brynjolfsson és Andrew McAfee írták a The Second Machine Age című könyvükben, az MI a gazdaságunkat is átalakíthatja: a szerencsés kevesek számára még nagyobb jólétet hozhat, de egyúttal a társadalmi különbségek növekedéséhez is hozzájárulhat.
Komolyan kell vennünk a lehetséges veszélyeket
„Ha a távolabbi jövőbe tekintünk, elmondhatjuk, hogy nincsenek fundamentális korlátok: egyetlen olyan fizikai törvényt sem ismerünk, amely kizárná, hogy a részecskék olyan módon rendeződjenek, ami lehetővé teszi, hogy még annál is bonyolultabb számításokat tudjanak elvégezni, mint az emberi agy” – húzta alá Hawking. A tudós szerint eljöhet az a nap, amikor a technológia képes lesz átverni a pénzpiacokat, okosabb dolgokat kitalálni, mint a kutatók, saját elképzelései szerint manipulálni a vezető politikusokat, vagy olyan fegyvereket kifejleszteni, amelyek működését felfogni sem tudjuk. „Az, hogy az MI megépítése milyen hatással lesz az életünkre, rövid távon minden bizonnyal azon múlik majd, hogy ki irányítja – hosszú távon viszont azon, irányítható-e egyáltalán” – érvelt. A fizikus hangsúlyozta, sajnos a szakértők nem veszik elég komolyan az MI-technológiában rejlő potenciális veszélyeket, csak kevés olyan intézet, kutatóközpont van, amely azt vizsgálja, milyen rövid, közép és hosszú távú hatásai lehetnek egy ilyen áttörésnek.
