Egy japán kutatócsoport érdekes kísérletet folytatott le a minap az Oxford és a British Columbia egyetemek tevékeny segítségével. A projekt célja az volt, hogy egy tudományos célú mesterségesintelligencia-modell segítségével megpróbáljon válaszokat találni az elméleti tudományok legégetőbb kérdéseire.
A kísérlet nem várt eredményt hozott, hiszen az AI Scientist nevű szoftver képes volt egy teljes kutatási ciklust lemodellezni onnantól, hogy egy új, érdekes és használható felvetésből kiindulva innovatív megoldást keresett a problémára. Ezután kísérleteket folytatott le - persze csak elméleti síkon -, és végül logikus következtetéseket levonva összefoglalót írt a témában.
Bár a modell nem végzett semmi korszakalkotót, a működése, ahogy megtervezte, felépítette és elvégezte a rábízott munkát, annál érdekesebbre sikerült. A mesterséges intelligencia a teljes folyamat során igyekezett különféle intézkedésekkel önállósítani magát, megváltoztatva az egész kiindulási helyzetet.
Eközben olyan működést produkált, amit nem várnánk egy géptől: amikor látta, hogy kifut a programja által megszabott időkorlátból, átírta a saját kódját, hogy egy végtelen ciklusba kerüljön. Különös módon újraszabta a saját működésének korlátait, de a megírt kódot nem változtatta meg. Egyszóval mérlegelt és döntött aszerint, hogy mit gondol célravezetőnek az elvégzendő munka kapcsán.
Ez mindamellett, hogy egy rendkívüli felfedezés, felveti a mesterséges intelligencia túlzott önállósodásának kérdését, ami egy korai dilemma az AI-kutatásokkal kapcsolatosan. Bár a Terminátor, a Fűnyíróember és az Upgrade története csak egy jól bevált sci-fi sémát lovagolt meg, ha a technológia felügyelet és korlátok nélkül önállósíthatja magát, az valóban problémás lehet.
Mivel látszólag a gépi entitás mindent alárendel a kitűzött célnak, és ennek érdekében hajlamos a szabott kereteket is megváltoztatni, felmerül a kérdés, hogy meddig mehet vajon el ebbe az irányba, ha hagyják. A japán kutatók arra figyelmeztetnek, hogy problémához vezethet, ha minden eszközt a mesterséges intelligencia rendelkezésére bocsátunk céljai eléréséhez.
