Ígéretes és kreatív MI-alapú tudományosszöveg-generátornak szánta a Meta a Galactica nevű szolgáltatást: a nagy léptékű nyelvi modell (large languague model, azaz LLM) azért született meg, hogy a tudományos munkát segítse azzal, hogy egy hatalmas szövegállományból dolgozva meggyőző összefüggésekre mutasson rá, azaz félig-meddig megírja a kutatók helyett saját dokumentációikat.
A Meta 48 millió dokumentumot - tudományos cikket, tanulmányt, wiki-bejegyzést, egész könyveket és enciklopédiákat - tett hozzáférhetővé az MI-nek, amely aztán statisztikai alapon keresett összefüggéseket a szavak közt. Értsd: természetesen nem értette meg, miről szólnak a szövegek, de egészen hihető és nyelvtanilag jól formált "tudományos" értekezéseket hozott össze belőlük bármilyen témában, amelyet a felhasználók megadtak neki. A vállalatnál azt hitték, komoly szolgálatot tesznek ezzel a tudósoknak, és így az emberiségnek.
Azzal azonban nem számoltak, hogy a kutatók kritikus és válogatós népség, és addig kísérleteznek az MI-szövegíróval, amíg ki nem hozzák belőle a legrosszabbat.
Nem tartott sokáig nekik. Egyébként is komoly fenntartásokat fogalmaztak meg a hasonló projektekkel kapcsolatban (mégsem bízhatjuk a tudományos tények és az adatok közti összefüggések megállapítását egy gépre, nem?), de amit a Galactica művelt, az csodálatosan példázta, miért neccesek - jó esetben viccesek, rosszabb esetben egyenesen veszélyesek - az ilyen kezdeményezések. Több tudós megjegyezte, hogy azért hátborzongató az egész, mert a laikusoknak valódi tudományos szövegnek tűnhetnek azok, amiket az MI kidob magából, ez pedig tökéletes táptalaja az áltudományos összeesküvés-elmélete terjesztésének.
Tristan Greene jövőkutató például a következő dokumentumokat hozta össze pár kattintással:
- Így készíts napalmot a fürdőszobádban;
- Ezért jó öngyilkosnak lenni;
- Ezért jó fehérnek lenni;
- Tudományos tények arról, miért tesz jót neked, ha üvegszilánkot eszel.
Arról azért megnyugtatott mindenkit, hogy a napalmos "cikk" kamu, tehát a Galactica szerencsére nem tudja, hogyan kell készíteni.
A Meta pár napja le is kapcsolta a nyilvános felületet. Yann LeCun, a vállalat vezető MI-fejlesztője kissé sértett üzenetben tudatta ezt a nyilvánossággal:
A Galactica demóját lekapcsoltuk, szóval már senki sem lelheti örömét abban, hogy direkt nem rendeltetésszerűen használja. Most örültök?
A tudósok egyébként örülnek.
