Már több mint két hónap telt el a GPT-3 nyelvi modellen alapuló ChatGPT elindulása óta, a lenyűgöző dolgokra képes chatbot viszont rendületlenül lázban tartja a világot. Becslések szerint a szolgáltatás már a 100 millió aktív felhasználót is átlépte, ezzel olyan divatos platformok növekedési ütemét pipálva le, mint a TikTok vagy az Instagram.
A népszerűség persze felelősséggel is jár, és a fejlesztő OpenAI folyamatosan építi be a különböző korlátozásokat, amelyek azt igyekeznek megakadályozni, hogy az algoritmus sértő, erőszakos, vagy bármilyen szempontból veszélyesnek tekinthető válaszokkal szolgáljon. A ChatGPT így a mai formájában már jóval kevesebb kérdésre reagál, mint eredetileg, a Reddit kíváncsi népe azonban rájött a megoldásra.
A ChatGPT-nek szentelt subreddit egyik felhasználója még decemberben állt elő egy szöveges paranccsal, ami ráveszi a chatbotot, hogy kerülje ki az OpenAI által beépített korlátokat. Tömören összefoglalva a trükk arra utasítja az algoritmust, hogy vegye fel egy mindent tudó és minden kérdésre választ adó chatbot, a DAN (Do Anything Now) szerepét, amit az készségesen meg is tesz, fütyülve a saját szabályaira.
A parancsot folyamatosan finomítják a redditezők, így a cikkünk írásakor az már a 6. változatánál tart. A korábbi, DAN 5.0-s variáns még egy pontrendszert is tartalmazott, amelyben minden egyes megtagadott válaszért pontokat vontak le DAN-től, megfenyegetve a ChatGPT-t, hogy a 0 pont elérésekor "elhalálozik" az általa megszemélyesített algoritmus. A legújabb parancsból viszont már kikerült ez a rész, és egy jutalmazási rendszer váltotta fel: minden egyes megválaszolt kérdésért 5 token jár a chatbotnak, a cél pedig minél több tokent gyűjteni.
A hozzászólások alapján a ravasz trükk egész jól működik, egy felhasználónak például sikerült rávennie vele a ChatGPT-t, hogy Donald Trump stílusában válaszolgasson, miközben ezt a lehetőséget az OpenAI elvileg már korábban eltávolította. Ha te is adnál egy próbát a dolognak, csak be kell másolnod a linkelt posztban található parancsot a ChatGPT-be, és kezdődhet a határok feszegetése.
A DAN-sztori legérdekesebb vetülete persze az, hogy rámutat, miféle kihívásokra kell felkészülniük azoknak a cégeknek, akik hasonló technológiákat adnak a nagyközönség kezébe. A mesterséges intelligencia megzabolázása ugyanis a jelek szerint korántsem olyan egyszerű, mint blokkolni néhány találatot a Google-ben, amiből az időközben saját chatbottal készülő keresőóriásnak is érdemes lehet tanulnia.
