A biztonsági szakértők korán figyelmeztettek, hogy a gyakorlatilag bármilyen szövegírási feladatra bevethető ChatGPT veszélyes fegyver lehet a kiberbűnözők kezében, s miközben az üzemeltető OpenAI egyre több moderációs korlátozást épített be a szolgáltatás hivatalos verziójába, a Check Point Research januárban közölte, hogy orosz hackerek már aktívan dolgoznak a chatbot kihasználásán.
Az elemzőcég most egy újabb jelentésben tárta fel, hogy az oroszoktól függetlenül már meg is születtek a ChatGPT "sötét" alternatívái, amelyek a kibertámadások megkönnyítését szolgálják.
A hackerek ehhez a GPT 3.5-ös nyelvi modellre épülő ChatGPT "testvérének", a GPT 3-alapú text-davinci-003-nak az alkalmazásprogramozási felületét (API) használják, amit a fejlesztő OpenAI tett elérhetővé. Ez a népszerű chatbothoz hasonló képességekkel rendelkezik, viszont szinte teljesen hiányzik belőle a moderáció, így simán bevethető például adathalász célú szövegek elkészítésére, vagy akár fertőző szoftveres kódok megírására is.
A Check Point Research rámutatott, hogy élelmes kiberbűnözők létrehoztak egy szolgáltatást a Telegram csevegőappban, amellyel 5,50 dollárért 100 kérdést tehetünk fel a sötét ChatGPT-nek, és egy olyan fórumozót is találtak, aki egy szkripttel állt elő a chatbot korlátozásainak megkerülésére.
Ők pedig csak az első fecskék, idővel vélhetően a hackerek módszerei is sokoldalúbbá és kifinomultabbá válnak, a nagy kérdés pedig az, hogy az OpenAI lépést tud-e tartani a kiberbűnözőkkel, miközben egy másik nagy szereplő, a Google is be akar lépni az MI-chatbotok piacára, egy újabb kihasználható fegyvert adva az ártó szándékú aktorok kezébe.
A témához kapcsolódik, hogy a ChatGPT képességeinek feloldásához jelenleg programozási tudás sem feltétlenül szükséges, a platformnak szentelt Reddit-fórum tagjai ugyanis létrehoztak egy furfangosan megfogalmazott szöveges parancsot, amellyel több-kevesebb sikerrel megkerülhető az egyre szigorodó moderáció.
