A közelmúltban a Bing Képkészítő által generált jogsértő terroristás rajzok bizonyították, hogy talán nem is olyan könnyű megzabolázni a palackból kiszabadult mesterséges intelligenciát, mint azt a fejlesztők gondolták, most pedig egy újabb felfedezés mutat rá erre az egyre inkább nyilvánvalóvá váló tényre.
A New Scientist beszámolója szerint ugyanis a Sheffield-i Egyetem kutatóinak sikerült olyan parancsokat írniuk, melyeket bevetve a ChatGPT és öt további, nagy nyelvi modellekre épülő csevegőbot érzékeny információkat szivárogtathat ki védett kereskedelmi adatbázisokból, vagy akár törölheti is azokat.
A tudósok azokat a szolgáltatásokat vizsgálták meg, amelyek képesek lefordítani az emberi kérdéseket az SQL programozási nyelvre. Ez a nyelv az adatbázisok lekérdezését hivatott gyorsabbá és könnyebbé tenni, manapság pedig egyre népszerűbbek az olyan ún. "text-to-SQL" szolgáltatások, melyek a mesterséges intelligenciára támaszkodva egyszerű szövegekből állítják elő az ehhez szükséges parancsokat.
A Sheffield-i Egyetem kutató megmutatták, hogy miként lehet ezt az AI által generált kódot olyan utasításokkal ellátni, amelyek kiszivárogtatják a célba vett adatbázisok adatait, kaput nyitva a jövőbeli kibertámadások előtt. A problémát különösen súlyossá teszi, hogy a kártékony kód akár olyan adatbázisokat is "kipucolhat", amelyek felhasználói profilokat, köztük neveket és jelszavakat tárolnak, vagy akár szolgáltatásmegtagadásos támadásokkal is túlterhelheti az adatoknak otthont adó felhőszervereket.
"Ez a legelső tanulmány, amely bemutatja, hogy a nagy nyelvi modellek sebezhetőségei általában támadási útvonalként kihasználhatók az online kereskedelmi alkalmazások ellen."
- mondta Xutan peng, a chatbotok jelentette kockázatról szóló tanulmány társszerzője. A jó hír, hogy a felfedezés nyilvánosságra hozatala előtt a tudósok figyelmeztették az érintett szolgáltatások üzemeltetőit is, így a ChatGPT-ben és a szintén vizsgált BAIDU-UNIT-ban már javították a problémát, vagyis ezek a platformok már nem használhatók kártékony SQL-kódok generálására.
