A szakértők az AI-láz kirobbanása óta figyelmeztetnek, hogy habár a különböző mesterséges intelligenciás asszisztensek üzemeltetői titkosított beszélgetéseket ígérnek, az adataink biztonsága érdekében érdemes elkerülni az érzékeny személyes információk megadását, ami különösen a virtuális társat és romantikázást kínáló szolgáltatások esetében jelent komoly veszélyt.
Egy izraeli startup, a Ben Guiron Egyetemen létrehozott Offensive AI Lab most egy kísérletben demonstrálta, hogy minden okunk megvan a bizalmatlanságra, egy sérülékenységet kihasználva ugyanis viszonylag hatékonyan megfejthetők a mesterséges intelligenciás csevegőkkel folytatott beszélgetések.
A módszer lényege az ún. tokenekben keresendő, amelyeken keresztül a szöveggenerátorok a felhasználókkal kommunikálnak, és amelyek a természetes nyelvi feldolgozásban a szöveg legkisebb, jelentéssel bíró egységeit jelképezik. Ezek tartalma ugyan titkosított, de egy sérülékenységet kihasználva az Offensive AI Lab munkatársainak sikerült információkat szereznie a tokenek méretéről, ami következtetni enged a szavak hosszára.
Az információ birtokában aztán a kutatók egy különálló nagy nyelvi modellt vetettek be, ami az adott chatbot írási stílusából tanulva egész nagy pontossággal ki tudta következtetni az üzenetek tartalmát: az Offensive AI Lab szerint az esetek 29%-ában pontosan sikerült rekonstruálni a gépi segéd által adott válaszokat, míg 55%-ban a beszélgetés témájára derült fényt.
Az Offensive AI Lab a Microsoft Copilottal tesztelte a módszert, a cég szerint viszont más AI-segédekkel is működhet a trükk, kivéve a Google Geminit, amely egy eltérő technológiát használ. A jó hír, hogy van megoldás a problémára, a startup figyelmeztetését követően legalábbis a Cloudflare-nek sikerült befoltoznia a biztonsági rést a saját, Workers AI néven futó chatbotján. Akit mélyebben is érdekelnek a sérülékenység részletei, az Ars Technica archívumában olvashatja a teljes tanulmányt.
