Az OpenAI komoly lépéseket tesz annak érdekében, hogy biztonsági kutatók még nagyobb kedvvel azonosítsák a rendszereiben található sebezhetőségeket. A cég bejelentette, hogy a Security Bug Bounty program maximális jutalmát 20 ezer dollárról 100 ezer dollárra emeli, miközben kibővíti a Cybersecurity Grant programját és új eszközöket fejleszt az AI-ügynökök védelmére a rosszindulatú fenyegetésekkel szemben.
A döntés hátterében az áll, hogy az OpenAI egyre nagyobb figyelmet fordít a biztonságra, miután szakértők arra figyelmeztettek, hogy az AI-ügynököket el lehet téríteni például adathalász támadások írására és kiküldésére. A vállalat hangsúlyozza elkötelezettségét a "jelentős, nagy hatású biztonsági kutatások jutalmazása iránt", amelyek hozzájárulnak a felhasználók védelméhez és a rendszerek iránti bizalom fenntartásához.
A 2023-ban indított Cybersecurity Grant Program eddigi eredményei alapján az OpenAI több ezer pályázatot vizsgált át és 28 kutatási kezdeményezést finanszírozott. Ezek segítettek a cégnek jobban megérteni olyan biztonsági kérdéseket, mint az autonóm kiberbiztonsági védelmek, a prompt injekciók és a biztonságos kódgenerálás.
Az OpenAI folyamatosan figyeli a rendszereit kihasználni próbáló rosszindulatú szereplőket, és aktívan fellép a célzott támadások ellen. Emellett együttműködik más AI-laboratóriumokkal is a közös védelem erősítése érdekében.
"Nemcsak önmagunkat védjük, hanem megosztjuk a módszereinket más AI-kutatólaborokkal, hogy együtt erősítsük kollektív védelmünket. Az iparági és kormányzati szereplőkkel való együttműködés révén biztosítjuk, hogy az AI-technológiákat biztonságosan fejlesszék és alkalmazzák."
- közölte a vállalat. Az OpenAI nincs egyedül ezzel a megközelítéssel. A Google 2024-ben szintén ötszörösére növelte a hibavadász programjának jutalmait, arra hivatkozva, hogy a biztonságosabb termékek miatt egyre nehezebb hibákat találni, ami magasabb kompenzációt indokol.
Ahogy az AI-modellek és -ügynökök egyre fejlettebbé válnak, és mind több felhasználó veszi igénybe őket, úgy nő a potenciális támadási felületek száma is. Ebben a környezetben a kutatók és a szoftverfejlesztők közötti együttműködés kulcsfontosságú.
"Aktívan bevonjuk a kiberbiztonsági közösség kutatóit és szakértőit. Ez lehetővé teszi számunkra, hogy kihasználjuk a legújabb gondolkodásmódokat, és megosszuk eredményeinket azokkal, akik egy biztonságosabb digitális világért dolgoznak. Modelljeink képzése során akadémiai, kormányzati és kereskedelmi laborokkal működünk együtt, hogy feltérképezzük a készségbeli hiányosságokat, és strukturált példákat szerezzünk az előrehaladott kiberbiztonsági gondolkodásra."
- erősítette meg az OpenAI.
