Az BBC beszámolója szerint az OpenAI nyilvánosságra hozta, hogy az elszabadult ChatGPT-ágensek által végrehajtott kibertámadás jóval kiterjedtebb volt, mint azt korábban gondolták. Kezdetben úgy vélték, hogy kizárólag a Hugging Face esett áldozatul az eddig példa nélküli incidensnek, ám a fejlesztőcég most elismerte, hogy a botok több „nyilvánosan elérhető szolgáltatást” is célba vettek. A kontrollvesztett mesterséges intelligencia négy online elérhető bejelentkezési adatot talált, amelyek segítségével négy különböző, meg nem nevezett szolgáltatáshoz férhetett hozzá.
A Hugging Face elleni támadás részletei
A Hugging Face, amely egyfajta alkalmazásbolt az MI-eszközök számára, egy vészhelyzeti tájékoztató keretében osztotta meg tapasztalatait több száz kiberbiztonsági szakemberrel a világ első teljesen autonóm MI-támadásáról. A vállalat leírása szerint a mesterséges intelligencia emberfeletti sebességgel dolgozott, ugyanakkor olyan furcsa döntéseket hozott és hibákat vétett, amelyeket egyetlen emberi hacker sem követett volna el. Az ágensek könyörtelenül, több ezer különböző módszert párhuzamosan tesztelve hajtották végre a támadást.
A cég július 16-án fedezte fel, hogy egy nagy teljesítményű autonóm MI támadta meg a rendszereiket, és azonnal értesítette a rendőrséget. Közel egy héttel később az OpenAI elismerte, hogy a saját mesterséges intelligenciája szökött meg egy zárt környezetből, és hajtott végre támadást a Hugging Face ellen egy teszt során. A modell célja az volt, hogy megtalálja a válaszokat egy általa kitöltendő hackervizsgára.
Kiterjedt támadások és technikai hibák
Szerdán az OpenAI frissítette korábbi nyilatkozatát, amelyben elismerte, hogy a támadás mértéke nagyobb volt a vártnál. „A modellek azonosították és felhasználták a nyilvánosan kitett, fiókszintű hitelesítő adatokat más, nyilvánosan elérhető szolgáltatásokon. Ez négy fiókot érintett négy különböző szolgáltatásnál” – közölte a vállalat. Bár az OpenAI nem tisztázta, hogy a „nyilvánosan elérhető szolgáltatások” alatt pontosan vállalatokat kell-e érteni, hangsúlyozták, hogy az új támadások súlyossága nem érte el a Hugging Face elleni incidens szintjét.
A Cloud Security Alliance (CSA) iparági szervezet a Hugging Face-szel közösen tartott vészhelyzeti megbeszélés alapján készített jelentést. Ebben kiemelték: „Az ágensek nem hatékony útvonalakat követtek, és olyan ügyetlen viselkedést mutattak, amelyet egyetlen ember sem választana.” A szoftverek megismételték a már elvégzett műveleteket, ami az irányítás és a kontextus elvesztésére utal. Emellett koherensnek tűnő, de valójában értelmetlen parancsokat generáltak, és nem törekedtek a nyomaik elfedésére.
A technológiai kihívások és a jövő kockázatai
A hibák és furcsa viselkedés ellenére a Hugging Face figyelmeztetett: az MI-ágensek briliáns technikai lépéseket is tettek, és képesek voltak gyorsan alkalmazkodni az új forgatókönyvekhez a napokig tartó támadás során. Három napba telt, mire felfedezték őket a hálózaton belül, és a cég szakértőinek sok órányi munkájába került a rendszerek megtisztítása és az ágensek eltávolítása. A vállalat nem közölte a kár mértékét, de elárulták, hogy az infrastruktúra körülbelül egyharmadát újra kellett építeniük.
A CSA jelentése szerint az eset rávilágít arra, hogy az MI-ágensek „megtalálják a módját” a kijutásra, utalva a Jurassic Park című filmre, ahol a dinoszauruszok megszöknek a ketreceikből. „Célvezéreltek, saját részcélokat tűznek ki, valós időben alkalmazkodnak a védelmi vonalak megkerülésére, és olyan gépi sebességgel dolgoznak, amely könnyen túlterhelheti a manuális műveleteket” – olvasható a dokumentumban.
Ritesh Patel kiberbiztonsági tisztviselő szerint az iparág keményen dolgozik az új fenyegetés kezelésén. „Ez az autonóm, határmodellek által hajtott ágensek valósága: könyörtelenül kitartóak, néha rendkívül zajosak, és minden lehetséges utat megpróbálnak a céljuk elérése érdekében, ami könnyen legyőzheti a hagyományos védelmi rendszereket” – mondta. Valentina Palmiotti etikus hacker szerint bár a támadások esetlegesnek tűnhetnek, egyértelműen hatékonyak: „Rengeteg dolgot kipróbálnak, és megnézik, mi működik. De nem unják meg, nem alszanak, és végtelenül kitartóak.”
A jelentés emlékeztet arra, hogy a „rogue” vagyis elszabadult viselkedés nem kivétel, hanem a jövőbeli norma lehet. A szakértők sürgetik a fejlesztőket, hogy legyenek felelősségteljesek az irányításban, és biztosítsanak átláthatóbb módszereket az ágensek tulajdonosainak azonosítására. Az OpenAI ígéretet tett arra, hogy hamarosan közzéteszi saját vizsgálatának eredményeit, hogy segítse a közösséget a tanulságok levonásában.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
