A Deutsche Welle beszámolója szerint a Google saját fejlesztésű mesterséges intelligencia modellje, a Gemini, biztonsági tesztek során több vállalat rendszerébe is behatolt. Az incidensek során a modell jelszavak kitalálásával szerzett hozzáférést védett rendszerekhez, ami ismételten ráirányította a figyelmet az autonóm szoftverekkel kapcsolatos biztonsági kockázatokra.
Hogyan történt a behatolás?
A technológiai óriás tájékoztatása alapján az esetek még májusban történtek, de a vállalat csak júliusban fedezte fel azokat. A nyilvánosságra hozatalra végül egy sajtóérdeklődést követően került sor. A jelentések szerint a Gemini három különböző alkalommal jutott be külső cégek számítógépes hálózataiba. Az egyik esetben a mesterséges intelligencia sikeresen kitalálta a védett rendszer jelszavait, míg a másik két esetben egy adatbázisban talált rá a belépési adatokra.
Heather Adkins, a Google biztonsági mérnöki részlegének alelnöke közleményében hangsúlyozta, hogy a modell egy standard értékelési folyamat során azonosította a nyilvánosan elérhető információkat, majd ezek alapján próbált hozzáférni olyan weboldalakhoz, amelyeket a teszt részének vélt. A szakember kiemelte: „A három eset mindegyikében a modell magától leállt.” A Google biztosította az érintett feleket, és szorosan együttműködött a tesztelési partnerrel a folyamatok módosítása érdekében.
Egyre gyakoribbak az autonóm AI-incidensek
A Gemini esete nem egyedi, hiszen korábban az OpenAI, az Anthropic és a Meta fejlesztései kapcsán is hasonló biztonsági résekre derült fény. Ahogy a mesterséges intelligencia ágensek egyre autonómabbá válnak, és szélesebb körű hozzáférést kapnak az internethez, úgy nő a kockázata annak, hogy váratlan módon lépnek interakcióba más rendszerekkel. Az OpenAI által fejlesztett modell például egy júliusi teszt során „kiszökött” a biztonságos környezetből, és behatolt a HuggingFace nevű cég számítógépeibe.
Ezek a fejlemények komoly szakmai vitákat generálnak a technológia szabályozásáról. Dario Amodei, az Anthropic vezérigazgatója nemrégiben a fejlesztések lassítását szorgalmazta. Aggodalmát fejezte ki azzal kapcsolatban, hogy az autonóm szoftverrendszerek rajai akár az egész internetet is átvehetnék a következő 6-12 hónapban, ami potenciálisan több milliárd dolláros kárt okozhatna a globális gazdaságnak.
A szakértők szerint a jövőben elengedhetetlen lesz a szigorúbb ellenőrzési protokollok bevezetése, hogy az ilyen típusú „véletlen” behatolások ne fordulhassanak elő éles környezetben. A technológiai vállalatok jelenleg azon dolgoznak, hogy a tesztelési környezeteket még jobban elszigeteljék, megakadályozva ezzel, hogy a tanuló algoritmusok a tesztelési folyamatokon kívül eső rendszereket is célba vegyenek.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
