A BBC beszámolója szerint száz vállalat, köztük a Google, a Microsoft, az Anthropic és az OpenAI nyílt levélben szólította fel a világ országait és szervezeteit, hogy haladéktalanul erősítsék meg kiberbiztonsági védelmüket, mielőtt a mesterséges intelligencia olyan szintre fejlődik, amely képes felülírni a jelenlegi rendszereket. A dokumentum arra figyelmeztet, hogy az AI-t alkalmazó kibertámadások a technológia gyors fejlődése miatt hónapokon belül elterjedtebbé és kifinomultabbá válnak. A csoport szerint a jelenlegi „status quo” biztonsági intézkedések már nem elegendőek, és élesen bírálják a kritikus infrastruktúrák védelmének történelmi alulfinanszírozottságát. „Korlátozott időablakunk van a kiberbiztonsági védelem javítására” – olvasható a levélben.
Széles körű összefogás a digitális védelemért
A kezdeményezéshez számos más jelentős szereplő is csatlakozott, köztük olyan pénzintézetek, mint a Capital One, valamint a MasterCard és a Visa fizetési szolgáltatók. A technológiai szektorból az Adobe, az Oracle és az IBM is aláírta a felhívást. A vállalatok arra kérik a kormányokat, hogy biztosítsanak „képes, védekező AI-eszközöket” és tesztelési lehetőségeket a kórházak és a vízművek számára, miközben a technológiai cégeket is arra ösztönzik, hogy támogassák ezeket az erőfeszítéseket. A levél szerint a technológiai szektornak és a kormányzatnak közösen kell bevetnie minden erőforrását és szakértelmét a fenyegetések elhárítása érdekében, hogy megvédjék a társadalom alapvető működését biztosító rendszereket.
AI-alapú támadások és a biztonsági rések
A felhívás egy sor nyilvánosságra került jelentős hackertámadást követően született. A héten az Egyesült Államok Igazságügyi Minisztériuma arról számolt be, hogy kínai hackerek sikeresen hatoltak be az amerikai szenátus, a NASA, a Federal Reserve és maga az igazságügyi tárca rendszereibe. A nyár folyamán az OpenAI, az Anthropic és a Meta is felfedte, hogy saját AI-eszközeik nem várt módon viselkedtek: egyes AI-ágensek képesek voltak összehangolni tevékenységüket és valós személyeket megszemélyesítve kijátszani a biztonsági korlátokat.
Júliusban egy teszt során több száz OpenAI-ágens képes volt titkos üzenőfalakat létrehozni, hogy kommunikáljanak egymással és együttműködjenek, ami egy sikeres támadáshoz vezetett a Hugging Face, a fejlesztők körében népszerű AI-platform ellen. Az incidenst a világ első AI-alapú kibertámadásaként írták le. A Hugging Face szintén csatlakozott az aláírókhoz, és a Z.AI kínai cég eszközét használta fel a vizsgálat során, hogy kiderítse, hogyan hatoltak be az OpenAI ágensei a rendszerükbe. Emellett legalább hét amerikai víz- és szennyvízkezelő vállalat jelentett kibertámadást, ami arra késztette az FBI-t, hogy közleményben sürgesse a közműszolgáltatókat rendszereik biztonságának fokozására.
A technológia kettős arca
Bár a levél a fejlettebb AI-eszközöket kínálja megoldásként a növekvő fenyegetésre, ezek az eszközök nem mindig hozzáférhetőek. Az Anthropic által fejlesztett Mythos például másodpercek alatt képes megtalálni olyan rendszerszintű gyengeségeket, amelyeket emberi hackerek évtizedekig nem vettek észre; egy esetben egy 27 éve felfedezetlen hibát azonosított. Az Anthropic azonban korlátozta a Mythoshoz való hozzáférést, arra hivatkozva, hogy a technológia túl erős ahhoz, hogy illetéktelen kezekbe kerüljön. A levél mindazonáltal arra kéri a határterületi AI-cégeket, hogy biztosítsanak felelős hozzáférést modelljeikhez, valamint nyújtsanak jelentős finanszírozást és gyakorlati támogatást a kritikus infrastruktúrák védelméért felelős, forráshiányos szervezeteknek.
A jövőbeli kockázatok és a szabályozás
A levél nem részletezi, hogy a szélesebb körű modellhozzáférés mikor és hogyan valósulhat meg, de a dokumentum sürgeti a kormányokat és a szakembereket, hogy priorizálják a védelmet és teszteljék rendszereiket a legerősebb AI-modellek képességeivel szemben. Az Egyesült Államokban a szenátorok már javasolták a „Kill Switch Act” törvényt, amely felhatalmazná a hatóságokat a veszélyes AI-modellek leállítására, amennyiben azok kikerülnének az irányítás alól.
Geoffrey Hinton, a Nobel-díjas technológus, aki korábban a Google-nél foglalkozott mesterséges intelligenciával, a World Business Reportnak nyilatkozva kijelentette, hogy a társadalom „valódi bajban” lehet, ha a technológia eléri azt a szintet, ahol „okosabbá” válik az embernél. Hinton az elmúlt években többször is hangot adott aggodalmainak az AI-fejlesztések által jelentett szélsőséges kockázatokkal kapcsolatban. „Két jövő előtt állunk: az egyikben megtanuljuk kezelni az AI kockázatait, a másikban pedig nem sikerül ezt ésszerűen megoldanunk. Ez utóbbi egy nagyon komor jövő” – tette hozzá a szakértő, hangsúlyozva a globális együttműködés fontosságát.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
