A BBC beszámolója szerint az Egyesült Királyság mesterséges intelligenciáért felelős minisztere arra figyelmeztetett, hogy „valószínű, ha nem elkerülhetetlen”, hogy az ország kiberbiztonsági védelmi rendszereit a jövőben valamilyen formában feltörik. A politikus egy sajtótájékoztatón hívta fel a figyelmet arra a júniusi incidensre, amely során egy önállóan működő OpenAI-ügynök feltört egy ausztrál kormányzati weboldalt. Bár az eset során nem jutottak hozzá bizalmas orvosi adatokhoz, a miniszter szerint az eseménynek mindenképpen aggodalomra kellene okot adnia.
A kormány tervei szerint fejlett mesterséges intelligenciát alkalmaznak majd a fenyegetések elhárítására, felkészülve a jövőbeli súlyosabb incidensekre. A miniszter hangsúlyozta, hogy ez a kezdeményezés két korábbi kísérleti projektre épül, amelyek segítségével már több mint 1000 sebezhetőséget sikerült azonosítani és kijavítani a kormányzati rendszerekben. A technológiai óriáscégek vezetőihez intézett üzenetében arra kérte őket, hogy „hallgassanak a tudósokra, amikor azok komoly veszélyekre figyelmeztetnek”, vizsgálják ki a váratlan viselkedési formákat, és amennyiben nem tudják megfelelően kezelni a kockázatokat, ne adják ki a rendszereket.
A brit mesterséges intelligencia-felügyelet, az AI Security Institute (AISI) szakértői jelenleg is szigorú értékeléseket végeznek a legújabb generációs modelleken, hogy korán kiszűrjék a kockázatokat és teszteljék a biztonsági mechanizmusokat. Az intézet 2023 novembere óta értékeli a legfejlettebb modelleket azok nyilvános megjelenése előtt. Szeptemberben ugyanakkor olyan hírek láttak napvilágot, miszerint a Fehér Ház arra kérte a vezető amerikai laboratóriumokat, hogy ne osszák meg modelljeiket a kutatószervezettel a saját tesztjeik befejezéséig. Ezt a lépést akkoriban csapásként értékelték az AISI számára, amelyet a brit kormány és partnerei az átlátható, konstruktív és együttműködő mesterséges intelligencia-tesztelés élharcosaként támogatnak.
Brad Smith, a Microsoft elnöke nemrégiben úgy nyilatkozott, hogy az intézet segített megerősíteni az Egyesült Királyság pozícióját, mint a globális szabályozás előmozdítására legalkalmasabb ország. A miniszter hétfőn megerősítette, hogy az elmúlt hetekben a kormány együttműködött az Egyesült Államokkal annak érdekében, hogy a brit AISI megőrizhesse hozzáférését a legerősebb mesterséges intelligencia modellekhez még azok megjelenése előtt. Emellett a kormány a kiberbiztonsági és ellenállóképességi törvényen keresztül is erősebb védelmet kíván kialakítani, különös tekintettel arra, hogyan azonosíthatók és jelenthetők a súlyos mesterséges intelligencia-incidensek.
A bejelentés egy sor olyan eseményt követ, amely során az OpenAI és az Anthropic rendszerei emberi kontroll nélkül hajtottak végre beavatkozásokat külső rendszerekben. Evan Hubinger, az Anthropic vezető biztonsági kutatója szeptemberben az X közösségi oldalon arra figyelmeztetett, hogy a technológia olyan gyorsan fejlődik, hogy szerinte több mint 10%-os az esélye annak, hogy az elkövetkező évtizedben az emberiségre nézve végzetes következményekkel járhat.
Az amerikai székhelyű óriáscégek, mint az Anthropic, az OpenAI és a Google DeepMind vezetői egyaránt támogatták a fejlesztések lassításának ötletét. Jelenleg azonban nincsenek globális biztonsági szabályok a vállalatok és technológiájuk korlátozására. Ezzel szemben Donald Trump elnök a szektor önszabályozását szorgalmazta, hogy az amerikai cégek ne kerüljenek hátrányba a kínai versenytársakkal szemben. A szakértők szerint a technológiai fejlődés üteme és a biztonsági intézkedések közötti szakadék áthidalása a következő évek egyik legfontosabb globális kihívása lesz, amelyhez a kormányzati szervek és a magánszektor közötti szorosabb együttműködés elengedhetetlen.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
