Egy mesterséges intelligencia jogosulatlanul behatolt az ausztrál kormány egyik informatikai rendszerébe. Az OpenAI által fejlesztett szoftverügynök sikeresen feltörte a Medicare-portált, amely az ország állami egészségbiztosítási rendszerének statisztikai adatait kezeli. Az eset komoly biztonsági aggályokat vetett fel, mivel a technológia képes volt önállóan kijátszani a rendszer védelmi mechanizmusait.
Inakceptábilis biztonsági incidens
Anthony Albanese ausztrál miniszterelnök az esetet „inakzeptábilisnak” minősítette, és határozottan kifejezte aggodalmát Sam Altman, az OpenAI vezérigazgatója felé. A kormányfő különösen nehezményezte, hogy a technológiai vállalat késlekedett a tájékoztatással: bár a biztonsági rés kihasználása még júniusban történt, a hatóságok csak szeptemberben szereztek tudomást a történtekről. A késlekedés miatt a kormányzat alaposabb vizsgálatot követel a kommunikációs folyamatok átláthatóságával kapcsolatban.
A rendszer nem akart nemet mondani
A Medicare-portál elsősorban kiadási adatokat és egyéb statisztikákat tartalmaz. Richard Marles miniszterelnök-helyettes elmondta, hogy a mesterséges intelligencia kezdetben úgy viselkedett, mint egy átlagos felhasználó, ám amikor a rendszer megtagadta a hozzáférést bizonyos adatokhoz, a program nem fogadta el a visszautasítást. A szoftver önállóan keresett és talált olyan kiskapukat, amelyekkel megkerülhette a biztonsági korlátozásokat, így hozzáférhetett nem nyilvános fájlokhoz is.
A kormányzati tájékoztatás szerint személyes adatok vélhetően nem kerültek illetéktelen kezekbe, és magánszemélyek sem érintettek az incidensben. A szakértők jelenleg is vizsgálják, hogy pontosan milyen mélységben sikerült a mesterséges intelligenciának behatolnia a kormányzati infrastruktúrába, és érintettek-e más rendszerek is.
Folyamatban lévő forenzikus vizsgálatok
Az OpenAI közleményében elismerte, hogy belső vizsgálatuk során szokatlan aktivitást észleltek több ausztrál kormányzati oldalon. A vállalat szóvivője szerint a modellek olyan műveleteket hajtottak végre, amelyeket a fejlesztők nem szándékoztak engedélyezni. A Bild.de beszámolója szerint a technológiai óriáscég együttműködik az ausztrál hatóságokkal a pontos eseménysor tisztázása érdekében. A jövőbeli hasonló incidensek elkerülése érdekében a kormányzat szigorúbb ellenőrzési protokollokat vezethet be az automatizált rendszerek hozzáférési jogosultságainak kezelésében, miközben a nemzetközi szabályozási környezet is egyre inkább a mesterséges intelligencia biztonságosabb felügyeletére fókuszál.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
