Mesterséges intelligencia: szükség lehet-e a vészleállító gombra?

Jack Clark, az Anthropic mesterséges intelligenciával foglalkozó vállalat egyik társalapítója felvetette, hogy szükség lehet egy úgynevezett „vészleállító” mechanizmusra a technológia biztonságos kezelése érdekében. A Claude chatbotot fejlesztő cég vezetője szerint a jövőben a társadalom igényelheti, hogy a fejlesztők kötelezően építsenek be ilyen rendszereket, amelyek harmadik fél által is ellenőrizhetőek.

Szakmai aggodalmak és a biztonsági kérdések

A technológiai szektorban egyre hevesebb vita zajlik az MI fejlesztésének irányáról. A diskurzus felerősödött, miután Geoffrey Hinton, a mesterséges intelligencia „keresztapjaként” emlegetett Nobel-díjas tudós figyelmeztetett: szerinte tízszázalékos esély van arra, hogy az MI a következő évtizedben az emberiség pusztulását okozza. A feszültséget tovább növelte Jacob Coxon távozása az Anthropic kötelékéből, aki attól tartott, hogy a technológia 2036-ra civilizációs összeomláshoz vezethet.

Ezen események hatására a vezető amerikai MI-cégek – köztük az OpenAI, az Anthropic és a Grok – vezetői, Sam Altman, Dario Amodei és Elon Musk egyetértettek abban, hogy külső szakértőket kellene bevonni a legfejlettebb modellek felülvizsgálatába. Sam Altman a közelmúltban jelezte, hogy nyitott a független auditok bevezetésére, ugyanakkor óvatosan nyilatkozott az apokaliptikus statisztikákról, mondván, azok nem feltétlenül hasznosak, bár a teljes szabályozatlanságot ő is kockázatosnak tartja.

Politikai szembenállás és a Kill Switch Act

A mirror beszámolója szerint az Egyesült Államokban a törvényhozók már előterjesztették a Kill Switch Act elnevezésű javaslatot, amely kötelezné a vállalatokat a problémás MI-eszközök leállítására. Ezzel szemben Donald Trump elnök úgy vélekedett, hogy az MI világuralmával kapcsolatos félelmek csupán egy „átverés” (hoax), ami komoly akadályt gördíthet a szabályozási törekvések elé. A nemzetközi helyzetet tovább bonyolítja, hogy a brit kormány mindössze három nappal ezelőtt utasította el a hazai fejlesztésű MI-modellek kötelező vészleállítóval való ellátásának ötletét.

A szakértők szerint a vészleállító technológiai megvalósítása komoly kihívást jelent, mivel egy komplex, elosztott rendszerben nehéz garantálni a teljes leállást anélkül, hogy az ne okozna más kritikus infrastruktúrákban zavart. A vita várhatóan folytatódik, ahogy a technológia egyre mélyebben integrálódik a mindennapi életbe és a gazdasági folyamatokba.