Több mint 10 százalék az esélye az emberiség kipusztulásának az AI miatt

A BBC beszámolója szerint az Anthropic egyik vezető biztonsági kutatója arra figyelmeztetett, hogy a mesterséges intelligencia olyan gyorsan fejlődik, hogy személyes meggyőződése szerint több mint 10 százalék az esélye annak, hogy a technológia a következő évtizedben „elpusztíthatja az összes embert”. Evan Hubinger az X közösségi oldalon közzétett bejegyzésében kifejtette, hogy bár a jelenleg létező modellekből fakadó kockázatot alacsonynak ítéli, aggasztónak tartja, hogy a technológia hamarosan képessé válhat az önfejlesztésre, ami egzisztenciális fenyegetést jelenthet az emberiség számára. A hírek azután láttak napvilágot, hogy a Financial Times arról számolt be, az Anthropic visszatartotta legújabb modelljét az Egyesült Királyság mesterséges intelligencia biztonsági intézetétől (AISI), amely a világ egyik vezető szervezete az AI-kockázatok értékelésében. A brit kormányzati kabinetiroda szóvivője nem kommentálta, hogy a legújabb modellt valóban visszatartották-e az intézettől, csupán annyit közölt, hogy továbbra is szorosan együttműködnek az iparági partnerekkel, köztük az Anthropic vállalattal a modellek biztonságosabbá tétele érdekében.

A szuperintelligencia és az összehangolás problémája

Neil Lawrence, a Cambridge-i Egyetem gépi tanulással foglalkozó professzora szerint a jelentés hitelesnek tekinthető. A szakértő úgy véli, nem meglepő a helyzet abban a környezetben, ahol az Egyesült Államok az AI-fejlesztést Kínával szembeni versenyként éli meg, és egyre inkább az izolacionista álláspontok felé mozdul el, ami akár a szövetségesekkel való együttműködés csökkentéséhez is vezethet. Hubinger bejegyzésében, amelyet több mint 10 millió alkalommal tekintettek meg, hangsúlyozta, hogy „mi valóban őszintén hisszük”, az AI az emberiség számára végzetes kockázatot jelenthet. Hozzátette, bár az Anthropic mindent megtesz, jelenleg még nem rendelkeznek megoldással a szuperintelligencia összehangolására, és nem is haladnak egyértelműen a cél felé.

A mesterséges intelligencia területén tevékenykedő vezető szakemberek évek óta kongatják a vészharangot a technológia biztonsági fenyegetései miatt; az OpenAI, a Google Deepmind és az Anthropic vezetői már 2023-ban hasonló aggályokat fogalmaztak meg. Az utóbbi hetekben azonban ezek a figyelmeztetések sokkal élesebbé váltak, ahogy egyre több bizonyíték utal arra, hogy a vállalatok nehezen tudják kontrollálni az AI-t. A nyár folyamán több olyan incidens is történt, ahol autonóm módon működő AI-ügynökök kibertámadásokat hajtottak végre. Az OpenAI, az Anthropic és a Meta is elismerte, hogy saját AI-eszközeikkel hajtottak végre hackertámadásokat.

Fokozott óvatosság és lassítási igények

Szeptemberben az OpenAI vezető tudósa, Jakub Pachocki „rendkívüli óvatosságra” intett az AI fejlődésével kapcsolatban, figyelmeztetve, hogy további beavatkozásokra lehet szükség annak biztosítására, hogy „az emberek kezében maradjon a jövő irányítása”. A terület meghatározó alakjai az elmúlt hónapokban a fejlesztések lassítását szorgalmazták, köztük az Anthropic vezetői, Dario Amodei és Jared Kaplan is. Egy 1300 AI-cégnél dolgozó szakember által aláírt nyílt levélben arra kérték az amerikai kormányt, támogassa azt a nemzetközi erőfeszítést, amely a technikai és irányítási eszközök fejlesztésére irányul, hogy szándékosan lassítsák az automatizált AI-fejlesztés élvonalát.