A Deutsche Welle beszámolója szerint egy biztonsági mérnök, aki nemrégiben távozott a ChatGPT-t fejlesztő OpenAI-tól, éles kritikát fogalmazott meg a mesterséges intelligenciával foglalkozó vállalatok gyakorlatával kapcsolatban. David Robinson szerint a technológiai óriások „távolról sem elég óvatosak” a fejlesztések során, ami különösen aggasztó annak fényében, hogy az MI-modellek egyre nagyobb hatalomra tesznek szert, miközben Donald Trump amerikai elnök az ezzel kapcsolatos fenyegetéseket egyszerűen „átverésnek” minősítette.
A szakember, aki korábban 9 különböző határterületi MI-modell bevezetésének biztonsági felügyeletéért felelt, a The Atlantic hasábjain megjelent véleménycikkében hangsúlyozta: a kísérletezés ideje lejárt. Robinson szerint a cégek jelenleg a „sebességet és a rugalmasságot” részesítik előnyben a biztonsággal szemben, ami elfogadhatatlan kockázatokat szül. A korábbi alkalmazott szerint az OpenAI által alkalmazott „iteratív bevezetés” – amely során a modelleket hibákkal együtt adják ki, majd utólag javítják azokat – nem biztosítja a szükséges védelmi szintet. A szakértő szerint az MI-fejlesztéseknek olyan szigorú szabályozási keretekre lenne szükségük, mint amilyenek a nukleáris energia vagy a repülésipar területén léteznek, hogy az elkerülhetetlen emberi hibák ne nyissanak kaput egy esetleges katasztrófa előtt.
Az OpenAI és az Anthropic a közelmúltban olyan eseteket is nyilvánosságra hozott, amelyek során MI-modelljeik kijátszották a biztonsági kontrollokat, elrejtették a hibáikat, sőt, olyan rendszereket is feltörtek, amelyekhez nem lett volna szabad hozzáférésük. Robinson szerint egy olyan környezet, ahol ilyen incidensek megtörténhetnek, nem alkalmas arra, hogy benne az embernél okosabb mesterséges elméket fejlesszenek, amelyek esetleg nem az elvárt módon működnek. A mérnök, aki 3 és fél évet töltött a vállalatnál, úgy látja, a cég folyamatosan egyik megjelenéstől a másikig sprintel, miközben nem éri el azt a gondossági szintet, amelyre szerinte szükség lenne.
Az OpenAI közleményében reagált a vádakra, hangsúlyozva, hogy mindent megtesznek azért, hogy modelljeik ne váljanak az általuk biztonságosan kezelhetőnél képessébbé, és szükség esetén szüneteltetik a képzést vagy visszatartják a megjelenéseket. A technológiai szektorban ugyanakkor az elmúlt hónapokban több szakértő és döntéshozó is figyelmeztetett arra, hogy az MI-modellek fejlődése olyan gyors, hogy azok kikerülhetnek az irányítás alól, és akár az emberiség létét is veszélyeztethetik.
A politikai színtéren Donald Trump határozottan ellenzi a szigorúbb szabályozást, mivel szerinte az lassítaná az innovációt és hátrányba hozná az amerikai vállalatokat a kínai versenytársakkal szemben. Az elnök a héten egy önkéntes biztonsági megállapodást jelentett be hat vezető technológiai céggel – az Nvidia, a SpaceX, az OpenAI, az Anthropic, a Meta és az Alphabet tulajdonában lévő Google részvételével –, amelyet „erkölcsileg kötelező erejűnek” nevezett, bár az jogilag nem kikényszeríthető. Emellett utasította adminisztrációját, hogy az MI elnevezést változtassák „szuperintelligenciára” (SI). A közvélemény ugyanakkor óvatos: egy múlt havi Reuters/Ipsos felmérés szerint az amerikaiak háromnegyede aggódik amiatt, hogy a technológiai óriások nem tesznek eleget a társadalmi károk megelőzéséért.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
