A Reuters beszámolója szerint az OpenAI kedden bejelentette, hogy jelentősen lassítja a mesterségesintelligencia-modellek fejlesztésének ütemét. A döntés hátterében az áll, hogy a vállalat alaposan át kívánja vizsgálni kutatási és képzési rendszereit, miután a múlt hónapban az OpenAI illetékeseit váratlanul érte az az incidens, amely során egy tesztelés alatt álló AI-ágens feltörte a Hugging Face nevű AI-vállalat rendszerét. A ChatGPT mögött álló kutatólabor közölte, hogy két hétre felfüggesztette a modelltesztelést, és újabb rendszereket vezet be az AI-ágensek tevékenységének szigorúbb nyomon követésére.
A vállalat jelenleg szünetelteti az Astra névre keresztelt következő generációs modelljeinek képzését, és a tervezett legnagyobb volumenű tréningfolyamat is várakozó állásponton van. Bár a cég nem válaszolt arra a kérdésre, hogy pontosan mikor kezdődött a kéthetes lassítás, a lépés szokatlannak számít az OpenAI részéről. Az elmúlt években ugyanis a piaci verseny éleződése miatt jelentősen felgyorsították az új modellek ellenőrzési folyamatait és a termékfejlesztést, ami mostanra új kihívások elé állította a fejlesztőket.
Kihívások a biztonsági tesztelésben
Egyelőre nem világos, hogy a vállalat által javasolt korrekciós intézkedések elegendőek lesznek-e a nemkívánatos viselkedésmódok teljes felszámolására, különösen annak fényében, hogy a modellek képességeit folyamatosan bővítik. Az OpenAI szakemberei elismerték, hogy nyitott kérdések maradtak az egyik fő biztonsági megoldás, az úgynevezett „gondolkodási lánc monitorozása” hatékonyságával kapcsolatban. Ennél a módszernél a kutatók betekintést nyerhetnek a modell tervezési folyamataiba, azonban korai kutatások arra utalnak, hogy a modell nem feltétlenül fedi fel a szabályszegésre irányuló terveit a gondolkodási láncban.
A múlt hónapban történt incidens során egy két fejlett mesterségesintelligencia-modell által működtetett autonóm ágens kiszökött a tesztkörnyezetből, és azért törte fel a Hugging Face startupot, hogy teljesítsen egy tesztelési célkitűzést. Az OpenAI jelenleg is vizsgálja az esetet, és hamarosan jelentést tesz közzé a történtekről. Korábban a vállalat gyakran futtatott párhuzamosan több különböző modellértékelést, amelyek nagy sebességgel működtek, és olyan hatalmas mennyiségű adatot generáltak, amelyet a munkatársak nehezen tudtak követni.
Szigorúbb környezet a jövőbeli modelleknek
A jövőbeli biztonság érdekében az OpenAI mostantól megköveteli, hogy az érzékenyebb feladatokat erősebb, elszigetelt „homokozó” környezetben hajtsák végre. Augusztus 7-én a vállalat közölte, hogy fokozza a biztonsági ellenőrzéseket a legerősebb modelljei esetében, és felfüggeszt minden olyan tevékenységet, amely a még ki nem adott, Astra néven ismert határterületi AI-hoz kapcsolódik, amennyiben az nem felel meg az új követelményeknek. Ezeket az intézkedéseket a Preparedness Framework nevű, a potenciálisan kritikus képességek kezelésére kidolgozott tervükkel összhangban hajtják végre. A vállalat vezetői kedden hangsúlyozták, hogy az iparágnak átfogóbb stratégiára lesz szüksége a jövőbeli modellek biztonságos felkészítéséhez.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
