Láthatatlan vízjelet vezet be a ChatGPT szövegeinél az OpenAI az Európai Unióban

Az NOS beszámolója szerint a ChatGPT felhasználói által generált szövegek hamarosan egy láthatatlan vízjelet kapnak. Az OpenAI célja ezzel az, hogy egyértelműbbé váljon, egy adott tartalom hiteles-e, vagy mesterséges intelligencia hozta-e létre. A textGrain névre keresztelt technológiát a közeljövőben vezetik be az Európai Unió területén élő felhasználók számára, míg az unión kívüli régiókban egyelőre nem alkalmazzák ezt a megoldást.

Nem látható, de kimutatható

A vízjel nem egy fizikai bélyegző vagy speciális karakter, hanem az AI-modell szóhasználatába épített finom mintázat, amelyet az átlagos felhasználók nem tudnak észlelni. A rendszer működését egy speciális detektor teszi lehetővé, amely képes felismerni a mesterséges intelligencia által generált szavakat és mondatszerkezeteket. Az OpenAI tájékoztatása szerint a technológia jelenleg csak a jóváhagyott kutatók és szakértői szervezetek számára érhető el.

A vállalat elismerte, hogy bár a rendszer robusztus, nem tekinthető hibátlannak. Különösen a rövid vagy utólag szerkesztett szövegek esetében okozhat nehézséget a megbízható detektálás. Hasonló lépést tett két hónappal ezelőtt az Anthropic is, amely a Claude chatbot esetében vezetett be világszerte alkalmazott, szintén láthatatlan vízjelet.

Verseny és átláthatóság

A fejlesztések hátterében az Európai Unió új, mesterséges intelligenciára vonatkozó átláthatósági szabályai állnak, amelyek előírják az AI által készített tartalmak megjelölését. Bert Hubert technológiai szakértő szerint ugyanakkor a cégek közötti verseny is hajtja a folyamatot. A szakértő úgy véli, a vállalatoknak lépniük kell, hogy ne kerüljenek hátrányba a piaci bizalom terén.

A vízjelek jelentősége a csalások elleni küzdelemben is kiemelkedő lehet. Hubert rámutatott, hogy a technológia segíthet kiszűrni a megtévesztő, például energiavállalatok nevében küldött, de valójában AI által írt adathalász e-maileket. A fejlesztés tehát nem csupán jogszabályi megfelelés, hanem a digitális biztonság növelésének eszköze is lehet a jövőben.