Láthatatlan vízjelekkel jelölnék a ChatGPT által írt szövegeket

A Tagesschau beszámolója szerint hamarosan láthatatlan vízjelek segíthetnek annak eldöntésében, hogy egy adott szöveg emberi kéz vagy mesterséges intelligencia munkája-e. Az OpenAI bejelentette, hogy a ChatGPT esetében is bevezeti ezt a megoldást, amely összhangban áll az augusztus elején életbe lépett európai uniós AI-törvény előírásaival. A jogszabály kötelezi a fejlesztőket arra, hogy géppel olvasható jelöléseket alkalmazzanak a mesterséges intelligencia által létrehozott tartalmakon, és más nagy piaci szereplők, mint az Anthropic vagy a Google, szintén hasonló lépéseket tettek vagy már alkalmazzák is ezeket a technológiákat.

A mindennapi internetezés során egyre gyakrabban találkozunk olyan szövegekkel, amelyeket chatbotok írtak, legyen szó termékleírásokról, álláspályázatokról, egyetemi dolgozatokról vagy akár politikai állásfoglalásokról. A vízjelezés folyamata a nyelv természetes rugalmasságát használja ki. Mivel ugyanaz a tartalom többféleképpen is megfogalmazható, például „én ma moziba megyek” vagy „én ma moziba szeretnék menni”, a mesterséges intelligencia a szöveggenerálás során finoman irányítható.

Normál esetben a modell minden lehetséges következő szónál valószínűségi alapon választ, mintha egy kockával dobna. A vízjelezés során ezt a „valószínűségi kockát” kissé manipulálják: bizonyos szavakat minimálisan előnyben részesítenek, másokat pedig hátrébb sorolnak anélkül, hogy a mondanivaló tartalma megváltozna. Ez egy olyan statisztikai mintázatot hoz létre, amely az olvasó számára láthatatlan, és még hosszas elemzéssel sem mutatható ki.

Ez a folyamat minden egyes szónál újra és újra megtörténik, így a módosítások a teljes szövegben észrevétlenek maradnak. A vízjel megléte csak akkor igazolható, ha valaki ismeri azt a titkos „kulcsot”, amely leírja, hogyan manipulálták a valószínűségi eloszlást. Waldemar Berchtold, a Fraunhofer Intézet csoportvezetője szerint ez a titkosság elengedhetetlen, hiszen ha bárki vissza tudná fejteni a folyamatot, könnyen el is távolíthatná a vízjelet, vagy akár sajátot is generálhatna.

A szakértő ugyanakkor rámutatott a technológia technikai korlátaira is. A vízjelezés csak egy bizonyos szöveghossz, körülbelül 200-300 szó felett működik megbízhatóan. Problémát jelenthet az is, ha a felhasználó átírja a szöveget, hiszen ezzel a stílusbeli változtatással a vízjel mintázata is sérülhet. Emiatt a detektálási eljárás nem százszázalékos biztonsággal, hanem csupán valószínűségi alapon képes jelezni a mesterséges eredetet.

A vízjelek alkalmazása nem csupán az uniós előírásoknak való megfelelés miatt fontos. A nyelvi modellek fejlesztői számára saját érdek is fűződik a technológia alkalmazásához. A modellek folyamatos fejlesztéséhez ugyanis elengedhetetlen a minőségi adatokkal való feltöltés, így a gyártók számára kulcsfontosságú, hogy képesek legyenek megkülönböztetni saját modelljeik kimeneteit az egyéb forrásoktól.

A jövőben a felhasználók és az intézmények számára is egyszerűbbé válhat az ellenőrzés, mivel a fejlesztők várhatóan olyan detektorokat tesznek elérhetővé, amelyek százalékos valószínűséggel képesek megmutatni, hogy egy adott szöveg mesterséges intelligencia közreműködésével készült-e. Ez a transzparencia jelentős lépés lehet a digitális tartalomhitelesség megőrzése felé, különösen az oktatási és a közszférában, ahol a hiteles forrásmegjelölés alapvető követelmény.

A technológia fejlődésével párhuzamosan a piaci verseny is fokozódik, hiszen a különböző cégek eltérő módszerekkel próbálják biztosítani a tartalom eredetiségét. A vízjelezés mellett a jövőben várhatóan további hitelesítési eljárások is megjelennek, amelyek együttesen segíthetik a felhasználókat a hiteles információk kiszűrésében.

A szakmai közösség szerint a vízjelezés egyfajta „digitális ujjlenyomatként” szolgálhat, amely a mesterséges intelligencia által generált tartalmakat megkülönböztethetővé teszi az emberi alkotásoktól. Bár a technológia még nem tökéletes, a folyamatos fejlesztések révén egyre megbízhatóbbá válhat a jövőben.

A szabályozási környezet változásaival párhuzamosan a technológiai cégeknek is alkalmazkodniuk kell, ami újabb kihívásokat és lehetőségeket teremt a mesterséges intelligencia fejlesztésében. A vízjelezés bevezetése csak az első lépés a digitális tér átláthatóbbá tételében.

A folyamat során a fejlesztőknek ügyelniük kell arra, hogy a vízjelek ne rontsák a szöveg minőségét vagy olvashatóságát, miközben biztosítják a hatékony azonosíthatóságot. A jövőbeli megoldások valószínűleg még kifinomultabbak lesznek, és képesek lesznek kezelni a szövegek módosításából adódó pontatlanságokat is.