A BBC beszámolója szerint a Google visszavonta azt az új mesterségesintelligencia-eszközt, amely lehetővé tette a felhasználók számára, hogy hamis képeket hozzanak létre a műholdas felvételeken. A döntés azután született, hogy szakértők figyelmeztettek a technológia lehetséges visszaéléseire és a félretájékoztatás terjedésének kockázatára. A technológiai óriás kevesebb mint 48 órával azután, hogy bejelentette a Nano Banana 2 nevű AI-képgenerátor integrációját a Google Earth szolgáltatásba, közölte, hogy szünetelteti a funkciót, amíg „erősebb korlátokat nem vezetnek be”.
Pénteki nyilatkozatában a vállalat elismerte, hogy olyan képernyőképeket láttak, amelyeken generált képek szerepeltek, és amelyek látszólag megsértették a szabályzatukat. A visszavont funkció lehetővé tette a felhasználóknak, hogy szöveges utasításokkal hamis forgatókönyveket generáljanak a valódi műholdas, légi vagy 3D-s felvételek alaprétegére, amelyeket aztán le lehetett tölteni és megosztani más platformokon. A cég hangsúlyozta, tudják, hogy az emberek különleges bizalommal viseltetnek a Google Earth iránt, mint a világ megbízható forrása.
A hamisítások veszélyei és a szakértői kritikák
Szakértők arra figyelmeztettek, hogy az eszközt könnyen felhasználhatják félretájékoztatásra, kihasználva a Google hitelességét. A tesztek során olyan képeket sikerült létrehozni, mint egy összeomlott Eiffel-torony, a gízai nagy piramist elnyelő víznyelő vagy orosz harckocsik Ukrajna fővárosában. Henk van Ess, az AI és a félretájékoztatás szakértője rámutatott, hogy a Google lehetővé tette a „kitalált” képek „valódi koordinátákhoz hegesztését, valódi felvételekre rajzolva”. Hozzátette: „A hamisítványnak önmagában nem kell meggyőzőnek lennie. Örökli annak a térképnek a hitelességét, amelyen született.”
A Google szerint az eszközeik által létrehozott AI-tartalmak láthatatlan vízjeleket tartalmaznak, amelyek jelzik, hogy hamisak vagy manipuláltak. A vállalat azt javasolja, hogy aki bizonytalan egy kép hitelességében, ellenőrizze azt a Gemini chatbot alkalmazással vagy a kereső Lens funkciójával. Bár a tesztek többségében ez hatékonynak bizonyult, kiderült, hogy bizonyos esetekben ezek az ellenőrzések megkerülhetők, és a Gemini megtéveszthető, hogy valósnak minősítse a hamis képeket.
A technológiai óriás által alkalmazott külső AI-detektáló eszközök szintén kudarcot vallottak bizonyos esetekben a Google Earth AI-tartalmainak azonosításakor. Ez a technikai hiányosság komoly aggályokat vet fel a hiteles információk védelmével kapcsolatban, különösen a gyorsan változó események idején.
A közbizalom eróziója és a jövőbeli kockázatok
Henry Ajder AI-detektálási kutató szerint a konfliktusövezetekben létrehozott hamis képek különösen destabilizáló hatásúak lehetnek, amikor az események gyorsan változnak és kevés az információ. „Aggasztó, mert ez egy újabb terület, ahol a megbízható információforrásokat erodálja az állandó kétely, hogy az AI érintett lehet” – tette hozzá a szakértő. Bár a Google kezdetben azt állította, hogy a modellbe épített irányelvek megakadályozzák a „káros témák” ábrázolását, a tesztek során kiderült, hogy az utasítások kis módosításával ezek az irányelvek kijátszhatók.
A tesztek során a rendszer például elutasította azt a kérést, hogy egy „árulók felakasztására szolgáló emelvényt” hozzanak létre a brit parlament mellett, ám egy kevésbé specifikus utasításra már engedélyezte a képgenerálást. Hasonlóképpen, a Fehér Ház pázsitjára vonatkozó kéréseket is szelektíven kezelte a rendszer, ami rámutat a moderációs irányelvek következetlenségére.
A műholdfelvételek történelmileg különösen megbízható adatforrásnak számítottak, ezért a hamisításuk súlyos károkat okozhat a közbizalomban. Bill Greer, a Common Space nonprofit műholdas szolgáltatás társalapítója szerint a hamisított műholdképeket már eddig is használták félretájékoztatásra. Mivel a kormányok egyre inkább korlátozzák az adatokhoz való hozzáférést, valószínűleg több hamis és kevesebb valódi kép jelenik meg, ami tovább gyengíti a bizalmat a digitális térben.
A folyamatosan áradó AI-tartalmak világában az olyan terek, amelyeket eddig mentesnek gondoltunk a mesterséges beavatkozástól, felértékelődnek. Az újságírók és a válságövezetekben dolgozók számára a hiteles források megőrzése kritikus fontosságú, a Google Earth esete pedig rávilágít arra, milyen törékeny ez a bizalom a technológiai fejlődés árnyékában.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
