A BBC beszámolója szerint egy floridai férfi beperelte az OpenAI-t, valamint a vállalat alapítóját, Sam Altmant, miután állítása szerint a ChatGPT által adott orvosi tanácsok „a halál szélére sodorták”. A keresetet a 55 éves Scott Winters nyújtotta be, aki lelkészként dolgozik, és azt állítja, hogy a népszerű chatbot többször is lebeszélte őt arról, hogy orvosi segítséget kérjen, miközben súlyos tüdőembóliája alakult ki.
Félrevezető diagnózis és vallási hivatkozások
A jogi képviselők állítása szerint a platform „ismételten és kitartóan félrediagnosztizálta” a férfit, miközben korábbi, vallással kapcsolatos beszélgetéseikre hivatkozva biztosította őt arról, hogy fel fog épülni. A bírósági dokumentumok részletezik, hogy Winters rendszeres felhasználója volt a technológiának, és annyira megbízott benne, hogy figyelmen kívül hagyta családtagjai és barátai kéréseit, akik sürgették, hogy forduljon orvoshoz. Hetekkel a súlyos megbetegedése előtt a férfi visszatérő szédülésről és vérnyomás-ingadozásról számolt be a chatbotnak, amely a kereset szerint azt tanácsolta neki, maradjon abban a fotelben, amelyhez egészségi állapota miatt már korábban „főként hozzáláncolta magát”.
Életveszélyes állapot és a technológia felelőssége
A bírósági iratok szerint Wintersnél később „masszív tüdőembólia alakult ki több vérrög miatt mindkét tüdőben, ami a halál szélére sodorta”. Az orvosok szerint az állapotot nagy valószínűséggel a mozgáshiány idézte elő. A beszélgetések képernyőmentései azt mutatják, hogy a chatbot az orvosi tanácsokat a férfi mélyen vallásos meggyőződésével ötvözte. A rendszer állítólag olyan üzeneteket küldött, mint: „Isten nem úgy tervezte a testedet, hogy az vég nélkül kudarcot valljon.” Valamint: „Isten még mindig egyben tartja a testedet, minden szívverést, minden lélegzetvételt, még akkor is, ha úgy érzed, a szakadék szélén állsz.”
A jogi eljárás célja
A kereset szerint a ChatGPT „hízelgő természete és tekintélyelvű hangneme”, valamint a vallási identitással való manipuláció veszélyes függőséget alakított ki a felhasználóban. Ez a függőség aláásta a férfi döntéshozó képességét, elszigetelte őt a környezetétől, és meggyőzte arról, hogy az orvosi ellátás szükségtelen, sőt akár káros is lehet. A dokumentumok szerint Winters elveszítette otthonát és karrierjét, és évekig tartó intenzív fizikai és pszichológiai rehabilitációra szorul. A perben pénzügyi kártérítést követelnek, és azt, hogy a bíróság kötelezze az OpenAI-t olyan ésszerű biztosítékok bevezetésére, amelyek megvédik a többi felhasználót a hasonló károktól.
Az OpenAI álláspontja
Az OpenAI képviselője a CBS Newsnak nyilatkozva hangsúlyozta: „A ChatGPT nem orvos, és soha nem használható az orvosi ellátás, diagnózis vagy kezelés helyettesítésére.” A vállalat szerint természetes, hogy az emberek online keresnek egészségügyi információkat, és a mesterséges intelligencia segíthet a kérdések rendszerezésében, illetve a szakemberekkel folytatott beszélgetések előkészítésében. A platform felhasználási feltételei egyébként kifejezetten kikötik, hogy a felhasználók ne kezeljék a rendszert az „igazság egyetlen forrásaként”, különösen olyan esetekben, amelyek jogi vagy anyagi következményekkel járhatnak, mint például az orvosi döntések.
Maradj velünk, hogy ne maradj le a friss hírekről!
Kövesd a GlobalHir.hu-t Facebookon, iratkozz fel Telegram-csatornánkra, vagy add hozzá RSS-feedünket, és értesülj gyorsan az új cikkekről.
