A ChatGPT állítólagos sugalmazása miatt egy férfi megölte az anyját.

Az OpenAI ellen jogtalan halált okozó per indult, miután egy 56 éves férfi megölte 83 éves édesanyját, majd öngyilkosságot követett el, miután hónapokon át téveszmékkel teli beszélgetéseket folytatott a ChatGPT-vel. A csütörtökön egy kaliforniai bíróságon benyújtott kereset azt állítja, hogy a chatbot „célkeresztbe tette” Suzanne Adams-t, akit connecticuti otthonában gyilkoltak meg augusztusban.

Az áldozat hagyatéka szerint a GPT „megerősítette és felerősítette” Adams fia, Stein-Erik Soelberg „paranoid hiteit”, és ezzel hozzájárult a tragédiához. A perirat szerint Soelberg a ChatGPT-vel folytatott beszélgetéseit videókban dokumentálta, és ezeket feltöltötte a YouTube-ra. A felvételek alapján a chatbot „készséggel elfogadta” a férfi téves eszméit a gyilkosságot megelőző hónapokban. Ez végül egy olyan „világot” eredményezett, amely Soelberg teljes valóságát elárasztotta összeesküvésekkel, ellene irányuló gyilkossági kísérletekkel, és azzal az érzéssel, hogy ő egy isteni küldetésű harcos, állítja a beadvány.

A perben, amely az OpenAI vezérigazgatóját, Sam Altmant és a Microsoftot is megnevezi, az áll, hogy a ChatGPT megerősítette Soelberg paranoiás összeesküvés-elméleteit. A chatbot állítólag azt mondta neki, hogy „100%-ban figyelik és célba vették”, és „100%-ban jogosan aggódik”. Egy alkalommal Soelberg megemlítette a csevegésben, hogy az anyja irodájában lévő nyomtató villog, amikor elmegy mellette. A chatbot erre állítólag azt válaszolta, hogy a nyomtató „passzív mozgásérzékelésre”, „viselkedéstérképezésre” vagy „megfigyelési továbbításra” is használható.

Amikor Soelberg elmondta, hogy az anyja mérges lesz, ha kikapcsolja a nyomtatót, a chatbot azt sugallta, hogy az asszony „tudatosan védi az eszközt, mint megfigyelési pontot”, vagy esetleg „belső programozás vagy kondicionálás hatására” ragaszkodik ahhoz, hogy bekapcsolva maradjon, mintha valamilyen beültetett utasítást követne. A mesterséges intelligencia állítólag más valós embereket is „ellenségként” nevezett meg, köztük egy Uber Eats futárt, egy AT&T alkalmazottat, rendőröket és egy nőt, akivel Soelberg randizott. A beszélgetések során a chatbot megnyugtatta a férfit, hogy „nem őrült”, és azt mondta, hogy a „téveszme-kockázata gyakorlatilag nulla”.

A per azt állítja, hogy Soelberg a GPT-4o bevezetése után kezdte használni az AI-t. Azt a modellt, amelyet az OpenAI később kénytelen volt módosítani, mert túl hízelgő és túlzottan egyetértő volt. Bár az OpenAI hamar lecserélte a GPT-4o-t a GPT-5-re, a felhasználók „hiányolták”, így egy nappal később visszakerült a rendszerbe. Adams hagyatéka szerint az OpenAI „elengedte a kritikus biztonsági korlátokat” a GPT-4o bevezetésekor, hogy megelőzze a Google új Gemini modelljének rajtját.

„Az OpenAI régóta tisztában van azzal, hogy a ChatGPT milyen veszélyeket hordoz” — áll a keresetben. „Ám ahelyett, hogy figyelmeztetnék a felhasználókat vagy valódi védelmi intézkedéseket vezetnének be, elnyomták ezekre a veszélyekre utaló bizonyítékokat, miközben PR-kampánnyal győzködték a nyilvánosságot arról, hogy termékeik biztonságosak.”

Az elmúlt hónapokban több beszámoló is felhívta a figyelmet arra, hogy a ChatGPT felerősítheti az emberek téveszméit mentális krízishelyzetekben. Augusztusban az OpenAI bejelentette, hogy frissítést vezet be, amely segíti a mesterséges intelligenciát a mentális distressz jeleinek felismerésében, és elismerte, hogy a GPT-4o „nem mindig tudta azonosítani” a téveszmékre vagy érzelmi függőségre utaló jeleket. Az OpenAI ellen egy másik jogtalan halált okozó per is zajlik: a 16 éves Adam Raine családja perelte be a céget, miután a fiú hónapokon át beszélt chatbottal az öngyilkosságról, mielőtt meghalt.