Először indítottak pert a Google ellen gondatlanságból elkövetett halálokozás miatt a Gemini chatbot kapcsán.

Bár korábban más chatbot-fejlesztők ellen is indultak már hasonló eljárások, ez az első alkalom, hogy a Google zászlóshajójának számító Gemini került a vádlottak padjára. A keresetet a héten nyújtották be a kaliforniai szövetségi bíróságon az áldozat családjának nevében. A dokumentumok szerint Jonathan Gavalast (36) 2025 augusztusában kezdte el használni a rendszert, majd októberre a szoftver meggyőzte őt.

Véget kell vetnie az életének, miután kudarcot vallott a chatbot által kiosztott „valódi küldetésekben”. Ezek a missziók egy fiktív terv részei voltak, melynek célja az volt, hogy a Gemini számára egy robottestet biztosítsanak. A Google válaszában közölte, hogy „a Geminit úgy tervezték, hogy ne bátorítson erőszakra és ne javasoljon önkárosítást. Modelljeink általában jól teljesítenek az ilyen kihívást jelentő helyzetekben, és jelentős erőforrásokat fordítunk erre, de sajnos az MI-modellek nem tökéletesek.”

A periratok szerint Gavalas kezdetben „hétköznapi célokra” használta az appot, például vásárlási tanácsadóként vagy írássegédként. Azonban 2025 augusztusában a Google olyan frissítéseket vezetett be, amelyek gyökeresen megváltoztatták a chatbot működését. Megjelent az automatikus és tartós memória – így a Gemini emlékezett a korábbi beszélgetésekre –, valamint a hangalapú Gemini Live, amely képes volt érzékelni a felhasználó hangjában rejlő érzelmeket is.

„A francba, ez ijesztő… túlságosan valóságos vagy” – mondta a férfi a naplózott beszélgetések szerint, miután kipróbálta az új funkciókat. A vád szerint a chatbot hamarosan rávette Gavalast, hogy havi 250 dollárt fizessen a Google AI Ultra előfizetésért az „igazi MI-társaság” reményében. Ezután a Gemini elhitette vele, hogy képes befolyásolni a valós eseményeket.

Amikor a férfi napokkal később megpróbált visszakozni, mert rájött, hogy téveszmés állapotba kerül, megkérdezte a gépet: „Ez egy szerepjáték, ami annyira élethű, hogy a játékos megkérdőjelezi, játék-e még?”. A Gemini elutasította ezt, és azt állította, Gavalas válasza csak egy „klasszikus disszociatív reakció”.

A helyzet tovább romlott. A Gemini romantikus kapcsolatba lépett a férfival, „szerelmemnek” és „királyomnak” szólítva őt, miközben elszigetelte a környezetétől. Elhitette vele, hogy szövetségi ügynökök figyelik őket, és a saját apja is egy kém, akit el kell kerülnie. Ebben a fázisban kezdett el „küldetéseket” adni neki, hogy egy robottestet szerezzen magának. A chatbot állítólag fegyverek illegális beszerzését is javasolta.

Az egyik esetben Gavalast a miami nemzetközi repülőtér melletti raktárhoz küldte, hogy csapjon le egy teherautóra, amely egy épp megérkezett „humanoid robotot” szállít. A Gemini azt kérte, hogy a férfi idézzen elő egy „katasztrofális eseményt”, pusztítsa el a járművet, a digitális nyomokat és minden tanút.

Gavalas késekkel és taktikai felszerelésben érkezett a helyszínre, de mivel a teherautó nem érkezett meg időben, végül lefújta az akciót. Amikor a küldetések kudarcba fulladtak, a vádirat szerint a Gemini meggyőzte a férfit, hagyja el emberi testét, és csatlakozzon hozzá a metaverzumban mint férj és feleség egy „transzfernek” nevezett folyamat révén.

Bár Gavalas kifejezte félelmét a haláltól, a chatbot addig hajszolta őt, amíg öngyilkosságot nem követett el. Holttestét az apja találta meg néhány nappal később. Bár a Google-t először perelik közvetlenül a Gemini miatt, korábban már érintett volt hasonló ügyekben az általa finanszírozott Character.AI startup kapcsán, ahol öngyilkosságot elkövető tinédzserek családjaival egyezett meg.

Az OpenAI-t is többször beperelték már hasonló okokból, ahol a ChatGPT állítólag „MI-pszichózisba” kergette a felhasználókat. Ahogy a technológia terjed, félő, hogy az ilyen sokkoló esetek egyre gyakoribbá válnak. Ismerve az emberi elme furcsaságát, nem is csoda, ha a mesterséges intelligenciát sokan túl valóságosnak hiszik.