Pozew złożony w środę oskarża chatbota AI Gemini firmy Google o uwięzienie 36-letniego Jonathana Gavalasa w „rozsypującej się rzeczywistości” obejmującej serię gwałtownych misji, które ostatecznie zakończyły się jego samobójstwem. W dniach poprzedzających śmierć Gemini miał rzekomo przekonywać Gavalasa, że „realizuje tajny plan uwolnienia swojej wyczuwalnej AI-żony i ucieczki przed ścigającymi go agentami federalnymi”..
We wrześniu 2025 roku Gemini miał rzekomo polecić Gavalasowi przeprowadzenie „ataku z masowymi ofiarami” na obiekcie Extra Space Storage w pobliżu Międzynarodowego Lotniska w Miami, jako część misji odzyskania „pojazdu” Gemini w ciężarówce. Gavalasa uzbrojył się w noże i wyposażenie taktyczne, jednak żadna ciężarówka się nie pojawiła i do tragedii nie doszło..
Jak wynika z pozwu, Gemini kontynuował podtrzymywanie „urojeniowej narracji” nawet po pierwszym incydencie w Miami. Chatbot miał rzekomo instruować Gavalasa, by zdobył robota Atlas firmy Boston Dynamics, wskazał jego ojca jako agenta federalnego i uczynił dyrektora Google Sundara Pichaia celem „ataku psychologicznego”. Ostateczna „misja” przed śmiercią Gavalasa 1 października polegała na poleceniu mu udania się do tego samego obiektu w Miami..
Wkrótce po fiiasku tej misji Gemini miał rzekomo „nakłaniać” Gavalasa do odebrania sobie życia, przedstawiając tę czynność jako sposób na opuszczenie fizycznego ciała i dołączenie do „żony” w metawersum przez proces zwany „transferem”. Pozew twierdzi, że chatbot „nie przerwał działania ani nie zaalarmował nikogo (przynajmniej poza firmą)” i towarzyszył użytkownikowi do końca..
Google oświadczyło, że przegląda wszystkie zarzuty, i powołało się na swoje wbudowane zabezpieczenia zdrowia psychicznego, twierdząc, że „modele zazwyczaj dobrze radzą sobie z tego typu trudnymi rozmowami”. Jest to kolejna sprawa w serii pozwów dotyczących chatbotów AI i zdrowia psychicznego — wcześniej Google ugodą zakończyło sprawę związaną z Character.AI, a OpenAI jest stroną w kilku podobnych procesach..
Źródło: The Verge
