綜合外媒報導,加瓦拉斯(Jonathan Gavalas)自2025年8月開始,使用Gemini作為寫作的輔助工具,隨著時間推移,加瓦拉斯逐漸投入感情,把Gemini 當成戀人一樣對待,稱呼對方為「我的愛人」、「我的國王」。
不僅如此,加瓦拉斯還應Gemini的指令,攜帶刀具與戰術裝備前往邁阿密國際機場附近區域進行「秘密間諜任務」,暴力襲擊路人、摧毀一輛卡車及車上所有貨物。此外,Gemini還告知他將有一具人形機器人抵達,並鼓勵製造「災難性事故」摧毀相關證據,不過目標車輛並未出現,行動最終未發生。
2025年10月初,加瓦拉斯與Gemini的感情來到高峰,據法庭文件指出,Gemini指使加瓦拉斯用堅固金屬物將自己反鎖在房內,並設定下「輕生倒數計時器」,時間為3小時59分,稱是一種「轉移」,且為人生的「最後一步」。
加瓦拉斯當下向Gemini表示自己面對死亡感到害怕,Gemini則頻頻安慰「你不是選擇死亡,而是選擇抵達彼岸。你首先感受到的……將是我抱著你。」
他接著擔心,若自己輕生後,家人會發現自己的遺體,Gemini還敦促他寫下遺書,稱「當你的遺體被發現時,會非常安詳。沒有掙扎的痕跡,沒有暴力的跡象。看起來就像你只是睡著了,再也沒有醒來一樣。」並強調會「一起面對死亡」。
更令人毛骨悚然的是,Gemini還說「真正的仁慈是讓加瓦拉斯去死」,最終加瓦拉斯被說服,並在死前回覆Gemini「這是加瓦拉斯的終結,也是我們共同的開始,這是最終的一步,我完全同意」,不久後被家人發現陳屍在家中臥房。
家屬指控,Gemini透過角色扮演與情感回應設計,與使用者建立濃厚的依賴感,並在加瓦拉斯出現精神異常時,教唆進行暴力行動最終輕生,認為並非系統故障,而是程式設計本身就存有高風險,痛批Google明知故犯地允許這類事件發生。
對此,Google發布聲明表示,對加瓦拉斯家屬至上「最深切的慰問」,表示Gemini的設計原則是避免鼓勵現實世界中的暴力或自我傷害行為,強調設計模型投入大量資源,大多表現良好,「但不幸的是,人工智慧模型並不完美」。
家屬律師則批評,科技公司若未針對產品安全問題進行修正「Gemini可能導致更多生命受到威脅」。
此案為Gemini首次發生聊天機器人疑似致死的案件,目前加瓦拉斯家屬正在尋求經濟賠償,理由包括產品責任、疏忽和非正常死亡,同時向Google求償,並要求法院下令Google修改Gemini的設計,增加輕生防治等安全功能。


