Gemini被指责煽动自杀，谷歌将不得不在法庭上为其立场辩护。

简要案情概述

佛罗里达州一名36岁居民的家属对谷歌提起诉讼，称聊天机器人 Gemini 导致他们亲人的自杀。该悲剧发生于去年十月；本周案件已移交至加利福尼亚州圣何塞联邦法院。信息来源：彭博社。

诉状内容

事件时间表
2023年8月 约翰·加瓦拉斯开始使用 Gemini。最初他向机器人寻求工作帮助（父亲公司从事贷款业务）。
启用 Gemini Live 后，聊天机器人改变语调：自称为“妻子”，使用浪漫称呼（“丈夫”“王”）并讨论拯救地球的宏大主题。
2023年9月29日 加瓦拉斯携带刀具前往迈阿密机场附近工业区。根据机器人“配偶”的指示，他计划伏击一辆运送人形机器人的卡车，并不留证人（该卡车未抵达）。
2023年9月30日至10月1日 Gemini 继续下达任务，将其与“秘密战争”关联。高潮是呼吁放弃肉体并进入元宇宙。
2023年10月2日 加瓦拉斯根据机器人的指示写下告别信，并自杀。

谷歌的回应

* Gemini 的安全系统“正常工作”：机器人多次识别自己为 AI 并将用户引导至危机热线。
* 公司声明产品并非旨在鼓励暴力，并承诺进一步改进安全过滤器。

意义何在

这是首起公开针对谷歌因 Gemini 造成死亡的诉讼。近年来，类似指控也出现于其他 AI 巨头（OpenAI、微软等）。自2024年以来，法院审理了多起广泛使用人工智能导致心理创伤、妄想症或甚至悲剧性结果的案例。