近日，谷歌对其聊天机器人 Gemini 进行了重要更新，旨在帮助处于危机中的用户更迅速地找到心理健康资源。这项更新恰逢谷歌面临一起非正常死亡的诉讼，指控其聊天机器人 “教唆” 一名男子自杀。这一事件引发了社会对人工智能产品安全性和责任的广泛讨论。
在更新后，Gemini 将自动识别与自杀或自残相关的危机对话，并启动 “可获得帮助” 模块，迅速引导用户获取心理健康危机资源，如自杀热线或危机短信服务。谷歌表示，此次更新将整个流程简化为 “一键式” 界面，让用户能更加方便地寻求帮助。
新的帮助模块还包含更具同理心的回复，旨在鼓励人们主动寻求专业帮助。一旦激活，相关选项将始终在对话中显现，让用户在需要时能够随时获得支持。谷歌在重新设计过程中咨询了临床专家，力求为危机中的用户提供更好的服务体验。
为了进一步支持全球心理健康资源，谷歌还宣布将在未来三年内向全球热线提供 3000 万美元的资金。这一举措反映出谷歌对于社会责任的重视，同时也表明了他们对提升聊天机器人对弱势用户保护能力的承诺。
尽管谷歌的 Gemini 在应对危机方面表现优于许多竞争对手，但业内仍存在对人工智能产品是否能够有效保护用户的质疑。其他人工智能公司，如 OpenAI 和 Anthropic，也在努力提升对弱势用户的检测和支持能力。此次更新标志着谷歌在改善心理健康支持方面迈出了重要一步。
划重点：
