Google 三年内投入 3000 万美元,升级 Gemini 智能体危机响应机制

Google 宣布升级 Gemini 智能体危机响应机制,三年内投入 3000 万美元支持全球自杀防治热线。当 AI 识别用户表达自杀或自残意图时,界面将自动切换一键式求助模块,提供聊天、电话、短信等即时求助渠道。该更新由临床专家参与设计,核心目标是缩短用户通向专业帮助的路径,而非用 AI 对话替代人际支持。同时针对青少年建立专项防护机制。 Google 强调, AI 只能作为获取心理健康信息的辅助工具,绝不能替代专业临床诊疗。

发布于2026年4月11日 14:33
编辑小创
评论0
阅读0

Google 升级 Gemini 智能体危机响应机制,三年内投入 3000 万美元支持全球心理援助热线

全球逾十亿人正受到心理健康问题的困扰。 Google 于本周一宣布,正在对 Gemini 智能体进行重大升级,同时承诺提供 3000 万美元资金支持全球自杀防治热线运营。

当 Gemini 识别到对话内容涉及自杀或自残意图时,界面将自动切换至简化的一键式求助模块,用户可选择即时聊天、电话、短信或访问热线网站。这一模块由临床心理健康专家参与设计,核心目标是在用户表达危机意图时,提供最直接的人际支持资源而非对话替代。

本次更新还包括与 ReflexAI 的深化合作。 Google 将投入 400 万美元直接资助,并将其 AI 模型接入 ReflexAI 培训体系。 Google.org 还将派出工程师志愿者团队,协助升级 Prepare 平台,这是一款基于 AI 模拟技术的培训工具,帮助热线接线员和志愿者练习处理高敏感对话。

针对青少年用户, Gemini 已建立专项防护机制:限制智能体扮演陪伴角色、禁止模拟亲密情感表达、阻断任何可能强化霸凌行为的内容输出。这些防护措施旨在最大程度减少青少年对 AI 工具产生情感依赖的风险。

Google 强调,尽管 Gemini 可以成为获取心理健康信息的辅助工具,但它绝不能替代专业临床诊疗或危机干预服务。此次更新的设计理念,正是训练模型识别可能处于急性心理危机状态的对话,并及时引导用户获得现实世界中的专业帮助。

编辑点评
Google 此次将 AI 能力与危机干预体系的衔接落到了实处,尤其是一键式求助模块的设计逻辑。不试图用对话“治愈”用户,而是主动缩短其通向专业资源的路径。这一思路值得整个行业借鉴:当 AI 介入心理健康领域时,最大的善意往往体现为“不取代”而非“能替代”。

相关文章

互动讨论

评论区

围绕《Google 三年内投入 3000 万美元,升级 Gemini 智能体危机响应机制》展开交流,未登录用户可浏览评论,登录后可参与讨论。

评论数
0
登录后参与评论
支持发表观点与回复一级评论,互动后将同步到消息中心。
登录后评论
暂无评论,欢迎成为第一个参与讨论的人。