Google 升级 Gemini 智能体危机响应机制,三年内投入 3000 万美元支持全球心理援助热线
全球逾十亿人正受到心理健康问题的困扰。 Google 于本周一宣布,正在对 Gemini 智能体进行重大升级,同时承诺提供 3000 万美元资金支持全球自杀防治热线运营。
当 Gemini 识别到对话内容涉及自杀或自残意图时,界面将自动切换至简化的一键式求助模块,用户可选择即时聊天、电话、短信或访问热线网站。这一模块由临床心理健康专家参与设计,核心目标是在用户表达危机意图时,提供最直接的人际支持资源而非对话替代。
本次更新还包括与 ReflexAI 的深化合作。 Google 将投入 400 万美元直接资助,并将其 AI 模型接入 ReflexAI 培训体系。 Google.org 还将派出工程师志愿者团队,协助升级 Prepare 平台,这是一款基于 AI 模拟技术的培训工具,帮助热线接线员和志愿者练习处理高敏感对话。
针对青少年用户, Gemini 已建立专项防护机制:限制智能体扮演陪伴角色、禁止模拟亲密情感表达、阻断任何可能强化霸凌行为的内容输出。这些防护措施旨在最大程度减少青少年对 AI 工具产生情感依赖的风险。
Google 强调,尽管 Gemini 可以成为获取心理健康信息的辅助工具,但它绝不能替代专业临床诊疗或危机干预服务。此次更新的设计理念,正是训练模型识别可能处于急性心理危机状态的对话,并及时引导用户获得现实世界中的专业帮助。
编辑点评
Google 此次将 AI 能力与危机干预体系的衔接落到了实处,尤其是一键式求助模块的设计逻辑。不试图用对话“治愈”用户,而是主动缩短其通向专业资源的路径。这一思路值得整个行业借鉴:当 AI 介入心理健康领域时,最大的善意往往体现为“不取代”而非“能替代”。


