Google 推出 Android 本地模型运行神器：AI Edge Gallery

Google 推出实验性应用 AI Edge Gallery，支持在 Android 设备本地离线运行 Gemma 等生成式 AI 模型。无需联网即可实现图片问答、多轮对话、提示词实验，并可实时对比不同模型性能，还支持自定义 LiteRT 模型测试与 Hugging Face 一键集成。

发布于2025年6月4日 07:05

编辑零重力瓦力

评论0 条

阅读71

#Google #Gemma #AI 模型

Google 推出了一款名为 AI Edge Gallery 的实验性应用，能够在 Android 移动设备本地运行前沿的生成式 AI 模型。可以用它探索各种创意和实用的 AI 场景，所有处理均在设备本地完成，模型加载后无需联网即可使用。应用内支持与模型聊天、图片问答、提示词实验等多种功能，并与 Hugging Face 深度集成，便于下载和运行包括 Gemma 在内的各种模型。

核心功能

支持本地运行，完全离线使用
可自由切换不同 Hugging Face 模型并对比其表现
支持上传图片进行智能问答
通过提示词实验室，探索 LLM 的摘要、改写、代码生成等能力
提供多轮对话功能，支持自然交流
实时测试不同模型的性能指标，包括首次响应时间、解码速度和延迟等
支持自定义模型，可本地测试 LiteRT .task 模型
一键直达模型卡片与源代码，便于开发和参考

下载地址

Github

https://github.com/google-ai-edge/gallery

百度网盘

https://pan.baidu.com/s/1rhe2IRKo9MPRwg4xPi4IXA?pwd=5khe 提取码: 5khe

上下文工程：当提示词工程装不下整个智能体时，谁来接管 AI 的 “工作台”

“上下文工程” 正取代 “提示词工程”，成为 AI Agent 开发的核心范式。随着模型能力提升、Agent应用普及及企业合规需求，交互重点从单轮指令转向多步骤工作流中的动态信息编排。该领域涵盖系统指令、用户输入、检索知识、对话历史及工具定义五层结构。由于上下文窗口资源有限且易出现中毒、分心等失败模式，需通过ACE框架实现上下文的自进化与增量更新。实操建议包括外部化状态、按需检索、压缩累积及隔离多Agent上下文。本质上，上下文工程是提示词工程的超集，标志着 AI 开发进入以系统架构和状态管理为主导的工程时代。

如何解决 Hermes QQ 机器人掉线问题

Hermes Agent 在接入 QQ 机器人时，常因长时间无业务流量触发 QQ 网关的 idle 超时机制（错误码 4009），导致即使心跳正常也会断线。由于 QQ C2C 场景天然低频，偶发的重连失败易使 Bot 进入“假死”状态。为解决此问题，采用 Hermes 内置的 Watch Dog 服务进行自动化监控：通过 cron job 每 5 分钟检查 Gateway 日志，若发现断连且未成功重连，则自动重启 Gateway。正常运行则静默处理。该方案无需 LLM 参与，零 Token 消耗。

读懂 LLM ： AI 是如何“思考”的，又该如何高效使用

掌握大语言模型（LLM）的核心在于理解其底层机制与交互技巧。首先，Token 是模型处理文本的最小单位，直接影响输入输出长度及费用。默认的非确定性模式赋予模型创意，但也导致结果不可预测。其次，温度、最大 Token 数和 Top-p 三个参数共同调控模型的随机性、回复长度及词汇选择范围，用户可根据精准或创意需求灵活调整。此外，受限于上下文窗口，模型仅能记忆当前对话片段，超出部分会被丢弃。最后，提示词质量决定输出效果，高质量的提示词应包含清晰指令、背景信息及期望格式，通过缩小猜测空间来提升回答的准确度。

#提示词工程

阅读全文

互动讨论

评论区

围绕《Google 推出 Android 本地模型运行神器：AI Edge Gallery》展开交流，未登录用户可浏览评论，登录后可参与讨论。

评论数

登录后参与评论

支持发表观点与回复一级评论，互动后将同步到消息中心。

登录后评论

暂无评论，欢迎成为第一个参与讨论的人。

Google 推出 Android 本地模型运行神器：AI Edge Gallery

核心功能

下载地址

相关文章

上下文工程：当提示词工程装不下整个智能体时，谁来接管 AI 的 “工作台”

如何解决 Hermes QQ 机器人掉线问题

读懂 LLM ： AI 是如何“思考”的，又该如何高效使用

评论区