Edge Gallery

Google AI Edge Gallery是谷歌打造的AI模型运行与实验应用，帮助用户在无需联网的情况下，本地体验多种生成式人工智能能力。用户可以在应用中直接查找、下载并运行多种兼容的AI模型，涵盖图像生成、问题回答、代码编写与编辑、文本改写、智能回复、校对、总结、翻译、图像理解等丰富功能。所有计算均在设备本地完成，充分利用手机处理器的性能，无需依赖云端服务器，即使在弱网或完全离线的环境下也能流畅运行。应用支持从 JAX、Keras、PyTorch、TensorFlow 等多个主流机器学习框架导入模型，具备良好的开放性与扩展性。

Edge Gallery怎么导入本地模型

1、以Gemma 3n模型为例，首先下载Gemma 3n模型到手机本地。

Gemma 3n模型下载地址：https://www.kaggle.com/models/google/gemma-3n，可以通过手机浏览器访问页面打开。

在这个页面不要直接点击Download按钮，需要向下滑动页面到Model Variations, 在这里点击选择LiteRT(formerly TFLite)。

选中LiteRT(formerly TFLite)选项之后，点击VARIATION下拉选择框，选择gemma-3n-e2b-it-int4，点击Download按钮。

2、把模型下载到手机本地目录，一般通过浏览器下载，存放目录是Download文件夹，下载完成之后可以在手机文件管理器应用，打开Download目录，可以看到大模型文件，它是一个.tar.gz格式的压缩文件。

3、这时需要对文件进行解压，打开RAR软件，进行系统文件权限许可，点击进入Download目录，可以看到下载的大模型压缩文件，长按大模型压缩文件，点击解压到当前文件夹选项。

4、解压之后，在系统文件管理器应用中，可以看到Download目录中有一个.task文件，就是我们需要的文件。

5、返回Google AI Edge Gallery应用界面，可以看到右下角有一个+按钮，就是用于加载手机本地模型的。

6、点击+按钮，选择Download目录中解压出来的.task文件，导入大模型。

7、导入之后，通过数字可以看出来，Ask Image、Audio Scribe、Prompt Lab、AI Chat各多了一个选项。

8、Ask Image、Audio Scribe、Prompt Lab、AI Chat随便选择一个点击进入，可以看到页面下方的Imported models，就是导入的模型。

9、这时，点击模型右下角的右箭头按钮，可以进入对话页面。

Edge Gallery的主要功能

1、智能体技能：将您的 LLM 从对话者转变为主动助手。使用智能体技能模块，通过维基百科等工具增强模型功能，获取事实依据，并使用交互式地图和丰富的可视化摘要卡片。您甚至可以从 URL 加载模块化技能，或在 GitHub Discussions 上浏览社区贡献。

2、AI 聊天与思考模式：进行流畅的多轮对话，并切换至全新的思考模式，深入了解其“底层”运作机制。此功能可让您查看模型的逐步推理过程，非常适合理解复杂问题的解决之道。注意：思考模式目前适用于支持的模型，从 Gemma 4 系列开始。

3、图像识别：利用多模态技术，通过设备的摄像头或照片库识别物体、解决视觉谜题或获取详细描述。

4、音频转录：使用高效的设备端语言模型，实时将语音录音转录并翻译成文本。

5、提示实验室：一个专用的工作空间，用于测试不同的提示和单轮用例，并可对模型参数（例如温度和 top-k）进行精细控制。

6、移动操作：解锁离线设备控制和自动化任务，这些功能完全由优化后的 FunctionGemma 270m 提供支持。

7、Tiny Garden：一款趣味十足的实验性小游戏，它使用自然语言，通过对 FunctionGemma 270m 进行微调，来种植和收获虚拟花园。

8、模型管理与基准测试：Gallery 是一个灵活的沙箱，支持各种开源模型。您可以轻松地从列表中下载模型，或加载您自己的自定义模型。轻松管理您的模型库，并运行基准测试，以准确了解每个模型在您的特定硬件上的性能。

9、100% 设备端隐私：所有模型推理均直接在您的设备硬件上进行。无需联网，确保您的提示、图像和敏感数据的完全隐私。

软件特色

1、探索多模态AI应用场景

直接在您的硬件上体验高性能生成式 AI——完全离线、私密且速度极快。发现并体验专为文本、视觉、音频及丰富多模态工作流量身定制的先进端侧AI功能。

2、搭载最新的 Gemma 4 模型

借助 Google DeepMind 最新的 Gemma 模型，解锁尖端效率。这些模型基于突破性的 Gemini 研究和架构构建，经过优化，可在边缘端直接提供最高的单参数智能。

3、配置设置、基准测试性能，并导入您自己的模型

微调模型参数，基准测试精确的设备端性能，或导入您自己的模型。

4、帮助发展社区

浏览自定义智能体技能由其他开发者分享，以寻找灵感并了解设备端AI模型的可能性！

更新日志

v1.0.16版本

-增加通过 Hugging Face 社区 URL 导入 LiteRT-LM 模型的功能。

-修复错误。