什么是AI本地化部署?简单说,AI本地化部署就是AI的所有运算都靠自己设备(比如电脑、服务器)的CPU/GPU,不用连云端服务器。 所有数据处理、回应指令的操作都在本地完成,数据不会传到网上,全程留在自己设备里。
要让AI这么跑,得把它的模型调整一下,让它能在普通设备上顺畅运行,不卡壳。 这种方式的好处很实在:
- 注重隐私的行业(比如医院、银行)用着放心,敏感数据不会泄露
- 需要快速反应的设备(比如工厂机器人、汽车辅助驾驶),指令响应特别快,不耽误事
- 没网或网络差的地方(比如偏远山区、野外作业),AI也能正常用
- 当然也有小局限: 对设备配置有要求,配置太低的话,AI可能跑不动或跑不快
谷歌最新开发的运行在手机上的Google AI Edge Gallery就是AI本地化运行AI的一个平台,核心就是让你在自己手机上离线运行 AI 大模型,不用联网,所有数据都在本地处理

他目前已经具备了如下功能

重点介绍如下几个:
- 图片识别问答
可以使用具有图像识别能力的大模型,根据传输的图片进行问答,交流
- 音频转写与翻译
核心作用:把语音转成文字,还能顺便翻译
导入录音文件(比如会议、语音笔记),或者直接录一段语音,AI 能把语音内容转成文字,还能把外语语音翻译成中(比如英文录音转成中文文字),并且音频全程在本地处理,不会泄露你的录音内容,适合处理敏感会议或私人语音
- AI Chat
用本地大模型和 AI 对话,所有对话、运算都在你的手机上完成,不用连网,也不会把聊天内容上传到云端,具有较强的隐私性
- Agent Skills
给AI装备Skills,可以实现地图搜索,维基百科等等功能

- Mobile Actions(设备操作助手)
这个也是很让笔者感兴趣的功能,似乎就是把“小龙虾”安装到了手机本地,它可以控制手机手电筒,发送邮件等等,尽管目前要实现的功能似乎还比较少,但是我们相信在接下来的发展后它的功能会一步步完善,实现更多的功能,谁会拒绝自己手机里有个“贾维斯”呢











