AI本地化部署会成为下一个发展趋势吗?谷歌做出了Google AI Edge Gallery#ai无法加载本地化资源文件 ypxx.net什么是AI本地化部署?

简单说,AI本地化部署就是AI的所有运算都靠自己设备(比如电脑、服务器)的CPU/GPU,不用连云端服务器。 所有数据处理、回应指令的操作都在本地完成,数据不会传到网上,全程留在自己设备里。

要让AI这么跑,得把它的模型调整一下,让它能在普通设备上顺畅运行,不卡壳。 这种方式的好处很实在:

  • 注重隐私的行业(比如医院、银行)用着放心,敏感数据不会泄露
  • 需要快速反应的设备(比如工厂机器人、汽车辅助驾驶),指令响应特别快,不耽误事
  • 没网或网络差的地方(比如偏远山区、野外作业),AI也能正常用
  • 当然也有小局限: 对设备配置有要求,配置太低的话,AI可能跑不动或跑不快
Google AI Edge Gallery

谷歌最新开发的运行在手机上的Google AI Edge Gallery就是AI本地化运行AI的一个平台,核心就是让你在自己手机上离线运行 AI 大模型,不用联网,所有数据都在本地处理

他目前已经具备了如下功能

重点介绍如下几个:

  • 图片识别问答

可以使用具有图像识别能力的大模型,根据传输的图片进行问答,交流

  • 音频转写与翻译

核心作用:把语音转成文字,还能顺便翻译

导入录音文件(比如会议、语音笔记),或者直接录一段语音,AI 能把语音内容转成文字,还能把外语语音翻译成中(比如英文录音转成中文文字),并且音频全程在本地处理,不会泄露你的录音内容,适合处理敏感会议或私人语音

  • AI Chat

用本地大模型和 AI 对话,所有对话、运算都在你的手机上完成,不用连网,也不会把聊天内容上传到云端,具有较强的隐私性

  • Agent Skills

给AI装备Skills,可以实现地图搜索,维基百科等等功能

  • Mobile Actions(设备操作助手)

这个也是很让笔者感兴趣的功能,似乎就是把“小龙虾”安装到了手机本地,它可以控制手机手电筒,发送邮件等等,尽管目前要实现的功能似乎还比较少,但是我们相信在接下来的发展后它的功能会一步步完善,实现更多的功能,谁会拒绝自己手机里有个“贾维斯”呢