网易首页 > 网易号 > 正文 申请入驻

谷歌把AI搜索塞进手机!不到600MB,照片、视频、录音断网照样搜

0
分享至


新智元报道


10月6日,谷歌开源EmbeddingGemma 2,把一个能搜图、看视频、听声音的搜索引擎,塞进了一个内存不到600MB的小模型!

文字、代码、图片、视频、音频,都能用一句话一起搜了,这在谷歌的开源模型里还是第一次。

740M参数,手机、笔记本、浏览器都能离线跑。

谷歌CEO Sundar Pichai也亲自下场安利:这是谷歌首个原生多模态开源嵌入模型。

它的一大突破,是让手机也能在本地搜图片、视频和声音。演示中,只要输入一句「鸟在唱歌」,鸟的照片和鸟叫录音就能一起找到。


发布一个多小时后,Hugging Face的Victor M就让它在浏览器里跑了起来。

他在搜索框里敲下「birds singing」(鸟在唱歌),屏幕上的格子立刻重新排序:排到最前面的,既有鸟的照片,也有显示着波形的鸟叫录音。

整个查询只用了22毫秒,不走服务器,也没调任何API。



应用接入它后,你就能让AI帮你找手机里的照片、录音和视频,不必先把文件上传到云端。

文字、图片、声音

能互相搜了

Embedding这东西,普通用户平时看不见,但很多AI搜索和RAG问答,背后都靠它找资料。

它干的活,是把一段内容变成一串数字,相当于在一个巨大的空间里,给每段内容安排一个坐标。意思越接近,坐标就越靠近。

搜索时,系统再去找与问题最接近的那些内容。

上一代EmbeddingGemma只处理文字。要搜图片和声音,往往还得接上其他模型,或先把它们转成文字。

EmbeddingGemma 2把这些内容放进了同一个768维空间。

比如,猫的照片、「cat」这个词和猫叫声,就能在这个空间里按语义关联起来。


于是,你可以用一句话搜图片、搜视频,也可以用一段语音,找到视频里对应的片段。

它还能把文字、图片和视频放在一起,让你一次搜到包含这些内容的整条信息。

谷歌在模型卡里举了个例子。

一双跑鞋的商品页,包含文字介绍、两张细节图,以及鞋子在湿滑岩石上的防滑测试视频。

模型能把这组内容转成一个向量,用来匹配「适合越野跑的防水鞋」这样的搜索。

一次能处理的内容也更多了。8K上下文窗口,是上一代的4倍。

只输入单一类型的内容时,最多能容纳约5.5分钟音频、29张图片,或58帧视频。它还支持100多种语言。

谷歌把它和几个同量级的模型放在一起比了一轮,差距最大的是看图和看视频。



EmbeddingGemma 2在图像和视频检索上,明显领先Jina v5 Omni-Nano。

在谷歌公布的测试中,EmbeddingGemma 2的图像检索得分为57.3,比它参数量大三成的Jina v5 Omni-Nano只有31.6。

视频检索也拉开了差距:50.7分对31.2分,领先近20分。

在多语言文本测试上,它和上一代基本持平。

567MB

手机自己当搜索引擎

这么多本事,全装在740M参数里。

其中文本部分占270M,视觉编码器170M,音频编码器300M,可以按需加载。只搜文字,就加载270M;要搜图片,再加上视觉部分,总共440M。

在谷歌的Pixel 11 Pro测试中,量化后的纯文本模型,内存占用最低约191MB,完整多模态模型约567MB。

它还支持给搜索索引「瘦身」:用更少的数字记录每段内容的含义,占用的存储空间就能减少三分之二。

在谷歌的多语言文本检索测试中,得分只下降了不到1分。

谷歌自己做了几个应用打样:

AI Edge Gallery里的Instant Media Search,能让你在相册里按意思搜照片。

Video Moments Finder更直观,说一句话,就能定位视频里对应的片段。

另一个应用Foresight,则把它与Gemma 4搭配起来,在Mac上离线检索文件和会议记录。

开发者这边,llama.cpp已经提供支持,Unsloth也放出了量化版,方便把模型部署到本地。

据Mac应用Nativ公布的实测,在M5 Max上,8-bit量化版生成的向量,与原版的余弦相似度达到0.9997,文本嵌入速度达到每秒817条。


土耳其开发者Avenox的测试,更贴近日常。

他的笔记大多用英文写,提问却习惯用土耳其语。以前靠关键词匹配,两边的词对不上,相关笔记就可能搜不到。

他让Claude花一个小时搭了个测试台,选出40条笔记,再分别换个说法,用土耳其语提问,看正确笔记能不能进入前18个候选。

据他公布的结果,关键词匹配的命中比例只有15%;换上EmbeddingGemma 2,升到了97%。

他又拿30条平时随手输入、带有错别字的真实消息测试。模型找到的相关笔记数量,是关键词匹配的两倍。每次查询约50毫秒,全程在本地运行。

还有人玩得更野。

开发者Nick Lo把它装进一块Nano开发板。

输入一句话,模型只需约15毫秒,就能把这句话转成用于搜索的一串数字。找到对应图片后,再交给一块ESP32-S3单片机,把图像逐行画出来。


Coding Agent找代码

也能在本地搜了

除了多模态,代码检索也有明显提升。

在代码检索基准MTEB Code上,它从上一代的68.76分涨到78.68分,一口气涨了近10分,谷歌称,这一成绩在同尺寸模型中领先。

这对写代码的Agent很实用。

Claude Code、Codex这类工具干活之前,都要先在整个代码库里找到相关的那几段。

有了270M的纯文本版,开发者就能在本地为代码库建立索引,再用大白话查找相关代码。建索引和检索这两步,都可以留在本地。

AI搜索

搬进了你的手机

今年3月,谷歌在云端发过多模态的Gemini Embedding 2,通过API调用,按用量付费。

半年多后,谷歌又把多模态检索带进了一个能在手机上运行的开源小模型。照片、录音和视频,也有了留在本地检索的选项。

谷歌给出的一个用法,是把它与Gemma 4搭配,做离线、隐私优先的RAG。

一个负责找资料,一个负责根据资料回答,检索和问答都能在设备上完成。

过去,要用AI搜索照片、视频和录音,很多时候得把内容交给云端处理。

现在,这种检索能力只要几百MB,就有机会装进每个人的口袋。

参考资料:

https://blog.google/innovation-and-ai/technology/developers-tools/embeddinggemma-2

https://huggingface.co/google/embeddinggemma-2

https://ai.google.dev/gemma/docs/embeddinggemma

编辑:摩西 元宇

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
西藏巴青地震救灾物资陆续集结 伤员得到有序救治

西藏巴青地震救灾物资陆续集结 伤员得到有序救治

环球网资讯
2026-10-24 18:59:07
博士毕业进了双非才发现,没了导师资源和名校平台,靠自己发C刊难度大到难以想象!所以一定要有谦卑心态,认清C刊发文的现状

博士毕业进了双非才发现,没了导师资源和名校平台,靠自己发C刊难度大到难以想象!所以一定要有谦卑心态,认清C刊发文的现状

高教经纬88
2026-10-24 16:30:03
女主播在缅甸视频流出:状态涣散,眼神无助,可惜了这么好的身材

女主播在缅甸视频流出:状态涣散,眼神无助,可惜了这么好的身材

皮蛋儿电影
2026-09-23 10:51:15
86-77,广东赛后传来主帅亚科夫列维奇消息,胡明轩说的很实在

86-77,广东赛后传来主帅亚科夫列维奇消息,胡明轩说的很实在

生活新鲜市
2026-10-25 10:59:16
比姆巴佩更强!巴萨 8000 万巨星引爆争议!名宿盛赞诺坎普新援

比姆巴佩更强!巴萨 8000 万巨星引爆争议!名宿盛赞诺坎普新援

奶盖熊本熊
2026-10-25 08:06:47
金子般的一段话,抄下来,受用一生(非常精辟)

金子般的一段话,抄下来,受用一生(非常精辟)

一口娱乐
2026-10-24 15:46:10
肯尼亚在建高楼垂直坍塌,瞬间夷为平地,现场视频曝光;已有11家商铺违法开业,当地华人:高楼所在区人口和商户密集

肯尼亚在建高楼垂直坍塌,瞬间夷为平地,现场视频曝光;已有11家商铺违法开业,当地华人:高楼所在区人口和商户密集

极目新闻
2026-10-25 09:30:33
大量韩国游客涌入我国,不去旅游也不吃美食,那为啥而来呢?

大量韩国游客涌入我国,不去旅游也不吃美食,那为啥而来呢?

涛哥美食合集
2026-10-24 07:02:24
76人主帅:我们并不担心詹姆斯的身体状况,因为他没有出现明显不适

76人主帅:我们并不担心詹姆斯的身体状况,因为他没有出现明显不适

移动挡拆
2026-10-25 08:38:29
霸王茶姬做梦也没想到!星巴克一句"消费入座",把客人全送来了,评论区褒贬不一

霸王茶姬做梦也没想到!星巴克一句"消费入座",把客人全送来了,评论区褒贬不一

火山詩话
2026-10-25 09:48:21
苍天饶过谁!拒唱国歌否认中国籍,俩儿子落户国外,她现状如何?

苍天饶过谁!拒唱国歌否认中国籍,俩儿子落户国外,她现状如何?

离离言几许
2026-10-07 00:28:41
欧洲最后一家光伏玻璃厂停产,欧盟紧急发布:不再对中国生产的光伏玻璃收税!理由很荒唐

欧洲最后一家光伏玻璃厂停产,欧盟紧急发布:不再对中国生产的光伏玻璃收税!理由很荒唐

互联鱼
2026-10-24 13:04:37
2026年癌症患者可申请的七项国家补助,已为你整理好,请查收!

2026年癌症患者可申请的七项国家补助,已为你整理好,请查收!

刘哥谈体育
2026-10-24 11:55:15
贵州巡山员暴雨迷路 撞见16年前失踪勘探队窝棚 掀开帆布:一堆金条

贵州巡山员暴雨迷路 撞见16年前失踪勘探队窝棚 掀开帆布:一堆金条

一口娱乐
2026-10-25 00:44:44
毛不易婚礼上致辞,炫耀和新娘曾共处一室还伺候他,新郎脸色铁青

毛不易婚礼上致辞,炫耀和新娘曾共处一室还伺候他,新郎脸色铁青

小兔子的快乐
2026-10-25 05:31:11
蓝战非到俄罗斯后,频繁搭讪女生全被拒绝,吐槽跨国情侣都是剧本

蓝战非到俄罗斯后,频繁搭讪女生全被拒绝,吐槽跨国情侣都是剧本

新游戏大妹子
2026-10-22 12:37:53
20岁星二代红毯现原形,一脸苦相摇头晃脑不自信,没星味就别硬挤

20岁星二代红毯现原形,一脸苦相摇头晃脑不自信,没星味就别硬挤

林轻吟
2026-10-24 14:20:14
未创造历史!广东死里逃生,救命的不是弗格,是亚科夫敢输的换人

未创造历史!广东死里逃生,救命的不是弗格,是亚科夫敢输的换人

刘哥谈体育
2026-10-24 10:49:59
欧洲肠子悔青!当初中国同意签协议,欧洲不珍惜,如今已高攀不起

欧洲肠子悔青!当初中国同意签协议,欧洲不珍惜,如今已高攀不起

阿离家居
2026-10-25 11:21:51
2026我国重点大学最新排名!南大名列第六,哈工大第12,山大第19

2026我国重点大学最新排名!南大名列第六,哈工大第12,山大第19

次元君情感
2026-10-24 18:02:12
2026-10-25 12:39:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16515文章数 67187关注度
往期回顾 全部

科技要闻

苹果首款折叠屏没能养肥黄牛

头条要闻

江苏姑娘隔着屏幕花3.8万在鹤岗买房 搬进去后傻眼

头条要闻

江苏姑娘隔着屏幕花3.8万在鹤岗买房 搬进去后傻眼

体育要闻

从乐透秀到总冠军再到没工作 一共要几年?

娱乐要闻

低调复出后,全红婵当众落泪

财经要闻

手机洗牌:华为苹果守住了 小米OV换打法

汽车要闻

大众安徽与众09正式上市 双十一权益价16.99万起

态度原创

时尚
艺术
亲子
游戏
教育

秋天裤子不用买贵的,准备好蓝色牛仔裤,减龄清爽又不挑人

艺术要闻

莫奈《鸢尾花》,拍出3.74亿元天价,刷新纪录!

亲子要闻

越制止越哭闹,拆解孩子情绪对抗背后的三个心理真相

PS5现已爽玩Steam游戏!这下真玩无极限了

教育要闻

留学生陈宇昕事件最新进展:开除文件已下达,南京方面压力山大

无障碍浏览 进入关怀版