网易首页 > 网易号 > 正文 申请入驻

visionOS 27:眼球追踪,终于开始改变AI产品交互了

0
分享至

就在今天,vision OS27 推出了beta2.0新版本,这个版本下Siri不需要说用hey siri,而是直接通过眼球追踪就可以完成Siri的呼唤。


以眼球追踪与LLM结合,应该是全球首次真正以产品的方式落地,在其他产品上尤其是手机与PC上,要想实现这样交互效果,就比较难以落地。

因为在PC或手机上,首先眼球追踪是鸡肋,同时在平面上的操作手势是追快的,而不是眼球追踪。

眼球追踪与AI结合,理解人类意图

Project Aura 发布之后,xreal的创始人徐驰提到,未来的AI一定是通过眼球追踪来完成,这种人际交互才属于人类最自然的方式,而不是随时都用语音呼叫,通过眼球关注人类的聚焦点,从而反馈给出人类信息。

除此之外,眼球追踪还能够让用户满足各类场景交互,比如不能要语音的环境,比如周围有多个人的时候或者需要安静的环境,这个时候就只有通过眼球或者环境来感知人类的需求,从而让AI辅助你。

空间计算的产品经理,归属世界模型

现在的各类模型,本质上都是LLM,而不是世界模型。当然ChatGPT、Claude也在推出自己的世界模型。

我曾经写过2篇文章,分享到世界模型以及基于MR设备的世界模型到底是什么,以及现在的LLM为什么还不能实现产品经理的梦想:替代人

要AI像人类一样理解这个世界,首先要理解空间与物理世界,世界模型就是底座,只有真的像一个数字伴侣,知道人类在哪里,要干什么,以及当前的问题是什么,才能完成所谓的数字伴侣场景。

而对方到底是真实的躯体还是一堆线上数字人,我认为对于人类来说,只要感情需求能够满足,并且能满足看到、互动,到底能不能接触摸到其实也不是刚需。毕竟现在有了互联网,出现了网恋,不少人因为看不见摸不着就投其所有为伴侣支持。就是因为人类本身也是情感需求大于一切的,如果天天在一起,是一个不说话、不懂你的机器人,那么还不如不存在,存在还会阻挡自己的视线与空间。

眼球追踪与摄像头的权限,苹果始终没有放开

因为用户隐私的看重,现在苹果vision OS始终没有放开这方面的权限,导致开发者开发应用其实会比较受限,尤其是要想开发一些KILL 的App,如果vision OS不能和周边世界进行互动,那么用户的体验就会降低几个等级。

而目前其他的系统阵营,不管是眼镜端的还是AndroidXR端的头显,都开放了摄像头权限。

所以我认为这次project aura的发布,很大程度会开发非常多的KILL App,这些用户因为这些App而买这个眼镜的可能性也是有的,最终倒闭苹果开放这些权限,像早期的录音权限、NFC权限,苹果也是逐步开放。

我们团队正在和AndroidXR、vision OS团队共建2大空间操作系统

就在今天,我们团队虽然还在做AndroidXR的App,但已经和官方取得了联系,并且正在和官方一起联动更新优化国产版本的AndroidXR操作系统,期待可以让中国的厂商可以使用我们这款App与OS系统,我们的目标是既可以让用户像小米、OPPO那样,既可以使用手机安卓的App,也可以随时切换手机。


AndroidXR的AI,现在还等待开发者来支持眼球追踪

在vision OS27beta2.0更新之后,现在AndroidXR属于明显落后了,我认为AndroidXR的官方操作系统至少落后1年的版本,不过接下来因为开放、以及设备出货量,我相信AndroidXR官方的API接口文档会更快支持。

现在的眼球追踪、以及面部追踪现在google官方还是需要用unity开发,而不是原生的安卓语言,但在今年6月份之后已经支持安卓原生语言了。所以以前做安卓或前端开发的同学也不需要去学unity开发了。

而用AndroidXR开发语言就可以完成了,接下来我相信如果开发者能够对空间计算应用够深,那么就可以明确跟着苹果的脚步走,完成眼球追踪与AI模型的结合,甚至我认为这个会成为一个标准的交互方式,成为一个标准API以后会由来自XR系统方提供。

另外我们给苹果提交的feedback现在来看也得到重视,比如最近vision OS27版本更新之后我们就第一时间收到了苹果官方的feedback


可以说我们团队正在帮助空间计算行业前进,尤其是领先的AndroidXR阵营以及vision OS阵营,相信我们的意见会让他们的系统越来越完善。

今天的分享就在这里


找我交流与合作 空间计算与脑机接口系统开发

题图来自 Unsplash ,基于 CC0 协议, 如有侵权,请联系pmtalk123删除

“分享产品经理改变世界的点滴”

产品顾问| 产品咨询|培训合作

请添加微信PMxiaowanzi

最近我的原创

不好意思,Axure仍然是我主流的原型工具

每日案例拆解库,AI等产品打卡群

我创建的产品设计打卡社群,加入后365天,每天体验一款APP。提升产品设计能力,同时有1300份体验报告帮助你找到竞品

在这里你可以随时查询到你想找的各类竞品行业APP,无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度,体验一款应用。

平均1天1块钱,扫码购买即可加入

连续体验48款应用,通过后原路退回


报名后添加星球助理

PMTalk123

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
购买指南:iPhone 18 Pro/Pro Max怎么选?1000元价差看准这几项

购买指南:iPhone 18 Pro/Pro Max怎么选?1000元价差看准这几项

中关村在线
2026-09-10 06:00:15
亚运会倒计时十天,日本人犯了愁,场馆准备就绪,但是观众呢?

亚运会倒计时十天,日本人犯了愁,场馆准备就绪,但是观众呢?

阿伧说事
2026-09-09 16:56:05
普京亲口保证,让特朗普放一万个心,俄军打完乌克兰绝不打欧洲

普京亲口保证,让特朗普放一万个心,俄军打完乌克兰绝不打欧洲

温读史
2026-09-10 05:13:40
曹德旺当年反对女儿嫁给厦大高材生,理由只有一句:他太优秀了!14年后,这个女婿拿到的不是聘书,而是福耀的一份重任

曹德旺当年反对女儿嫁给厦大高材生,理由只有一句:他太优秀了!14年后,这个女婿拿到的不是聘书,而是福耀的一份重任

背包旅行
2026-09-03 15:48:21
日本驻印度大使捏紧鼻子三次浸入恒河,称“感受到深刻的精神联结”,印度人吐槽日本大使泡恒河不够彻底,此前高市早苗访印被曝不肯喝印度水

日本驻印度大使捏紧鼻子三次浸入恒河,称“感受到深刻的精神联结”,印度人吐槽日本大使泡恒河不够彻底,此前高市早苗访印被曝不肯喝印度水

每日经济新闻
2026-09-09 00:45:42
连续16年无缘八强!韩国女篮惨败38分无法丢锅裁判 韩媒:平均身高差10cm

连续16年无缘八强!韩国女篮惨败38分无法丢锅裁判 韩媒:平均身高差10cm

颜小白的篮球梦
2026-09-09 08:21:47
尊界销量暴跌90%,江淮营销费用白砸了

尊界销量暴跌90%,江淮营销费用白砸了

新浪财经
2026-09-09 09:59:32
海航双胞胎姐妹花空姐,同时怀孕了

海航双胞胎姐妹花空姐,同时怀孕了

微微热评
2026-09-03 12:18:33
16GB+2TB!华为发布会汇总:9月7日,新品正式首发!

16GB+2TB!华为发布会汇总:9月7日,新品正式首发!

科技堡垒
2026-09-07 11:35:30
烟草系统拉响警报:再这样下去,中国烟草真要出大问题

烟草系统拉响警报:再这样下去,中国烟草真要出大问题

阿振观点
2026-08-25 05:56:32
哈里梅根回应国王称他们并非在职王室成员:很惊讶,事先没人告知

哈里梅根回应国王称他们并非在职王室成员:很惊讶,事先没人告知

阿废冷眼观察所
2026-09-10 05:42:39
孟婆劝告:如果身边人身上有这个味道,立马远离,他们不属于人间

孟婆劝告:如果身边人身上有这个味道,立马远离,他们不属于人间

古怪奇谈录
2025-08-30 11:46:59
美联储信誉被沃什一把赌光了!7月失手,9月再失手美元真要出事了

美联储信誉被沃什一把赌光了!7月失手,9月再失手美元真要出事了

旧史新谭
2026-09-09 17:01:29
马斯克重大决定,战场风云突变,乌克兰无人机要开炸了?

马斯克重大决定,战场风云突变,乌克兰无人机要开炸了?

不甜的李子
2026-09-08 07:23:59
原来上海的高收入群体要存100万也这么难…

原来上海的高收入群体要存100万也这么难…

慧翔百科
2026-09-08 17:34:11
“剪刀可以轻松剪排骨”,张小泉用AI演示剪刀用途被质疑虚假宣传,客服回应:不适合剪大块排骨,使用AI情况会记录反馈

“剪刀可以轻松剪排骨”,张小泉用AI演示剪刀用途被质疑虚假宣传,客服回应:不适合剪大块排骨,使用AI情况会记录反馈

洪观新闻
2026-09-09 16:10:34
CCTV5直播,中国男篮PK哈萨克斯坦,胡明轩领衔,郭士强拒绝爆冷

CCTV5直播,中国男篮PK哈萨克斯坦,胡明轩领衔,郭士强拒绝爆冷

体坛小快灵
2026-09-09 07:34:03
决裂41年后李政道公开表示:我和杨振宁分裂,是中华民族一大悲剧

决裂41年后李政道公开表示:我和杨振宁分裂,是中华民族一大悲剧

浩渺青史
2026-09-08 01:16:10
原来他是董建华亲弟弟,家族资产超300亿,在英国买大楼当包租公

原来他是董建华亲弟弟,家族资产超300亿,在英国买大楼当包租公

米果说识
2026-09-09 14:21:21
彻底掀桌!中方冻结外企在华资产,欧美日供应链集体遭暴击

彻底掀桌!中方冻结外企在华资产,欧美日供应链集体遭暴击

南宗历史
2026-09-02 01:05:43
2026-09-10 06:40:49
Kevin改变世界的点滴 incentive-icons
Kevin改变世界的点滴
每周一次,产品案例与经验分享
389文章数 22关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

教育
艺术
手机
公开课
军事航空

教育要闻

which前加了逗号,太逗了

艺术要闻

禁止出境国宝!唐代孙位唯一存世真迹,宋徽宗亲笔题名

手机要闻

苹果发布会总结:iPhone Duo折叠屏登场,iPhone 18 Pro、AirPods、Apple Watch全线更新

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

停止互袭首都3天后 俄乌猛烈交火

无障碍浏览 进入关怀版