网易首页 > 网易号 > 正文 申请入驻

visionOS 27:眼球追踪,终于开始改变AI产品交互了

0
分享至

就在今天,vision OS27 推出了beta2.0新版本,这个版本下Siri不需要说用hey siri,而是直接通过眼球追踪就可以完成Siri的呼唤。


以眼球追踪与LLM结合,应该是全球首次真正以产品的方式落地,在其他产品上尤其是手机与PC上,要想实现这样交互效果,就比较难以落地。

因为在PC或手机上,首先眼球追踪是鸡肋,同时在平面上的操作手势是追快的,而不是眼球追踪。

眼球追踪与AI结合,理解人类意图

Project Aura 发布之后,xreal的创始人徐驰提到,未来的AI一定是通过眼球追踪来完成,这种人际交互才属于人类最自然的方式,而不是随时都用语音呼叫,通过眼球关注人类的聚焦点,从而反馈给出人类信息。

除此之外,眼球追踪还能够让用户满足各类场景交互,比如不能要语音的环境,比如周围有多个人的时候或者需要安静的环境,这个时候就只有通过眼球或者环境来感知人类的需求,从而让AI辅助你。

空间计算的产品经理,归属世界模型

现在的各类模型,本质上都是LLM,而不是世界模型。当然ChatGPT、Claude也在推出自己的世界模型。

我曾经写过2篇文章,分享到世界模型以及基于MR设备的世界模型到底是什么,以及现在的LLM为什么还不能实现产品经理的梦想:替代人

要AI像人类一样理解这个世界,首先要理解空间与物理世界,世界模型就是底座,只有真的像一个数字伴侣,知道人类在哪里,要干什么,以及当前的问题是什么,才能完成所谓的数字伴侣场景。

而对方到底是真实的躯体还是一堆线上数字人,我认为对于人类来说,只要感情需求能够满足,并且能满足看到、互动,到底能不能接触摸到其实也不是刚需。毕竟现在有了互联网,出现了网恋,不少人因为看不见摸不着就投其所有为伴侣支持。就是因为人类本身也是情感需求大于一切的,如果天天在一起,是一个不说话、不懂你的机器人,那么还不如不存在,存在还会阻挡自己的视线与空间。

眼球追踪与摄像头的权限,苹果始终没有放开

因为用户隐私的看重,现在苹果vision OS始终没有放开这方面的权限,导致开发者开发应用其实会比较受限,尤其是要想开发一些KILL 的App,如果vision OS不能和周边世界进行互动,那么用户的体验就会降低几个等级。

而目前其他的系统阵营,不管是眼镜端的还是AndroidXR端的头显,都开放了摄像头权限。

所以我认为这次project aura的发布,很大程度会开发非常多的KILL App,这些用户因为这些App而买这个眼镜的可能性也是有的,最终倒闭苹果开放这些权限,像早期的录音权限、NFC权限,苹果也是逐步开放。

我们团队正在和AndroidXR、vision OS团队共建2大空间操作系统

就在今天,我们团队虽然还在做AndroidXR的App,但已经和官方取得了联系,并且正在和官方一起联动更新优化国产版本的AndroidXR操作系统,期待可以让中国的厂商可以使用我们这款App与OS系统,我们的目标是既可以让用户像小米、OPPO那样,既可以使用手机安卓的App,也可以随时切换手机。


AndroidXR的AI,现在还等待开发者来支持眼球追踪

在vision OS27beta2.0更新之后,现在AndroidXR属于明显落后了,我认为AndroidXR的官方操作系统至少落后1年的版本,不过接下来因为开放、以及设备出货量,我相信AndroidXR官方的API接口文档会更快支持。

现在的眼球追踪、以及面部追踪现在google官方还是需要用unity开发,而不是原生的安卓语言,但在今年6月份之后已经支持安卓原生语言了。所以以前做安卓或前端开发的同学也不需要去学unity开发了。

而用AndroidXR开发语言就可以完成了,接下来我相信如果开发者能够对空间计算应用够深,那么就可以明确跟着苹果的脚步走,完成眼球追踪与AI模型的结合,甚至我认为这个会成为一个标准的交互方式,成为一个标准API以后会由来自XR系统方提供。

另外我们给苹果提交的feedback现在来看也得到重视,比如最近vision OS27版本更新之后我们就第一时间收到了苹果官方的feedback


可以说我们团队正在帮助空间计算行业前进,尤其是领先的AndroidXR阵营以及vision OS阵营,相信我们的意见会让他们的系统越来越完善。

今天的分享就在这里


找我交流与合作 空间计算与脑机接口系统开发

题图来自 Unsplash ,基于 CC0 协议, 如有侵权,请联系pmtalk123删除

“分享产品经理改变世界的点滴”

产品顾问| 产品咨询|培训合作

请添加微信PMxiaowanzi

最近我的原创

不好意思,Axure仍然是我主流的原型工具

每日案例拆解库,AI等产品打卡群

我创建的产品设计打卡社群,加入后365天,每天体验一款APP。提升产品设计能力,同时有1300份体验报告帮助你找到竞品

在这里你可以随时查询到你想找的各类竞品行业APP,无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。

从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度,体验一款应用。

平均1天1块钱,扫码购买即可加入

连续体验48款应用,通过后原路退回


报名后添加星球助理

PMTalk123

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
董建华后代现状:长子经营家族企业,长女嫁美国人,幼子最有出息

董建华后代现状:长子经营家族企业,长女嫁美国人,幼子最有出息

青梅侃史啊
2026-09-09 16:44:40
iPhone 18 Pro系列正面屏幕亮相:首发小号灵动岛

iPhone 18 Pro系列正面屏幕亮相:首发小号灵动岛

快科技
2026-09-10 03:30:04
人民日报:4岁男童的肢体接触,不是制造流量漩涡的素材

人民日报:4岁男童的肢体接触,不是制造流量漩涡的素材

新京报
2026-09-09 19:21:06
坚决支持中国政府的严正声明,越南占领的中国岛礁全部归还

坚决支持中国政府的严正声明,越南占领的中国岛礁全部归还

叶老四
2026-09-09 13:55:36
梁山108将武力值榜首之争,为何只有他配称“天下无对”?

梁山108将武力值榜首之争,为何只有他配称“天下无对”?

近史谈
2026-09-07 10:39:14
震惊!苏-30MKI击落歼-10CE

震惊!苏-30MKI击落歼-10CE

武器纵论
2026-09-09 22:29:59
如果长沙男童“摸臀”事件发生在美国,会是什么结果?

如果长沙男童“摸臀”事件发生在美国,会是什么结果?

西虹市闲话
2026-09-09 16:34:34
朝鲜宣布:人民的美梦和理想全面实现!

朝鲜宣布:人民的美梦和理想全面实现!

IN朝鲜
2026-09-09 13:33:10
特朗普、普京通电话,俄损失人数突破150万大关

特朗普、普京通电话,俄损失人数突破150万大关

名人苟或
2026-09-09 15:19:57
济南一男子为缴百万元保费背上贷款,实名举报太平人寿,监管部门查实:存在销售误导、给予合同外利益行为

济南一男子为缴百万元保费背上贷款,实名举报太平人寿,监管部门查实:存在销售误导、给予合同外利益行为

大风新闻
2026-09-09 18:53:29
长沙男童“摸臀”事件:当事女主要的不是对不起,而是一场盛大的发布会

长沙男童“摸臀”事件:当事女主要的不是对不起,而是一场盛大的发布会

News脑洞
2026-09-09 15:46:08
分手3年哭求前男友收回赠予豪宅,以为良心发现,结果还不起房贷

分手3年哭求前男友收回赠予豪宅,以为良心发现,结果还不起房贷

青梅侃史啊
2026-09-08 22:00:41
这个国家,已经沦为“美国第51个州”?

这个国家,已经沦为“美国第51个州”?

补壹刀
2026-09-09 17:11:10
男子工作10年资助多位学生,对其中一人停止资助后遭质问“请尽快打过来,不然我曝光你”,本人回应:她情急之下失言,已送去1500元生活费

男子工作10年资助多位学生,对其中一人停止资助后遭质问“请尽快打过来,不然我曝光你”,本人回应:她情急之下失言,已送去1500元生活费

大风新闻
2026-09-09 20:38:28
9月9日俄乌最新:150平方公里,俄媒先崩了

9月9日俄乌最新:150平方公里,俄媒先崩了

西楼饮月
2026-09-09 22:26:48
苹果首款折叠屏命名确定:iPhone Duo

苹果首款折叠屏命名确定:iPhone Duo

ZAKER科技
2026-09-09 14:46:02
年薪增至1900万,是美国总统7倍:全球最高薪领导人,为何还大幅加薪?

年薪增至1900万,是美国总统7倍:全球最高薪领导人,为何还大幅加薪?

40度观察
2026-09-09 17:17:33
女篮晋级八强宫鲁鸣却成笑话!最后25秒叫出唯一暂停,还是王思雨提醒的

女篮晋级八强宫鲁鸣却成笑话!最后25秒叫出唯一暂停,还是王思雨提醒的

篮球资讯达人
2026-09-10 02:15:07
谁也没料到莎拉会来这一手!菲律宾副总统莎拉突然对外甩出与前武装部队总参谋长布劳纳的私聊记录,并公开了一张日期为2024年2月7日的截图

谁也没料到莎拉会来这一手!菲律宾副总统莎拉突然对外甩出与前武装部队总参谋长布劳纳的私聊记录,并公开了一张日期为2024年2月7日的截图

回京历史梦
2026-09-09 21:32:19
惊险过关!中国女篮晋级8强,赛后2个好消息和2个坏消息

惊险过关!中国女篮晋级8强,赛后2个好消息和2个坏消息

南海浪花
2026-09-10 01:53:52
2026-09-10 03:40:49
Kevin改变世界的点滴 incentive-icons
Kevin改变世界的点滴
每周一次,产品案例与经验分享
389文章数 22关注度
往期回顾 全部

科技要闻

苹果首款折叠屏iPhone Duo发布,15999元起

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

游戏
艺术
教育
数码
房产

《星际火狐》登陆Switch2!追加免费更新

艺术要闻

贝格玛镜头下的少女,一张张看下去,我竟然忘了呼吸……

教育要闻

今年最惨的6个专业,平均月薪跌破4000元,就业率低得离谱!

数码要闻

Apple Watch Series 12与Ultra 4发布:搭载S11芯片,起售价399美元

房产要闻

设计之都、中央法务区、均禾大道南侧……白云甩出3宗硬核宅地!

无障碍浏览 进入关怀版