网易首页 > 网易号 > 正文 申请入驻

前豆包产品经理开源!Codex、WorkBuddy都能操作iPhone干活了

0
分享至

智猩猩AI整理

编辑: 没方

最近几天,GitHub上一个叫iPhone Use的开源项目突然火了起来,它能 让Codex、WorkBuddy或豆包工作,通过USB操作真实iPhone。


这个项目作者是钟二信,前豆包桌面端产品经理,也做过Teambition和飞书智能伙伴的设计师。他把过去在产品设计上对“人机协作”的理解,做成了这个能动手操作手机的工具iPhone Use,在github上已经收获3.6k stars。


装上这个开源项目,用户可以用自然语言描述任务,AI就能自己打开App、读懂页面、点击、滑动、输入文字、整理列表,电脑侧边栏可以实时展示手机屏幕。

现在这个项目已经可以稳定满足各种常用APP的操作,刷微信朋友圈、总结微信群聊、去淘宝里下单买东西、点个美团外卖、发篇小红书帖子都能干。


马上不是要进入双十一购物季了,各个平台的国补、满减、优惠券、积分兑换规则越来越复杂,光研究怎么买最便宜,可能就得折腾半天。

于是,项目作者干脆把这件事交给iPhone Use。

AI一通操作之后,居然发现他的拼多多账户里还有不少积分可以兑换优惠券。

这波直接帮他省下了99元。


还有那些跨App的“脏活累活”也可以交给iPhone Use。

比如每个月打开微信、支付宝、信用卡App,把散落在不同地方的账单明细找出来,再汇总成一份消费报告。过去自己做,不仅要来回切App、翻记录,还得担心重复和遗漏。现在可以进一步让它统一整理、交叉去重,就是时间会比较长。


还有网友尝试让iPhone Use处理手机里拍好的几件闲置物品,直接帮忙上架闲鱼,最后真的卖出去了。


项目开源之后,社区很快开始给它扩展各种玩法。

iPhone Use最初主要面向Codex,后来其他开发者陆续把这套能力接到了更多Agent上。

开发者Shunpu Tang提交PR,让豆包工作和WorkBuddy也支持了iPhone Use,相关代码随后被作者合并。


另一位开发者Lord Andy™则进一步动手改造,让iPhone Use可以运行在Hermes Agent里。


01

把AI的“眼睛”和“手”接到

真实的iPhone上

iPhone Use使用WebDriverAgent(WDA)与iPhone通信,包含本地MCP服务、安装与使用技能,以及实时屏幕 widget。

它优先复用现有连接与构建。控件定位失败时,会指导模型查看截图并尝试坐标点击。

遇到密码、验证码、Face ID等身份认证环节时,AI会暂停操作,提示用户在手机上完成认证,之后再继续执行任务。项目还强调将内容输入与最终提交分开处理。对于发送消息、提交订单等操作,AI需要先核对接收人、商品数量、金额等关键信息,再执行后续步骤,并检查最终结果。

项目作者在产品设计上围绕“自然语言描述任务—AI观察并行动—人随时可以接管”这条闭环来设计。

将微信点击做了针对性优化,已知导航目标可以直接看图点击。AirDrop文件传输也有了技能指引,方便把手机里的图片、视频和文档传回Mac。这些细节让iPhone Use能真正用在日常场景里,不只停留在演示阶段。

02

安装教程

iPhone Use目前主要面向Mac和iPhone用户。

正式安装之前,需要准备一台Mac、一部通过USB连接的iPhone,并在电脑上安装完整版本的 Xcode,同时准备好 Python、Node.js 和 npm 等基础环境。

(1)如果使用 Codex,就把下面的安装提示词丢给它:

或解锁需要我操作时,告诉我明确步骤,等我完成再继续。

(2)使用WorkBuddy,提示词如下:

需要我接管时,说明具体步骤并等我完成;不要照搬作者的设备标识或签名信息。

(3)使用豆包工作,提示词如下:

需要我接管时,说明具体步骤并等我完成;不要照搬作者的设备标识或签名信息。

关注+星标,获取AI前沿进展与开源一线动态

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
游泳运动员为何赛前必须“刮毛”?背后原因你知道吗?

游泳运动员为何赛前必须“刮毛”?背后原因你知道吗?

大运河时空
2026-10-25 17:15:05
出名后出轨保姆、气死原配,如今77岁的他晚景凄凉,子女与其割席

出名后出轨保姆、气死原配,如今77岁的他晚景凄凉,子女与其割席

不似少年游
2026-10-23 16:49:52
养老政策大局已定,不出意外,2026退休金或将出现3项关键变动

养老政策大局已定,不出意外,2026退休金或将出现3项关键变动

刘森森
2026-10-25 10:47:49
难怪蓝玉被朱元璋屠戮三族,你不看他都做了啥?竟连王妃都敢侮辱

难怪蓝玉被朱元璋屠戮三族,你不看他都做了啥?竟连王妃都敢侮辱

史笔似尘钩
2025-02-19 22:03:38
虱子从中国人生活里消失,根本原因不是爱干净,真相让人傻眼

虱子从中国人生活里消失,根本原因不是爱干净,真相让人傻眼

奇葩游戏酱
2026-10-17 06:27:30
抢救后换衣2分钟遭投诉解聘!监控证清白,医院仍开人:今天是她,明天是谁?

抢救后换衣2分钟遭投诉解聘!监控证清白,医院仍开人:今天是她,明天是谁?

医客
2026-10-25 12:10:20
沈伯洋喊“缝合市民大道”!蒋办批:有如外地人想象

沈伯洋喊“缝合市民大道”!蒋办批:有如外地人想象

台海新时光
2026-10-25 14:19:27
机场偶遇刘亦菲,穿紧身裤腿粗掉屁股露三角区,走路内八身材尴尬

机场偶遇刘亦菲,穿紧身裤腿粗掉屁股露三角区,走路内八身材尴尬

青梅侃史啊
2026-10-10 07:14:33
美日联演启动不到24小时,日本内部先炸锅了,解放军47天实弹封海

美日联演启动不到24小时,日本内部先炸锅了,解放军47天实弹封海

关系新篇章
2026-10-24 05:55:31
明尼苏达上演暖心救援,黑人男子受《古兰经》经文感召,纵身跳上失控校车刹停车辆,19名学生全部平安获救

明尼苏达上演暖心救援,黑人男子受《古兰经》经文感召,纵身跳上失控校车刹停车辆,19名学生全部平安获救

14号观星辰
2026-10-25 17:30:03
客服群发黄色链接,充电宝巨头怎么了?

客服群发黄色链接,充电宝巨头怎么了?

中国新闻周刊
2026-10-24 12:32:10
“在北大读书,40天花掉2w”,男生公布真实账单,网络骂声一片,男生一句话瞬间安静

“在北大读书,40天花掉2w”,男生公布真实账单,网络骂声一片,男生一句话瞬间安静

蝴蝶花雨话教育
2026-10-26 07:00:08
菲总统候选人莫雷诺:如果当选,我将让菲律宾成为下一个新加坡

菲总统候选人莫雷诺:如果当选,我将让菲律宾成为下一个新加坡

孤城落叶
2026-10-22 09:33:11
燃油车时代就快结束?内行人预测:油价大概率是最后的关键!

燃油车时代就快结束?内行人预测:油价大概率是最后的关键!

抽象派大师
2026-10-23 01:57:50
男子炮轰中国部分媒体!拿中国长处贬低他国短处,中国不是天堂,外国也不是地狱

男子炮轰中国部分媒体!拿中国长处贬低他国短处,中国不是天堂,外国也不是地狱

小徐讲八卦
2026-09-13 07:40:07
全球总决赛:TES有点东西,LCK惨了!打爆下路,IG大胜HLE

全球总决赛:TES有点东西,LCK惨了!打爆下路,IG大胜HLE

囧王者
2026-10-26 02:12:53
但斌最新访谈:AI革命比互联网革命更伟大,有没有泡沫要听战斗在一线的企业家怎么说,AI时代对中国、对华人特别有利

但斌最新访谈:AI革命比互联网革命更伟大,有没有泡沫要听战斗在一线的企业家怎么说,AI时代对中国、对华人特别有利

投资者内参
2026-10-25 21:41:48
“这跟内衣有啥区别?”中学女儿的外出穿搭,让母亲绷不住了

“这跟内衣有啥区别?”中学女儿的外出穿搭,让母亲绷不住了

世界圈
2026-09-22 15:46:08
库里追梦波神集体缺阵,勇士首发五虎只剩陌生面孔

库里追梦波神集体缺阵,勇士首发五虎只剩陌生面孔

竞技风云录
2026-10-26 05:58:01
委内瑞拉又变天,罗德里格斯面临下台,扳倒马杜罗反替别人铺了路

委内瑞拉又变天,罗德里格斯面临下台,扳倒马杜罗反替别人铺了路

铁锤侃侃而谈
2026-10-25 10:04:16
2026-10-26 07:36:49
智猩猩
智猩猩
AI 技术内容与服务平台
273文章数 15关注度
往期回顾 全部

科技要闻

苹果首款折叠屏没能养肥黄牛

头条要闻

顾客一个避雷帖致小店营业额直接暴跌75% 女店主崩溃

头条要闻

顾客一个避雷帖致小店营业额直接暴跌75% 女店主崩溃

体育要闻

文班、约基奇和扬尼斯各自的处境

娱乐要闻

王佳佳近况:44岁导演老公露面

财经要闻

宁王AB面:好业绩,坏天气

汽车要闻

专业越野+华为乾崑智能 猛士X700限时焕新价20.98万起

态度原创

家居
教育
艺术
游戏
旅游

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

小学数学试卷越来越难像阅读理解!9岁男孩深夜还盯着作业发呆,妈妈急了!

艺术要闻

家底丰厚的贵公子,最后散尽千金,留给民族无价珍宝

FoveatedDLSS5让《巫师3》帧率提升约63%

旅游要闻

卢塞恩湖畔(旅人心语)

无障碍浏览 进入关怀版