网易首页 > 网易号 > 正文 申请入驻

首发!openJiuwen WorkSwarm全双工多模态 ,像聊天一样与Agent交互,昇腾算力原生亲和

0
分享至

复杂agent任务在后台跑,对话在前台继续。实时模型与Core Agent,开始按两种节奏配合,带来全新的交互体验。

AI助手正在进入一种新的工作节奏:一边对话,一边调用工具办事。

近期关于 Gemini Live 更新的报道,就把后台工具调用放进了实时交互:助手可以先回应一句「我查一下」,再继续处理需要时间的工作。

这也把一个日常问题摆到了面前:查资料、做分析都需要时间,用户的新问题却随时会来。工具任务运行时,AI 还能不能继续接话?

要理解这件事,先要理解「全双工」。



从用户视角看,传统语音助手更像对讲机:用户说完一段,AI 才能接话;AI 说话时,用户插话,往往会被打断或忽略。全双工则类似于打电话:AI 可以边听、边说,用户能随时打断、补充,对话不再严格按「你说完—我再说」的回合推进。对用户最直接的变化,不是多了一个技术名词,而是等待感被压缩:不用等它说完,也不用迁就它的节奏。

WorkSwarm全双工多模态能力正围绕这一体验展开。openJiuwen 是由华为 2012 实验室、华为云、终端、计算、算力先遣队等团队联合高校、企业等广大开发者联合构建的开源 AI Agent 平台,WorkSwarm即为其开源的办公编码统一工作台,它把实时音视频交互与 Core Agent 执行接入同一个任务:用户可以展示眼前画面、随时插话,也可以把需要进一步处理的工作交给 后台Core Agent。



这套能力并非停留在演示层面,openJiuwen提供了Windows、Mac、HarmonyOS等系统的一键安装包,进入官网下载安装,即可立即体验







能插话,才算实时对话

人和人交流,很少严格遵守「一方说完,另一方再开口」。看到新画面、发现理解偏了,或者只想先听重点,用户都会直接补上一句。

「先别介绍背景,直接说结论。」

这句话可以在 WorkSwarm 播报时说出来。系统检测到新的有效人声后,会停止当前播报,开始处理新指令;已经生成的文字仍保留在任务记录里。语音活动检测与噪声门限,则用来降低背景声造成的误打断。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频里我们让Agent先朗读《岳阳楼记》,在过程中直接语音说朗读《兰亭集序》,可以自然的快速切换。

插话改变的是当前对话。已经交给 Core Agent 的工具任务有独立的运行状态,要取消它,得单独去任务控制里手动停止。用户说话时,系统要同时处理两个层面的事:对话层接住新要求,任务层管好已经跑起来的工作。



用户插话时,当前播报停止;新的要求继续进入同一个任务,而不是另起一段割裂的对话。

一边聊,一边办事

「这是什么品牌?」之后,用户可能还会补上一句:「查一下它的资料,整理成一份文档。」

一个看图问题,就这样变成了需要搜索、分析和文件生成的任务。而资料还没查完,用户的新问题可能已经来了。

WorkSwarm 用两条路径接住这两种节奏:实时模型负责看画面、听要求、及时回应;Core Agent 负责拆解任务、调用工具,把后续工作推进下去。

搜索在后台运行,对话在前台继续。用户仍能追问眼前的画面,也能随时打断播报、补充要求。



当任务进入 Core Agent,页面会持续呈现任务状态、工具调用记录、执行结果和文件产物。用户看到的不再只是一个旋转的「加载中」,而是事情正在怎样向前推进。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频中我们先下发了一个任务,让他通过工具调用,去阅读我们算法word文档,在这个过程中,我们可以在右上角任务队列看到任务正在运行,并且我们这个时候还能正常和agent聊天。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


在任务完成后,我们不会打断在聊天的对话,但是会先在文本框中输出我们的总结信息(如下图),然后在这一轮对话结束后,才会汇报工作,说总结文档的工作完成了,并且像人类汇报工作一样,提取重要信息说明,不会全部信息语音输出。



真实界面中,实时回答、Core Agent 运行状态和最终结果都回到同一个任务。

边聊边办事,任务各走各的

前一个搜索还没结束,用户又交代了第二件事,怎么办?

WorkSwarm 的全双工任务队列,为后续要求安排了等待位置。用户可以调整顺序,把某项任务设为下一项;也可以停止等待中或正在执行的任务。对话持续进行时,哪些事在做、哪些还没开始,都有明确状态。



在右上角的我们可以手动移动每个任务的顺序,从而调度运行的队列,并且直接一键置顶、打断现有运行任务。

音视频连接与工具任务也分别管理。即使关闭全双工音视频,已经提交给 Core Agent 的任务仍可继续执行。完成后的文字、工具结果和文件,会回到原来的对话中。

例如,通过镜头发起品牌查询后,用户可以结束音视频交互,稍后再回来查看资料。现场交代的工作,由此有了可追踪的执行过程。



工具任务可以排队、调整和停止;音视频连接与后台任务不再被简单绑定。

所以,WorkSwarm 全双工多模态能力的意义,不只是让 AI 能「边听边说」,而是让实时对话与 Core Agent 的后台执行真正并行:用户在前台像聊天一样随时打断、追问、补充,复杂任务在后台按自己的节奏继续查资料、调工具、做分析。这种「对话不中断、任务不停跑」的体验已经走出演示,开始成为可用的协作方式。当 AI 不再要求人迁就回合,而是像同事一样边聊边办,人机协同的下一段节奏,也就此开始。

如何使用:

1.模型和语音通道可以在设置中配置



2.目前支持JoyAI协议和Qwen Omni协议,可以点击模型通道去切换

a)Qwen Omni realtime websocket可以填官网base_url 或者本地部署地址



b)JoyAI 是三种模型拼接(ASR, LLM, TTS)所以支持三种都使用官方api,或者其他平台的ASR和TTS模型。



此外,还支持基于使用华为云ModelArts平台,基于vLLM-Omni推理框架,在昇腾系列NPU部署全双工多模态模型,对接WorkSwarm 多模态全双工能力。

参考资料:

在线体验,领免费 Token:

https://openjiuwen.com

相关资源:

立即体验:
https://www.openjiuwen.com/download

GitHub:https://github.com/openJiuwen-ai

AtomGit:https://atomgit.com/openJiuwen

Agentic Hub:https://agentichub.openjiuwen.com

使用华为云ModelArts在昇腾NPU部署全双工多模态模型参考:

https://support.huaweicloud.com/modelarts/index.html

https://github.com/vllm-project/vllm-omni/tree/main/examples/online_serving/minicpmo

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
没人愿意生活在告密成灾的社会里:为了保研而举报,致20名同学受处分,这届大学生变坏了吗?

没人愿意生活在告密成灾的社会里:为了保研而举报,致20名同学受处分,这届大学生变坏了吗?

呦呦鹿鸣
2026-09-30 22:44:32
白宫文件称中国为盟友,坎贝尔激烈反对:别中了离间计

白宫文件称中国为盟友,坎贝尔激烈反对:别中了离间计

靓仔情感
2026-10-01 12:25:23
孙俪邓超现身母亲生日宴,脸肿头秃尖酸刻薄,红美甲大金镯超抢镜

孙俪邓超现身母亲生日宴,脸肿头秃尖酸刻薄,红美甲大金镯超抢镜

娱说瑜悦
2026-10-01 14:53:36
演员闫妮坦言自己一直单身:不介意相亲,“有人给我介绍50多岁男子,我说太老了吧,忘了自己也50多”,透露与前夫仍是朋友,还一起打掼蛋

演员闫妮坦言自己一直单身:不介意相亲,“有人给我介绍50多岁男子,我说太老了吧,忘了自己也50多”,透露与前夫仍是朋友,还一起打掼蛋

极目新闻
2026-10-01 08:54:25
刚刚,猛烈抛售!欧洲“大风暴”,席卷股市债市!

刚刚,猛烈抛售!欧洲“大风暴”,席卷股市债市!

证券时报
2026-10-01 19:45:10
尘埃落定,41岁C罗退出国家队,原因揭晓,葡萄牙8000万前锋上位

尘埃落定,41岁C罗退出国家队,原因揭晓,葡萄牙8000万前锋上位

球场没跑道
2026-10-01 09:57:36
离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

离职高管向寒武纪索赔278亿元:一纸上市前的约定,如何变成一场豪赌

红星新闻
2026-10-01 18:14:23
头破血流、出尽洋相?宋佳在金鹰奖的发言,让周迅李冰冰无地自容

头破血流、出尽洋相?宋佳在金鹰奖的发言,让周迅李冰冰无地自容

娱说瑜悦
2026-10-01 15:33:02
动真格!中央开始对机关事业单位大整顿!这几类人受影响最大

动真格!中央开始对机关事业单位大整顿!这几类人受影响最大

职场资深秘书
2026-10-01 17:42:38
4天后终服软?曝葡萄牙主帅本轮赛后公开向C罗道歉!疑遭总理施压

4天后终服软?曝葡萄牙主帅本轮赛后公开向C罗道歉!疑遭总理施压

我爱英超
2026-10-01 22:21:08
林诗栋4-0王楚钦夺冠,现场却齐喊“王皓下课”,王皓罕见连鼓两次掌回怼

林诗栋4-0王楚钦夺冠,现场却齐喊“王皓下课”,王皓罕见连鼓两次掌回怼

火锅局
2026-10-01 13:09:57
华为Mate90系列发布,售价5999元起

华为Mate90系列发布,售价5999元起

界面新闻
2026-10-01 11:24:16
英国媒体确认了:乌克兰总统泽连斯基公开表示,有超过8000名朝鲜士兵驻扎在俄罗斯境内,另外朝鲜正准备向俄罗斯增派10000名朝鲜士兵

英国媒体确认了:乌克兰总统泽连斯基公开表示,有超过8000名朝鲜士兵驻扎在俄罗斯境内,另外朝鲜正准备向俄罗斯增派10000名朝鲜士兵

吉刻新闻
2026-09-29 19:28:17
台州女老板回国下飞机后,哭着打电话给丈夫:包不见了,恐怕要损失几十万元生意!濒临崩溃时,一通电话打了过来……

台州女老板回国下飞机后,哭着打电话给丈夫:包不见了,恐怕要损失几十万元生意!濒临崩溃时,一通电话打了过来……

台州交通广播
2026-10-01 10:40:00
反转?亚运冠军成绩遭取消!疑日本选手举报,中国选手递补奖牌

反转?亚运冠军成绩遭取消!疑日本选手举报,中国选手递补奖牌

即使没有换位思考
2026-10-01 16:19:25
“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

“我们自愿有何罪”?三男三女聚众淫乱,三亚高知换妻游戏案始末

易玄
2026-09-13 11:43:30
美国一女囚被注射两剂死刑药物后仍有心跳,“还能听到她打鼾的声音”,行刑失败“接受抢救”

美国一女囚被注射两剂死刑药物后仍有心跳,“还能听到她打鼾的声音”,行刑失败“接受抢救”

大风新闻
2026-10-01 18:52:03
突发!原来他俩已离婚,如今一个终生未再娶,一个嫁同行不再丁克生儿子!

突发!原来他俩已离婚,如今一个终生未再娶,一个嫁同行不再丁克生儿子!

财经要参
2026-10-01 16:00:10
一名极为罕见的乌友

一名极为罕见的乌友

YY团长
2026-10-01 07:26:06
桂林市文促会深夜发布致歉信:工作严重疏漏,向邱孟煌先生诚恳致歉,依规开展内部问责,将以此为戒

桂林市文促会深夜发布致歉信:工作严重疏漏,向邱孟煌先生诚恳致歉,依规开展内部问责,将以此为戒

政知新媒体
2026-10-01 23:19:50
2026-10-02 05:11:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14115文章数 142741关注度
往期回顾 全部

科技要闻

5999元起!华为Mate 90系列发布

头条要闻

桂林市文促会深夜发布致歉信:向阿丘诚恳致歉

头条要闻

桂林市文促会深夜发布致歉信:向阿丘诚恳致歉

体育要闻

“今天的表现,我们可以昂首离开球场”

娱乐要闻

奚梦瑶晒四太豪礼!22只龙凤镯近300万

财经要闻

智谱发上亿Token 能挽回开发者信任吗?

汽车要闻

2027款极氪001将于明年一季度上市 现款猎装同步推新配色

态度原创

艺术
家居
数码
游戏
军事航空

艺术要闻

他历尽苦难,却画出最令人心碎的女人!艾斯特凡笔下的女性,美到不敢直视!

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

亚马逊发布全新Kindle:取消传统边框 正面屏幕实现全面平整化

我在不被「心」偷走我的心挑战中取得了0.01秒的好成绩

军事要闻

美防长宣布组建“自主作战司令部”

无障碍浏览 进入关怀版