网易首页 > 网易号 > 正文 申请入驻

首发!openJiuwen WorkSwarm全双工多模态 ,像聊天一样与Agent交互,昇腾算力原生亲和

0
分享至

复杂agent任务在后台跑,对话在前台继续。实时模型与Core Agent,开始按两种节奏配合,带来全新的交互体验。

AI助手正在进入一种新的工作节奏:一边对话,一边调用工具办事。

近期关于 Gemini Live 更新的报道,就把后台工具调用放进了实时交互:助手可以先回应一句「我查一下」,再继续处理需要时间的工作。

这也把一个日常问题摆到了面前:查资料、做分析都需要时间,用户的新问题却随时会来。工具任务运行时,AI 还能不能继续接话?

要理解这件事,先要理解「全双工」。



从用户视角看,传统语音助手更像对讲机:用户说完一段,AI 才能接话;AI 说话时,用户插话,往往会被打断或忽略。全双工则类似于打电话:AI 可以边听、边说,用户能随时打断、补充,对话不再严格按「你说完—我再说」的回合推进。对用户最直接的变化,不是多了一个技术名词,而是等待感被压缩:不用等它说完,也不用迁就它的节奏。

WorkSwarm全双工多模态能力正围绕这一体验展开。openJiuwen 是由华为 2012 实验室、华为云、终端、计算、算力先遣队等团队联合高校、企业等广大开发者联合构建的开源 AI Agent 平台,WorkSwarm即为其开源的办公编码统一工作台,它把实时音视频交互与 Core Agent 执行接入同一个任务:用户可以展示眼前画面、随时插话,也可以把需要进一步处理的工作交给 后台Core Agent。



这套能力并非停留在演示层面,openJiuwen提供了Windows、Mac、HarmonyOS等系统的一键安装包,进入官网下载安装,即可立即体验







能插话,才算实时对话

人和人交流,很少严格遵守「一方说完,另一方再开口」。看到新画面、发现理解偏了,或者只想先听重点,用户都会直接补上一句。

「先别介绍背景,直接说结论。」

这句话可以在 WorkSwarm 播报时说出来。系统检测到新的有效人声后,会停止当前播报,开始处理新指令;已经生成的文字仍保留在任务记录里。语音活动检测与噪声门限,则用来降低背景声造成的误打断。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频里我们让Agent先朗读《岳阳楼记》,在过程中直接语音说朗读《兰亭集序》,可以自然的快速切换。

插话改变的是当前对话。已经交给 Core Agent 的工具任务有独立的运行状态,要取消它,得单独去任务控制里手动停止。用户说话时,系统要同时处理两个层面的事:对话层接住新要求,任务层管好已经跑起来的工作。



用户插话时,当前播报停止;新的要求继续进入同一个任务,而不是另起一段割裂的对话。

一边聊,一边办事

「这是什么品牌?」之后,用户可能还会补上一句:「查一下它的资料,整理成一份文档。」

一个看图问题,就这样变成了需要搜索、分析和文件生成的任务。而资料还没查完,用户的新问题可能已经来了。

WorkSwarm 用两条路径接住这两种节奏:实时模型负责看画面、听要求、及时回应;Core Agent 负责拆解任务、调用工具,把后续工作推进下去。

搜索在后台运行,对话在前台继续。用户仍能追问眼前的画面,也能随时打断播报、补充要求。



当任务进入 Core Agent,页面会持续呈现任务状态、工具调用记录、执行结果和文件产物。用户看到的不再只是一个旋转的「加载中」,而是事情正在怎样向前推进。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


视频中我们先下发了一个任务,让他通过工具调用,去阅读我们算法word文档,在这个过程中,我们可以在右上角任务队列看到任务正在运行,并且我们这个时候还能正常和agent聊天。


视频链接:https://mp.weixin.qq.com/s/V1vOdvNBKxPHwu9zelmWcw


在任务完成后,我们不会打断在聊天的对话,但是会先在文本框中输出我们的总结信息(如下图),然后在这一轮对话结束后,才会汇报工作,说总结文档的工作完成了,并且像人类汇报工作一样,提取重要信息说明,不会全部信息语音输出。



真实界面中,实时回答、Core Agent 运行状态和最终结果都回到同一个任务。

边聊边办事,任务各走各的

前一个搜索还没结束,用户又交代了第二件事,怎么办?

WorkSwarm 的全双工任务队列,为后续要求安排了等待位置。用户可以调整顺序,把某项任务设为下一项;也可以停止等待中或正在执行的任务。对话持续进行时,哪些事在做、哪些还没开始,都有明确状态。



在右上角的我们可以手动移动每个任务的顺序,从而调度运行的队列,并且直接一键置顶、打断现有运行任务。

音视频连接与工具任务也分别管理。即使关闭全双工音视频,已经提交给 Core Agent 的任务仍可继续执行。完成后的文字、工具结果和文件,会回到原来的对话中。

例如,通过镜头发起品牌查询后,用户可以结束音视频交互,稍后再回来查看资料。现场交代的工作,由此有了可追踪的执行过程。



工具任务可以排队、调整和停止;音视频连接与后台任务不再被简单绑定。

所以,WorkSwarm 全双工多模态能力的意义,不只是让 AI 能「边听边说」,而是让实时对话与 Core Agent 的后台执行真正并行:用户在前台像聊天一样随时打断、追问、补充,复杂任务在后台按自己的节奏继续查资料、调工具、做分析。这种「对话不中断、任务不停跑」的体验已经走出演示,开始成为可用的协作方式。当 AI 不再要求人迁就回合,而是像同事一样边聊边办,人机协同的下一段节奏,也就此开始。

如何使用:

1.模型和语音通道可以在设置中配置



2.目前支持JoyAI协议和Qwen Omni协议,可以点击模型通道去切换

a)Qwen Omni realtime websocket可以填官网base_url 或者本地部署地址



b)JoyAI 是三种模型拼接(ASR, LLM, TTS)所以支持三种都使用官方api,或者其他平台的ASR和TTS模型。



此外,还支持基于使用华为云ModelArts平台,基于vLLM-Omni推理框架,在昇腾系列NPU部署全双工多模态模型,对接WorkSwarm 多模态全双工能力。

参考资料:

在线体验,领免费 Token:

https://openjiuwen.com

相关资源:

立即体验:
https://www.openjiuwen.com/download

GitHub:https://github.com/openJiuwen-ai

AtomGit:https://atomgit.com/openJiuwen

Agentic Hub:https://agentichub.openjiuwen.com

使用华为云ModelArts在昇腾NPU部署全双工多模态模型参考:

https://support.huaweicloud.com/modelarts/index.html

https://github.com/vllm-project/vllm-omni/tree/main/examples/online_serving/minicpmo

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小S在社交平台发文 称蔡康永“嘴巴最坏的读书人″一切都在预料中

小S在社交平台发文 称蔡康永“嘴巴最坏的读书人″一切都在预料中

坠入二次元的海洋
2026-10-07 00:06:14
命太硬!豪门两大巨星集体拒绝曼城!如今逃过毁灭级大坑

命太硬!豪门两大巨星集体拒绝曼城!如今逃过毁灭级大坑

澜归序
2026-10-07 08:22:40
远东集团赚大陆钱捐“台独”?被大陆精准的反制后,发展咋样?

远东集团赚大陆钱捐“台独”?被大陆精准的反制后,发展咋样?

暮雪无痕
2026-09-20 18:41:20
单杠这东西,是藏不住年龄的:能拉上去的人,身体到底有多狠?

单杠这东西,是藏不住年龄的:能拉上去的人,身体到底有多狠?

解说阿洎
2026-10-06 11:31:41
开拓者不给续约也不交易!探花麻了,球队不培养,还被莫兰特取代

开拓者不给续约也不交易!探花麻了,球队不培养,还被莫兰特取代

你的篮球频道
2026-10-07 08:36:02
德国金发女当街怒吼中东难民:不融入就滚,凭啥改我们的规矩?

德国金发女当街怒吼中东难民:不融入就滚,凭啥改我们的规矩?

步论天下事
2026-09-30 10:10:18
小米新车被曝节假日高速不免费,小米官方最新回应!

小米新车被曝节假日高速不免费,小米官方最新回应!

电动内参
2026-10-04 23:48:29
痛心!云南大学齐春风教授走了,56岁:34岁就破格当上教授,还有书稿没写完

痛心!云南大学齐春风教授走了,56岁:34岁就破格当上教授,还有书稿没写完

王老师你还好吗
2026-10-07 15:50:53
三任院长全倒了!光一个科室就捞了2500万,谁在买单

三任院长全倒了!光一个科室就捞了2500万,谁在买单

鬼菜生活
2026-09-15 02:24:04
宋福波,任苏州市委常委、纪委书记!李小荣,任福建省财政厅副厅长!

宋福波,任苏州市委常委、纪委书记!李小荣,任福建省财政厅副厅长!

观星赏月
2026-10-07 15:50:10
哈里梅根终于低头,为奥普拉采访道歉,王室反应曝光:威廉没理

哈里梅根终于低头,为奥普拉采访道歉,王室反应曝光:威廉没理

手工制作阿歼
2026-10-07 17:52:46
广东男篮雪上加霜,萨姆纳骨折,球队报价救火外援洛夫顿,场均27+5+3

广东男篮雪上加霜,萨姆纳骨折,球队报价救火外援洛夫顿,场均27+5+3

中国篮坛快讯
2026-10-07 12:46:50
薛其坤痛失物理学诺奖,哈尔岑凭冰立方折桂,中国的诺奖何时爆发?

薛其坤痛失物理学诺奖,哈尔岑凭冰立方折桂,中国的诺奖何时爆发?

麓谷隐士
2026-10-06 21:33:03
视频丨迪拜航空副驾驶行凶当天发布的社交媒体视频曝光

视频丨迪拜航空副驾驶行凶当天发布的社交媒体视频曝光

环球网资讯
2026-10-06 23:15:51
在泰失联的上海音乐教师已安全回国

在泰失联的上海音乐教师已安全回国

澎湃新闻
2026-10-07 16:10:04
原来刘欢晚年定居上海真相:不是搬家,是养病!北京才是他的根

原来刘欢晚年定居上海真相:不是搬家,是养病!北京才是他的根

娱圈办事处
2026-10-06 19:13:25
全国婆娘最凶的五个省份,第一名实至名归,你家婆娘上榜了吗

全国婆娘最凶的五个省份,第一名实至名归,你家婆娘上榜了吗

热心市民小黄
2026-10-06 00:35:06
茂名演唱会又翻车?观众直呼“被坑”

茂名演唱会又翻车?观众直呼“被坑”

草莓解说体育
2026-10-07 03:51:01
美国为何禁止种植竹子?终于明白,原来竹子比我们想象的更可怕

美国为何禁止种植竹子?终于明白,原来竹子比我们想象的更可怕

抽象派大师
2026-09-28 16:03:48
大批中国精英移民美国后,集体消失!朋友圈彻底停更,太真实了

大批中国精英移民美国后,集体消失!朋友圈彻底停更,太真实了

史之铭
2026-10-03 02:22:30
2026-10-07 18:36:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14143文章数 142744关注度
往期回顾 全部

科技要闻

万亿砸向高速充电桩,排队为何仍是无解?

头条要闻

演员王星被骗至妙瓦底4天遭转卖3次 向女友发求救暗号

头条要闻

演员王星被骗至妙瓦底4天遭转卖3次 向女友发求救暗号

体育要闻

从骑马舞到开口全中文 德约在北京不止七冠

娱乐要闻

吴奇隆举旗活动取消,不赚钱也守立场

财经要闻

谷歌签下科技史上最大核能协议

汽车要闻

智能化再提升 2027款东风标致、东风雪铁龙新车更人性化了

态度原创

健康
教育
亲子
旅游
房产

刷酸祛痘,为什么有人翻车?

教育要闻

这么晚还没有做出来,都怕妈妈生气了

亲子要闻

原来我不是羡慕有钱人,是羡慕幸福的人

旅游要闻

全球媒体聚焦 | 美媒:中国魅力吸引全球游客深度体验

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

无障碍浏览 进入关怀版