网易首页 > 网易号 > 正文 申请入驻

AI赋能科技伦理审查再升级

0
分享至

7月17日,2026世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。在大会系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。一起来看都有哪些升级→

7月17日,上海,在2026世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2026)系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。“一鉴”由中国科协—复旦大学科技伦理与人类未来研究院、复旦大学可信具身智能研究院牵头,联合哲学学院、生命科学学院、附属中山医院等协同研发,并获复旦大学科学技术研究院与上海人工智能实验室支持,致力于以人工智能赋能科技伦理审查,为负责任创新提供可解释、可追溯、可复核的智能辅助。项目充分发挥复旦大学综合性、研究型大学的学科优势,把哲学伦理、人工智能、公共治理和国际研究相结合,形成具有复旦特色的“AI+伦理治理”交叉创新体系。

“半亩方塘一鉴开,天光云影共徘徊”。“一鉴”寓意以科技之“镜”照鉴潜在风险,为科研创新守住伦理底线,守护生命尊严与公共利益。2025年,“一鉴”作为全球首个专为科技伦理审查打造的AI智能体系统亮相世界人工智能大会,率先探索人工智能赋能伦理审查的复旦路径。时隔一年,“一鉴”2.0发布,标志着复旦大学在科技伦理治理智能化、标准化和国际化方向上迈出新的关键一步。

科技创新加速,伦理治理先行

近年来,中国政府高度重视科技伦理治理,持续完善国家、区域/专业和机构三个层次的伦理审查体系:以国家科技伦理委员会及分领域专业委员会加强统筹指导,以区域或专业伦理审查中心提升协同服务能力,以高校、科研机构、医疗卫生机构和企业伦理委员会落实主体责任。伦理委员会是促进负责任研究和负责任创新的重要制度安排。进入AI for Science时代,人工智能深度嵌入科学发现、医学研究和社会治理,也带来更加复杂的伦理风险、规则冲突和责任边界问题。

从1.0到2.0:从基础研究拓展至人工智能医学

2025年发布的“一鉴”1.0版本,主要聚焦基础研究伦理审查,围绕受试者保护、知情同意、隐私安全、数据使用和风险受益评估等问题,形成基础的伦理风险识别和审查辅助能力。经过试点应用和专家反馈,1.0版本已具备一定的伦理分析、规则匹配和报告生成能力。

今年升级的“一鉴”2.0,重点扩展至人工智能伦理审查,尤其聚焦人工智能医学这一关键领域,回应《人工智能应用伦理安全指引1.0》关于开发、服务提供和使用环节伦理安全治理的要求。相较于1.0版本,2.0版本实现三大升级:

规则升级

围绕基础研究和人工智能医学两类已开展应用校准的审查场景,构建智能审查规则库;同时将生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等方向作为知识储备和规则梳理对象,支持自定义规则配置、持续迭代和后续拓展。

智能体升级

基于专家反馈强化学习,聚焦基础研究和人工智能医学两大方向,实现智能体与领域专家在审查重点、评价尺度和专业表达上的深度对齐,持续提升专业审查能力。

应用升级

已在复旦大学科研院和国家人工智能应用中试基地(医疗领域,主体单位为复旦大学附属中山医院)开展试点应用,并完成国产算力平台私有化部署,提供覆盖审查全流程的在线审查系统和智能体辅助能力,提升审查效率和质量。

从知识底座到场景校准

此次升级的重点,不是简单扩大知识覆盖面,而是把知识建设、规则提取和专家校准结合起来。团队已阶段性整理法律法规、部门政策、伦理指南、技术标准、典型案例等1200余条高相关语料,形成面向医学伦理、人工智能伦理、科技伦理和科研诚信等方向的知识底座。所有材料均按照来源、发布机构、发布时间、生效与修订状态、现行有效性、适用场景、风险点、权威等级和版权授权状态等进行标准化,为模型提供可验证、可引用、可维护的专业知识来源。

科技伦理审查并非机械的规则匹配,而是一项高度依赖领域知识和专家经验的专业工作。真正的伦理审查能力,需要结合具体领域,通过专家校准与实践应用持续优化,实现与领域专家审查标准的深度对齐。

在“一鉴”2.0系统中,不同类型的数据发挥着不同的作用。规范指南用于构建知识库和规则库,典型案例用于构建风险警示库和教育案例库;而真正决定智能体审查能力的,是与具体审查场景相匹配的领域规则、专家标注和专家反馈数据,通过专家反馈强化学习持续实现与领域专家的深度对齐。

目前,“一鉴”2.0已完成基础研究和人工智能医学两大领域的专家反馈优化和应用校准。生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等领域已完成知识储备和规则体系建设,后续将结合实际应用场景,逐步开展专家校准和专项优化,持续拓展智能体的专业审查能力。

可追溯、可复核、可验证

“一鉴”2.0的价值,在于让伦理审查从“经验辅助”走向“依据可追溯、过程可复核、能力可验证”。系统不是替代伦理委员会,而是帮助研究者与伦理专家更快定位风险、更准匹配规则、更清楚说明依据;同时支持本地化部署和安全管理,保障科研数据、医疗数据和审查材料安全合规。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
约基奇:我对年轻人没那么大影响力 他们不该以我为榜样

约基奇:我对年轻人没那么大影响力 他们不该以我为榜样

北青网-北京青年报
2026-09-11 08:25:03
又一家外资高端医院正式开诊!

又一家外资高端医院正式开诊!

魏子柠说
2026-09-11 01:11:42
冠军赛疯狂一夜!国乒劲敌0-3惨败,张本智和零封,雨果强势逆转

冠军赛疯狂一夜!国乒劲敌0-3惨败,张本智和零封,雨果强势逆转

南海浪花
2026-09-11 07:32:20
40万亿美债压顶,美国终于想明白了:把中国踢出美元体系等于自杀

40万亿美债压顶,美国终于想明白了:把中国踢出美元体系等于自杀

麓谷隐士
2026-09-11 00:05:07
终于来了!苹果正式发布 iOS 27 最终版系统

终于来了!苹果正式发布 iOS 27 最终版系统

XCiOS俱乐部
2026-09-10 08:00:24
18岁少女被逼婚逃到深圳,夜里突遭两名壮汉挟持!竟是父母雇的!网友、退伍的哥、警方都出手了

18岁少女被逼婚逃到深圳,夜里突遭两名壮汉挟持!竟是父母雇的!网友、退伍的哥、警方都出手了

南方都市报
2026-09-10 16:10:34
伊朗袭击美军基地,12架飞机损伤,照片来了

伊朗袭击美军基地,12架飞机损伤,照片来了

世家宝
2026-09-11 00:39:01
她是日本演员,来中国跑龙套15年才爆红,定居北京两次都嫁中国人

她是日本演员,来中国跑龙套15年才爆红,定居北京两次都嫁中国人

嘴角上翘的弧度
2026-09-10 11:55:38
专家:歼20不如土耳其可汗战机

专家:歼20不如土耳其可汗战机

烽火观天下
2026-09-09 12:54:47
游客在山里撒了泡尿,为什么最后要出动直升机搬走325只雪羊?

游客在山里撒了泡尿,为什么最后要出动直升机搬走325只雪羊?

果壳
2026-09-09 16:15:11
与何超琼同居14年,至今没结婚没孩子没名分,地位早已碾压陈百强

与何超琼同居14年,至今没结婚没孩子没名分,地位早已碾压陈百强

就一点
2026-09-10 22:30:17
越南以为中日会抢着接南北高铁项目,结果万万没想到,日本直接撤了,中国企业从头到尾沉默,连价都懒得报

越南以为中日会抢着接南北高铁项目,结果万万没想到,日本直接撤了,中国企业从头到尾沉默,连价都懒得报

扶苏聊历史
2026-09-09 15:54:30
CBA联赛时隔20余年恢复升降级

CBA联赛时隔20余年恢复升降级

新华社
2026-09-10 22:18:15
巴基斯坦:部分武装部队人员在沙特从事培训及相关后勤工作

巴基斯坦:部分武装部队人员在沙特从事培训及相关后勤工作

北青网-北京青年报
2026-09-10 17:13:25
出轨女子第二波聊天记录曝光,虎狼之词惊呆吃瓜网友,她嫌丢人开始批量投诉了

出轨女子第二波聊天记录曝光,虎狼之词惊呆吃瓜网友,她嫌丢人开始批量投诉了

汉史趣闻
2026-09-01 17:55:01
许多中年女人,都不喜欢男人亲她的嘴,到底为什么?

许多中年女人,都不喜欢男人亲她的嘴,到底为什么?

风起见你
2026-08-26 12:18:31
几乎全隧道!每公里超6亿!广东这条新高铁有点“费钱”!

几乎全隧道!每公里超6亿!广东这条新高铁有点“费钱”!

匹夫来搞笑
2026-09-11 00:34:45
26岁央企女孩拒嫁人,被强制送精神病院!精神病院的回应引爆网络

26岁央企女孩拒嫁人,被强制送精神病院!精神病院的回应引爆网络

胡侃社会百态
2026-09-10 14:43:20
阿隆索一直在选择错误的车队

阿隆索一直在选择错误的车队

独自等待Te6O
2026-09-11 06:19:36
南通烤肉店老板老陶深夜跳江身亡!6家门店,一个爱好毁掉一切

南通烤肉店老板老陶深夜跳江身亡!6家门店,一个爱好毁掉一切

观察鉴娱
2026-09-08 09:31:49
2026-09-11 08:47:00
中国科协之声 incentive-icons
中国科协之声
中国科协官方公众平台。传播科协声音,凝聚价值共识,弘扬创新文化,展示科协形象。
4062文章数 4449关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

牛弹琴:玩危险游戏 阿联酋快把阿拉伯兄弟们得罪光了

头条要闻

牛弹琴:玩危险游戏 阿联酋快把阿拉伯兄弟们得罪光了

体育要闻

16岁的国产小库里,还有多少功课要做

娱乐要闻

参加晚宴,刘亦菲因合照深陷争议

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

标配全线控底盘 全新一代智己LS6预售20.99万起

态度原创

房产
时尚
本地
公开课
军事航空

房产要闻

别不服!海南的亿万富豪,只有不到300个!

所以Luke更喜欢沙发,对吗?

本地新闻

拼假 13 天国内长线路线合集

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

中东“两线战火”同时升级

无障碍浏览 进入关怀版