网易首页 > 网易号 > 正文 申请入驻

AI赋能科技伦理审查再升级

0
分享至

7月17日,2026世界人工智能大会暨人工智能全球治理高级别会议在上海开幕。在大会系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。一起来看都有哪些升级→

7月17日,上海,在2026世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2026)系列分论坛——“人工智能全球治理与可持续发展:挑战与应对”论坛上,全球人工智能创新治理中心发布“一鉴”伦理审查智能体系统2.0。“一鉴”由中国科协—复旦大学科技伦理与人类未来研究院、复旦大学可信具身智能研究院牵头,联合哲学学院、生命科学学院、附属中山医院等协同研发,并获复旦大学科学技术研究院与上海人工智能实验室支持,致力于以人工智能赋能科技伦理审查,为负责任创新提供可解释、可追溯、可复核的智能辅助。项目充分发挥复旦大学综合性、研究型大学的学科优势,把哲学伦理、人工智能、公共治理和国际研究相结合,形成具有复旦特色的“AI+伦理治理”交叉创新体系。

“半亩方塘一鉴开,天光云影共徘徊”。“一鉴”寓意以科技之“镜”照鉴潜在风险,为科研创新守住伦理底线,守护生命尊严与公共利益。2025年,“一鉴”作为全球首个专为科技伦理审查打造的AI智能体系统亮相世界人工智能大会,率先探索人工智能赋能伦理审查的复旦路径。时隔一年,“一鉴”2.0发布,标志着复旦大学在科技伦理治理智能化、标准化和国际化方向上迈出新的关键一步。

科技创新加速,伦理治理先行

近年来,中国政府高度重视科技伦理治理,持续完善国家、区域/专业和机构三个层次的伦理审查体系:以国家科技伦理委员会及分领域专业委员会加强统筹指导,以区域或专业伦理审查中心提升协同服务能力,以高校、科研机构、医疗卫生机构和企业伦理委员会落实主体责任。伦理委员会是促进负责任研究和负责任创新的重要制度安排。进入AI for Science时代,人工智能深度嵌入科学发现、医学研究和社会治理,也带来更加复杂的伦理风险、规则冲突和责任边界问题。

从1.0到2.0:从基础研究拓展至人工智能医学

2025年发布的“一鉴”1.0版本,主要聚焦基础研究伦理审查,围绕受试者保护、知情同意、隐私安全、数据使用和风险受益评估等问题,形成基础的伦理风险识别和审查辅助能力。经过试点应用和专家反馈,1.0版本已具备一定的伦理分析、规则匹配和报告生成能力。

今年升级的“一鉴”2.0,重点扩展至人工智能伦理审查,尤其聚焦人工智能医学这一关键领域,回应《人工智能应用伦理安全指引1.0》关于开发、服务提供和使用环节伦理安全治理的要求。相较于1.0版本,2.0版本实现三大升级:

规则升级

围绕基础研究和人工智能医学两类已开展应用校准的审查场景,构建智能审查规则库;同时将生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等方向作为知识储备和规则梳理对象,支持自定义规则配置、持续迭代和后续拓展。

智能体升级

基于专家反馈强化学习,聚焦基础研究和人工智能医学两大方向,实现智能体与领域专家在审查重点、评价尺度和专业表达上的深度对齐,持续提升专业审查能力。

应用升级

已在复旦大学科研院和国家人工智能应用中试基地(医疗领域,主体单位为复旦大学附属中山医院)开展试点应用,并完成国产算力平台私有化部署,提供覆盖审查全流程的在线审查系统和智能体辅助能力,提升审查效率和质量。

从知识底座到场景校准

此次升级的重点,不是简单扩大知识覆盖面,而是把知识建设、规则提取和专家校准结合起来。团队已阶段性整理法律法规、部门政策、伦理指南、技术标准、典型案例等1200余条高相关语料,形成面向医学伦理、人工智能伦理、科技伦理和科研诚信等方向的知识底座。所有材料均按照来源、发布机构、发布时间、生效与修订状态、现行有效性、适用场景、风险点、权威等级和版权授权状态等进行标准化,为模型提供可验证、可引用、可维护的专业知识来源。

科技伦理审查并非机械的规则匹配,而是一项高度依赖领域知识和专家经验的专业工作。真正的伦理审查能力,需要结合具体领域,通过专家校准与实践应用持续优化,实现与领域专家审查标准的深度对齐。

在“一鉴”2.0系统中,不同类型的数据发挥着不同的作用。规范指南用于构建知识库和规则库,典型案例用于构建风险警示库和教育案例库;而真正决定智能体审查能力的,是与具体审查场景相匹配的领域规则、专家标注和专家反馈数据,通过专家反馈强化学习持续实现与领域专家的深度对齐。

目前,“一鉴”2.0已完成基础研究和人工智能医学两大领域的专家反馈优化和应用校准。生命科学、生物医药、医疗器械、器官移植、期刊论文伦理审查等领域已完成知识储备和规则体系建设,后续将结合实际应用场景,逐步开展专家校准和专项优化,持续拓展智能体的专业审查能力。

可追溯、可复核、可验证

“一鉴”2.0的价值,在于让伦理审查从“经验辅助”走向“依据可追溯、过程可复核、能力可验证”。系统不是替代伦理委员会,而是帮助研究者与伦理专家更快定位风险、更准匹配规则、更清楚说明依据;同时支持本地化部署和安全管理,保障科研数据、医疗数据和审查材料安全合规。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
与王俊凯恋爱水落石出后 全红婵近况曝光 面相变了 难怪"无视"国家队

与王俊凯恋爱水落石出后 全红婵近况曝光 面相变了 难怪"无视"国家队

小金会说历史
2026-09-10 15:46:52
与何超琼同居14年,至今没结婚没孩子没名分,地位早已碾压陈百强

与何超琼同居14年,至今没结婚没孩子没名分,地位早已碾压陈百强

就一点
2026-09-10 22:30:17
热搜第一!库克承认看华为等出折叠机才做折叠iPhone

热搜第一!库克承认看华为等出折叠机才做折叠iPhone

三言科技
2026-09-11 10:42:05
又来一“大肉签”!中一签可赚超16万元,但公司连续多年亏损,一年亏十几亿元

又来一“大肉签”!中一签可赚超16万元,但公司连续多年亏损,一年亏十几亿元

时间财经
2026-09-11 17:46:53
2‑1,莱巴金娜赢球不可怕,可怕的是赛后高芙这番话破防

2‑1,莱巴金娜赢球不可怕,可怕的是赛后高芙这番话破防

白面书誏
2026-09-11 20:35:22
“穿成这样合适吗?” 幼师领舞被女家长围攻:女生都懂是怎么回事

“穿成这样合适吗?” 幼师领舞被女家长围攻:女生都懂是怎么回事

熙熙说教
2026-09-10 13:21:21
马德里市长:不要求阿尔瓦雷斯道歉,先让他重回正轨

马德里市长:不要求阿尔瓦雷斯道歉,先让他重回正轨

懂球帝
2026-09-11 17:37:11
张馨予怀念去世父亲:爸爸比我大40多岁,小时候大家说“爷爷来接你”;网友透露其父临终细节,感叹我女儿苦,别人爸爸能陪孩子到五六十岁

张馨予怀念去世父亲:爸爸比我大40多岁,小时候大家说“爷爷来接你”;网友透露其父临终细节,感叹我女儿苦,别人爸爸能陪孩子到五六十岁

台州交通广播
2026-09-10 23:14:58
离个大谱!锁死詹姆斯!杀死76人的方法找到了?

离个大谱!锁死詹姆斯!杀死76人的方法找到了?

体育新角度
2026-09-11 20:26:17
中国存储巨头杀疯了!长鑫月产能目标60万片:直接叫板三星SK海力士

中国存储巨头杀疯了!长鑫月产能目标60万片:直接叫板三星SK海力士

快科技
2026-09-11 17:25:23
不少外国学者百思不得其解:从不发动侵略的中国,哪里来的960万平方公里?

不少外国学者百思不得其解:从不发动侵略的中国,哪里来的960万平方公里?

磊子讲史
2026-09-11 17:45:39
台当局副手萧美琴窜访意大利参会,欧洲副议长叫嚣大陆无权干涉!

台当局副手萧美琴窜访意大利参会,欧洲副议长叫嚣大陆无权干涉!

花颜蕴韵
2026-09-11 16:16:24
越南女星回应合照被刘亦菲裁掉了:我会更加努力

越南女星回应合照被刘亦菲裁掉了:我会更加努力

天马幸福的人生
2026-09-10 12:37:53
木兰溪1951年以来最大洪水过后:白茶泡了、鞋城淹了、八百年的桥断了

木兰溪1951年以来最大洪水过后:白茶泡了、鞋城淹了、八百年的桥断了

网易新闻出品
2026-09-09 12:11:11
亚锦赛4强出2席!中国男排出局还有不利消息,C组头名意外0-3惨败

亚锦赛4强出2席!中国男排出局还有不利消息,C组头名意外0-3惨败

林子说事
2026-09-11 17:42:43
女篮换帅倒计时!洛杉矶奥运周期,六大即插即用主帅出炉

女篮换帅倒计时!洛杉矶奥运周期,六大即插即用主帅出炉

体坛评论员
2026-09-11 08:28:23
为什么吃酒席千万不能拿剩下的酒?有什么说法?

为什么吃酒席千万不能拿剩下的酒?有什么说法?

农夫也疯狂
2026-09-09 16:14:42
井柏然和刘雯的结婚瓜,太炸了

井柏然和刘雯的结婚瓜,太炸了

美芽
2026-09-09 20:04:44
30岁贺子珍真实容貌,不是演员扮演,照片背后是一段十年异国苦旅

30岁贺子珍真实容貌,不是演员扮演,照片背后是一段十年异国苦旅

乡野小珥
2026-09-11 03:30:46
养老改革最大遗憾!2014年前退休老人逐年吃亏,当年承诺的该兑现

养老改革最大遗憾!2014年前退休老人逐年吃亏,当年承诺的该兑现

你在偷看谁
2026-09-11 20:31:11
2026-09-11 21:28:50
中国科协之声 incentive-icons
中国科协之声
中国科协官方公众平台。传播科协声音,凝聚价值共识,弘扬创新文化,展示科协形象。
4064文章数 4449关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

打假网红"铁头"获刑8年:以曝黑料威胁向主播索要黄金

头条要闻

打假网红"铁头"获刑8年:以曝黑料威胁向主播索要黄金

体育要闻

37岁还能场场进球,还能翻跟头!

娱乐要闻

黄晓明直言帮太多白眼狼,杨颖遭殃

财经要闻

女装“玖姿”母公司跨境贸易迷局:安正时尚说谎了吗?

汽车要闻

买菜车也有小乐趣 风云T7不止是台合格家用SUV

态度原创

本地
旅游
时尚
家居
公开课

本地新闻

Onestage x 乐华娱乐暑期巡回选拔2026

旅游要闻

市中心黄金地段公园回归!百岁古树群“颈椎病”治好了,还有网红观景台和瀑布

女人不管三十还是四十,衣服都可以多穿白色,清爽百搭又减龄

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版