AI应用不能逾越学术伦理底线

近年来，AI的应用日益改变学术研究的范式。2024年的诺贝尔化学奖颁给了三位人工智能专家，表彰他们开发的AI模型成功解决了“根据氨基酸序列预测蛋白质复杂结构”这一长达50年的难题，也标志着“人工智能驱动科学研究”（即“AI for Science”，以下简称“AI4S”）范式的确立。此后，AI技术逐步参与自然科学乃至社会科学研究的全流程，如提出研究问题、生成文献综述、进行研究设计、完成调研或实验、抓取或生成数据、分析数据并进行可视化展示、撰写论文等。与此同时，AI技术也被深度应用于对学术不端的检测。深度语义分析、精细定位与结构建模、时序语义分析与规避对抗训练技术常被用于进行AIGC检测，占比超过一定限度可能影响论文发表或学位授予。一边积极发展AI4S，一边又将AI参与视为存在学术不端之嫌，这种“自相矛盾”的状况表明，当前学术界和科研管理部门对AI参与学术研究的伦理规范尚未达成共识。面对这一现状，学术界尤其是社会科学界应积极回应，对人工智能时代学术研究的使命、伦理风险等问题进行认真反思和深入讨论。

学术伦理规范是完成学术研究使命的必要条件。在个体层面，学术研究的重要驱动力来自人类对未知领域的好奇心。随着学术研究发展成为一种专门职业，众多研究机构开始担负起生产新知识、拓展人类认知边界的职责使命。为了使个人成果转化为公共知识，学术发表制度逐渐成熟，一系列激励机制将发表成果与个人或组织可获得的学术资源相关联。这些激励机制在激发学术研究积极性的同时，也带来一些负面影响，如对发表数量的过度追求导致学术价值不高或创新性不足的论文大量涌现，伪造、篡改、剽窃、抄袭、不当署名、违反知情同意与研究伦理原则等行为时有发生。这些学术不端行为不仅在一定程度上带来资源浪费，也容易误导公众或政策制定者，造成不可估量的损失。

为了规避研究人员的道德风险，学术界逐渐形成伦理规范，对研究活动进行自我约束与公共监督。在现代社会，恪守学术伦理是科研工作者不可逾越的底线。国际上普遍认可的学术伦理原则包括诚实、问责、公正、开放等基本的价值观念与是非标准，违反这些原则即被视为学术不端。为杜绝学术不端行为，学术界与科研管理部门建立了同行评议、重复验证、期刊撤稿、信息公开、经费限制等监督、问责与纠错机制，不断健全和完善伦理规范，为学术创新保驾护航。

图片来源：视觉中国

AI4S的迅速发展，为学术不端行为的判定带来新的挑战。一些评价主体持积极态度，并尝试允许将AI列为论文作者；但更多评价主体则主张严格检测AI生成内容的占比，并将其作为拒稿依据之一。对于硕博士研究生学位论文而言，AI检测更是引起广泛质疑，既指向检测结果的正确性，也指向检测行为的必要性。尽管如此，AI公开或隐晦地参与学术研究已经成为不可避免的事实。那么，AI参与和学术不端之间是否存在必然联系？在AI4S的框架内又该如何重构学术伦理规范？回答这些问题，亟须明确AI参与学术研究面临的伦理风险。

一是真实性风险。在AI参与的学术研究中，真实性风险主要来自两个方面。一类是源自AI技术本身的局限。如训练语料存在漏标、偏见、错误或人为“投毒”的情况，以及基于概率的内容生成方式难以实现绝对准确，从而导致AI输出的观点陈述、引文标注、分析结果存在错误、偏颇与“幻觉”。由于“算法黑箱”，这些错误难以精准溯源，且人类作者难以完全掌控。另一类源自人类作者的主观故意。比如，运用AI对数据、结果进行篡改或伪造。尽管二者性质不同，但结果相似。因此，判断并证明AI工具的信度与效度，并确保研究过程的真实性与研究结果的可信性，是使用AI工具的研究人员必须承担的一项伦理责任。这也意味着，研究人员对AI输出的结果应当持谨慎的批判态度。

二是贡献与责任评判不当的风险。在AI参与的学术研究中，如何准确评价人类作者的贡献，是期刊与学位授予机构共同面临的问题。这里需要重点考虑的是，一项研究成果最重要的价值无论来自研究问题，还是来自理论、方法、数据、分析结果，都需要基于人类作者自身的知识结构、学术水平、独特视角、审美品位作出判断和选择，并运用多种研究规则与参照基准，确保研究过程规范、研究结果可信。这意味着，不管AI参与了多少研究工作，都需要人类作者对人工智能生成的相关内容作出最终审定，并由人类作者负责。或者说，作为一项新兴的科研辅助工具，AI的应用与传统仪器或量表的使用并无本质区别。关键不在于AI是否参与了研究或写作，而在于AI参与有没有产生正确且有价值的研究成果，有没有违反学术伦理规范。研究人员应当像对待传统研究工具那样，详细陈述AI工具的来源、版本、使用方式，以及对研究结论稳健性的检验结果，以备同行专家掌握足够信息来判断研究过程的合理性，或者复现研究过程以确认研究结果的正确性。

三是创新性与价值不足的风险。AI参与学术研究的更大风险在于研究成果的创新性不足或价值有限。首先，由于现阶段AIGC主要基于概率统计原理进行内容生成，一些小概率、萌芽性的新型前沿问题可能被忽略，由此产生研究问题与文献综述创新性不足的风险。其次，在一些数据稀疏的领域，运用AI学习已有数据来生成新的数据，难以对研究结果产生实质性的改变。再次，将大模型作为数据分析工具，目前在预测问题上表现较好，但在因果解释方面存在明显短板。最后，受AIGC的概率原理局限，由AI撰写的学术论文可能流畅但平庸，难以具有独到见解和原创价值。解决这些问题，既需要科研人员在研究中提高主体性和判断力，也需要AI4S不断进化，逐步提高技术性能。

面对人工智能时代的学术伦理风险，科研人员应该始终保持审慎和负责任的态度，守住学术伦理底线。AI应用并不必然构成学术不端，只有当AI应用导致一项研究违背诚信、公正、透明等基本原则时，才存在违反学术伦理的问题，无论这些问题是由人类作者主观造成的，还是由AI技术的局限性导致的。当前，精准追溯和检测由AI技术局限所导致的学术伦理问题，是各类检测工具面临的共同难题。这既需要在机制上进一步加强研究信度与效度的检测，在技术工具上提升AI4S的性能，也需要研究人员不断提升主体性意识，增强自身研究能力和判断能力。健全和完善AI参与学术研究的伦理规范，促进科研人员的自觉遵守和自我约束，有助于真正发挥AI4S的学术价值。

作者系南开大学信息与传播学院教授、南开大学图书馆副馆长

来源 ：中国社会科学报

责任编辑： 王禧玉

新媒体编辑：宗悦

如需交流可联系我们