更多精彩,请扫描二维码,关注上海市科技
期刊学会微信(shskjqkxh)
自ChatGPT发布以来,生成式人工智能(AIGC)技术正在深刻改变学术研究的工作方式。新技术革新在提升科研效率的同时,也给学术诚信带来了前所未有的挑战。面对AIGC应用中出现的种种问题,中国科学技术信息研究所联合爱思唯尔、施普林格·自然等六家国际主要出版机构,共同发布了《学术出版中AIGC使用边界指南2.0》(以下简称:指南),为AI技术在学术出版中的实践行为提供一个基本原则的框架和指导。
核心原则与实践要求
指南确立了四项基本原则。首要的是透明度和问责制,要求所有使用者必须明确披露AIGC的使用情况,包括具体工具、版本和应用范围。这种透明化要求贯穿整个研究过程,确保学术研究的可追溯性。同时,“指南”强调隐私安全,提醒研究者注意提交给公共AIGC工具的信息可能被用于模型训练,必须采取措施保护敏感数据。在公平性方面,既要警惕AIGC可能存在的算法偏见,也要肯定其在消除语言障碍、促进学术公平方面的积极作用。此外,考虑到AI模型训练和使用的高能耗特征,指南还倡导可持续发展理念。
在具体应用层面,指南明确区分了允许和禁止的使用场景。AIGC可以作为辅助工具用于资料收集、文献梳理、语言润色、格式调整等方面,但所有生成内容都必须经过人工核实。AIGC绝不能用于产生研究假设、解释数据或得出科学结论等核心智力贡献环节,更不能用于生成实验图像等原始数据。AIGC不具备承担责任的能力和法律地位,因此绝不能被列为作者。同时,作者需要对AIGC使用情况进行充分、正确的披露和声明。在同行评审过程中,AI工具只能负责任地用于改进审稿人的评论,而非处理被审稿的内容,审稿人和作者都是有条件地使用AIGC,并对其回复的内容承担全部责任。
指南鼓励作者分享原始数据以及由AIGC生成或处理过的文本、图片等补充材料,以供审查。同时,建议期刊在使用AIGC内容检测工具时保持谨慎,警惕误报,并将检测结果作为辅助判断依据,结合人工审查进行综合研判。此外,通过两个真实案例(作者使用ChatGPT而发生引用错误、某医疗团队因使用AI生成不实数据和图表而被撤稿),警示了不当使用AIGC的严重后果。
总结
指南为AIGC技术使用提供一个启发式的框架,在第一版的基础上进行了全面修订与扩充。针对作者在论文撰写阶段的关键环节,如图表制作和文字撰写的规范化,以及论文投稿后的同行评审流程,均进行了调整与优化,并新增了案例分析,这些改动紧密贴合科技与学术领域的最新发展,也有助于学者深化理解。
最后,由于AIGC技术与工具仍在不断革新和发展中,本指南积极呼吁各方提出建议和反馈,不断完善AIGC技术使用指南的适用范围和行为框架,以应对新技术持续变化带来的新挑战与新问题。
姜亦虹、余溢文、邓迎
上海市科技期刊学会第十届理事会
数字化工作委员会