AI学术失范案例——“师德师风建设-学术诚信与AI伦理”主题教育之二
2025-06-26

为了更好地推动师德师风建设,图书馆推出“学术诚信与AI伦理”主题教育系列推文。本周推出第二期——“AI学术失范案例”,让我们关注在AI强势赋能科研知识生产的同时,诱发的剽窃或抄袭、伪造与篡改等传统学术失范风险,以及催生的AI代写、AI技术局限型学术不端行为等新型风险样态。
案例1:首例涉嫌AI 代写而被撤稿的SCI论文
2023年9月,《物理写作》(Physica Scripta) 刊登的一篇论文中出现疑似 ChatGPT 按钮短语“Regenerate Response”(重新生成回复),最终该论文被认定为ChatGPT生成内容而遭撤稿,成为首例涉嫌AI 代写而被撤稿的SCI论文。
案例1:首例涉嫌AI 代写而被撤稿的SCI论文
2023年9月,《物理写作》(Physica Scripta) 刊登的一篇论文中出现疑似 ChatGPT 按钮短语“Regenerate Response”(重新生成回复),最终该论文被认定为ChatGPT生成内容而遭撤稿,成为首例涉嫌AI 代写而被撤稿的SCI论文。


案例2:AI伪造虚假数据集
2023年11月,《Nature》在新闻栏目发布了一则关于 ChatGPT伪造临床试验数据集来支持科学假设的报道。事件出自 2023年11月9日《JAMA Ophthalmology》上发表的一篇论文,作者使用ChatGPT最新版本GPT-4 所运行的大型语言模型搭配一种数据可视化模型生成数据,比较分析了两种手术治疗结果。然而不久后经深度调查发现该数据集与真实临床结果并不相符。这说明,ChatGPT创建了一个表面上看似合理但实际上属于伪造的虚假数据集。
2023年11月,《Nature》在新闻栏目发布了一则关于 ChatGPT伪造临床试验数据集来支持科学假设的报道。事件出自 2023年11月9日《JAMA Ophthalmology》上发表的一篇论文,作者使用ChatGPT最新版本GPT-4 所运行的大型语言模型搭配一种数据可视化模型生成数据,比较分析了两种手术治疗结果。然而不久后经深度调查发现该数据集与真实临床结果并不相符。这说明,ChatGPT创建了一个表面上看似合理但实际上属于伪造的虚假数据集。


案例3:国内学者发表论文涉嫌AI代写“第一案”
2024年3月,中国地质大学(北京)一教授在国外期刊公开发表的SCI论文,论文介绍部分疑似使用了ChatGPT的常用提示语“Certainly,here is a possible introduction for your topic”,被网友质疑使用了AI写作忘记删除和修改。这成为国内学者发表论文涉嫌AI代写“第一案”,引发了广泛关注。
2024年3月,中国地质大学(北京)一教授在国外期刊公开发表的SCI论文,论文介绍部分疑似使用了ChatGPT的常用提示语“Certainly,here is a possible introduction for your topic”,被网友质疑使用了AI写作忘记删除和修改。这成为国内学者发表论文涉嫌AI代写“第一案”,引发了广泛关注。


案例4:医学学术界发生的“最短撤稿事件”
2024年2月,西安交通大学郝某均作为通讯作者刊发的论文《Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway》受到学术界的瞩目。原因是这篇通过同行审查的论文,其配图被发现是以AI产生,内容并不符合解剖学原理且存在文字拼字错误。文章虽在正式发表后3天便迅速撤稿并发布了撤稿声明,但超过30万次的阅读量和超过2万次的下载量给读者和期刊声誉造成极为负面的影响。
2024年2月,西安交通大学郝某均作为通讯作者刊发的论文《Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway》受到学术界的瞩目。原因是这篇通过同行审查的论文,其配图被发现是以AI产生,内容并不符合解剖学原理且存在文字拼字错误。文章虽在正式发表后3天便迅速撤稿并发布了撤稿声明,但超过30万次的阅读量和超过2万次的下载量给读者和期刊声誉造成极为负面的影响。


案例5:AI制图引起的学术失真
2024年7 月,一篇由广东省水电医院的研究人员撰写的论文《Assessment of the efficacy of alkaline water in conjunction with conventional medication for the treatment of chronic gouty arthritis: A randomized controlled study》发表在《Medicine》杂志第103卷第14期上。后被发现其中某图“小腿和手臂上的骨骼数量明显错误”,为ChatGPT制图引发的错误。因作者对AIGC的信息质量失察,导致论文最终被撤稿。
2024年7 月,一篇由广东省水电医院的研究人员撰写的论文《Assessment of the efficacy of alkaline water in conjunction with conventional medication for the treatment of chronic gouty arthritis: A randomized controlled study》发表在《Medicine》杂志第103卷第14期上。后被发现其中某图“小腿和手臂上的骨骼数量明显错误”,为ChatGPT制图引发的错误。因作者对AIGC的信息质量失察,导致论文最终被撤稿。


图书馆
2025年6月26日
2025年6月26日