今年2月，谷歌宣布推出"研究者专用的AI系统"，旨在帮助研究者"生成创新假设与研究方案"。虽然该工具效果尚待验证，但有一点是明确的，AI已经更广泛地改变科学。

例如，2024年诺贝尔化学奖授予AI蛋白质结构预测技术，解决了困扰研究者50年的难题。但AI在科研中的应用也存在一个阴暗面，学术不端行为正在上升。

AI如何成为学术造假帮凶？

一项研究发现，2023年全球论文撤稿量突破1万篇，被引次数超3.5万次。另一项研究显示，8%的荷兰研究者承认存在严重学术不端行为，是之前报告的2倍。过去20年中，生物医学论文的撤稿数量翻了两番，其中大多数是由与研究不端行为造成的。

相关阅读：2023年超10000篇研究论文被撤稿，创历史新高

AI有可能使这一问题变得更糟。例如，ChatGPT等生成式AI的可用性和能力不断提高，使得伪造研究变得容易。2位研究者清楚地展示了这一点，他们利用ChatGPT批量生成了288篇虚构金融论文，用以预测股票回报。这表明临床数据、基因编辑结果同样可能被篡改。

虚假参考文献和伪造数据

已有多项研究报道，AI生成的论文通过了同行评审并发表，但后来因未公开AI使用而被撤稿，其中包括一些严重的错误，如假参考文献和造假数据。

一些研究者也在使用AI来进行同行评审。斯坦福研究发现，顶级AI会议中17%的同行评审部分由AI生成，极端情况下或将出现"AI写论文-AI审论文"的荒谬循环；

AI也可能导致研究结果的无意性伪造，即产生“AI幻觉”：一项关于计算机编程的最新研究发现，52%的AI编程存在错误，39%未被人类发现。

如何最大化利益，最小化风险？

尽管存在这些令人担忧的现象，我们也不应因噎废食，禁止或谴责研究者使用AI。

AI为科学研究带来了显著的好处。像ChatGPT这样的生成式AI展现出作为"全能科研助手"的潜力，能够与研究者协作完成多样化任务。

这些AI模型也可以成为强大的实验室助手。例如，澳大利亚联邦科学与工业研究组织（CSIRO）的研究者正在开发AI实验室机器人。这些"数字助手"能像人类研究者一样理解指令，自动化处理重复性任务。

任何颠覆性技术都兼具利弊。科学界面临的考验是：如何建立适当的政策框架与防护措施，在最大化技术收益的同时，将风险控制在最低水平。

本文整理自：https://theconversation.com/ai-can-be-a-powerful-tool-for-scientists-but-it-can-also-fuel-research-misconduct-246410

医咖会员全面升级，课程增多，AI工具升级！点击链接：会员-医咖社区 (mediecogroup.com)，立享会员优惠！‍