针对论文中AI工具的使用，JAMA刚刚更新了稿件政策
近日，人工智能聊天机器人ChatGPT的发布引起了激烈讨论，软件公司OpenAI于2022年11月30日发布了该工具，并且提供用户免费使用。该软件的发布立即引起了人们对其潜在用途的探讨，但也有对其滥用的担忧。2023年1月31日，《JAMA》（IF=157.335）在线发表了一篇社论[1]（Editorial），探讨了由人工智能（AI）撰写的论文中可能存在的问题，并公布了JAMA对此的政策。
https://jamanetwork.com/journals/jama/fullarticle/2801170
相关事件
AI技术可以帮助作者准备初稿和改善论文质量，目前AI应用的情况和复杂性正迅速增加，包括辅助写作、语法、语言、参考文献、统计分析和标准报告的工具。编辑和出版商还会将AI用于筛选投稿文章，发现抄袭、图片加工等问题，对论文进行分类，验证参考文献，对论文进行二次编辑和编码等。
2023年1月，《Nature》一篇文章报道，2篇预印本文章和2篇经同行评审后的论文将AI列为了作者，其中一篇还列出了OpenAI的电子邮件地址。据《Nature》报道，期刊主编表示会尽快纠正这个问题。然而，这些文章及其“非人类作者”已经加入了PubMed和谷歌学术的检索目录。
https://www.sciencedirect.com/science/article/abs/pii/S1471595322002517
更多阅读：数篇论文用AI写论文并将其列为作者，很多期刊表示了反对！
此后，《Nature》制定了一项政策，禁止将此类工具在论文中进行署名，因为"署名意味着会对研究负责，而AI无法承担这种责任"。该政策还建议使用这些工具的研究人员在稿件的方法或致谢部分对AI的使用作出特别说明。其他期刊和组织也迅速响应，正在制定相应的政策，禁止将AI列为作者，包括从禁止使用由AI生成的文本，到要求对AI的使用做到完全透明。
国际机器学习大会（International conference on Machine Learning）也宣布了一项新政策：禁止发表包含由大型语言模型（如ChatGPT）生成的文本的论文。
有人通过ChatGPT进行了一系列有争议或重要的研究话题（例如，儿童接种疫苗是否会导致自闭症）等。研究表明，ChatGPT生成的答案，虽然大部分写得很好，但都很公式化，不容易分辨，也不是最新数据，还可能存在虚假或编造的内容，没有准确或完整的参考文献，最糟糕的是，它所作出的主张或陈述可能会编造不存在的证据。
OpenAI承认语言模型还存在一些局限性，并且当前的版本并非最终版本，上线的目的是为了获取更多的反馈信息进行改进。这就表明，该模型无法用作可靠信息的来源，更无从谈起透明度和责任制等问题了。
JAMA的发表政策
可以将AI列为作者吗？
AI、语言模型、机器学习或类似技术不符合作者资格。如果这些模型或工具被用于辅助写作或手稿准备，作者必须对内容的完整性负责。
如果使用AI工具本身就是研究方案的一部分，作者应在致谢部分或方法学部分作出特别说明。声明内容应包括，描述AI所创建或编辑的内容、语言模型或工具的名称、版本和扩展号以及制造商。
注：以上涉及的工具不包括检查语法、拼写、参考资料等辅助工具
可以使用AI生成的内容吗？
不鼓励提交和发布由AI、语言模型、机器学习或类似技术所生成的论文内容，除非使用AI工具本身就是研究方案的一部分，但文章中要对AI所创建的内容、语言模型或工具的名称、版本和扩展号以及制造商进行明确描述。作者必须对这些模型和工具生成内容的完整性负责。
可以使用AI生成的图片吗？
不鼓励提交和发表由AI、机器学习工具或类似技术生成的图片，除非这本身就是研究方案的一部分，同样，文章中要对AI所创建的内容、语言模型或工具的名称、版本和扩展号以及制造商进行明确描述。作者必须对这些模型和工具生成的内容的完整性负责。
JAMA系列期刊对统计分析软件的使用有相关政策，并建议作者遵循EQUATOR Network报告指南[2]，包含AI干预的试验指南（如CONSORT-AI，SPIRIT-AI），建模研究中的机器学习（如MI-CLAIM）。
总结
变革性的颠覆性技术，如AI，不仅带来了机会，也带来了风险和挑战。AI已经存在了一段时间，未来将会更快速发展，并将继续用于研究和信息传播，希望通过创新的进步来抵消风险，对于促进和保护医学研究的可信度和完整性至关重要。
参考文献：
1.JAMA. 2023 Jan 31.doi: 10.1001/jama.2023.1344.
2. InstructionsforAuthors.JAMA.Updated January30,2023.AccessedJanuary30,2023.
https://jamanetwork.com/journals/jama/pages/ instructions-for-authors
更多阅读：
