生成式人工智能（AI）逐渐成为临床研究中的重要工具，不仅能生成新数据，还在药物发现、患者诊断和制定个性化治疗方案等方面展现出巨大潜力。然而，尽管其前景广阔，生成式AI的应用也面临着技术、伦理和监管等多方面的挑战。

2025年3月，《JACC Advances》发表了一项专家研讨会的讨论成果，探讨了生成式AI在临床研究中的机遇、挑战及可能的解决方案。

原文链接：https://www.sciencedirect.com/science/article/pii/S2772963X25000109?

方法

2024年1月，美国杜克临床研究所组织了一次为期两天的专家研讨会，旨在探讨生成式AI在临床研究中的应用潜力、挑战及解决方案。研讨会汇集了来自学术界、政府和行业的多领域专家，重点讨论了以下几个关键议题：

1. 使用AI实现临床研究流程的自动化

2. 使用AI纳入参与者和参与群体

3. 使用AI进行测量和分析

图. 研讨会讨论要点

生成式AI的潜在影响

目前，临床试验面临着诸多挑战，包括繁重的行政负担、参与者招募和留存问题、繁琐的数据输入、以及代表性不足导致临床试验结果难以外推等。为解决这些问题，研讨会上提出了许多渐进式的改进措施，以及更具变革性的改变，以重新定义临床研究的格局（表1）。

表1. 生成式AI对临床研究的潜在影响

面临挑战

尽管生成式AI的应用前景广阔，但其在临床研究中的广泛应用也带来了诸多挑战：

1. 误导性输出：生成式AI可能会产生错误或误导性的输出，特别是在训练数据存在偏倚或过时的情况下。这种“幻觉”现象可能导致错误的诊断或治疗建议。

2. 隐私与数据安全：生成式AI能够重现其训练数据，可能泄露患者的隐私信息。

3. 偏倚与公平性：生成式AI可能会在训练数据中延续并放大已有的偏倚，导致在临床研究中产生不公平的结果。

4. 监管与透明度：生成式AI的快速应用需要相应的监管框架来确保其安全性和有效性。目前，监管机构正在制定相关指南。

解决方案与未来展望

为了充分发挥生成式AI在临床研究中的潜力，同时应对其带来的挑战，以下措施至关重要：

1. 建立严格的监管框架：监管机构应制定明确的指南，确保生成式AI在临床研究中的安全应用。这包括对AI模型的持续监控和评估，确保其输出的准确性和可靠性。

2. 增强透明度与信任：生成式AI的应用需要建立在透明和信任的基础上。研究人员应公开AI模型的训练数据和性能评估结果，确保其应用过程的可解释性和可追溯性。

3. 数据管理与隐私保护：在生成式AI的应用中，必须确保数据的安全性和隐私性。通过采用隐私保护技术，可以在不泄露个人隐私的前提下，充分利用数据进行研究和分析。

4. 跨学科合作与知识共享：生成式AI的应用需要跨学科的合作，包括临床医生、数据科学家、伦理学家和监管机构的共同努力。通过建立开放的平台，共享AI算法和数据集，可以加速生成式AI在临床研究中的应用和创新。

总结

生成式AI有潜力彻底改变临床研究的面貌，提高试验的效率和准确性。然而，为了确保其安全、有效和公平的应用，必须建立严格的监管框架，增强透明度，并保护数据的隐私和安全。通过跨学科的合作和知识共享，生成式AI有望在未来的临床研究中发挥更大的作用，推动医学研究的进步。

图. 生成式AI在临床研究中的机遇、挑战与未来展望

参考文献：JACC Adv. 2025;4(3):101593.

医咖会员全面升级，课程增多，AI工具升级！点击链接：会员-医咖社区 (mediecogroup.com)，立享会员优惠！