【协和医学杂志】人工智能在医患共同决策中的应用

循证医学理念的提出已有30余年，其基本定义为决策应基于当前可得的最佳研究证据，同时结合临床经验及患者偏好与价值观^[1]。循证医学实践的基本步骤为^[1-2]：

既往的循证医学实践更多关注于向临床医生提供资源，帮助其了解研究证据，但较少关注最后的步骤，即帮助临床医生将这些证据转化为患者可理解的信息，考虑患者的偏好与价值观，与患者共同完成临床决策^[3]。

医患共同决策（SDM）作为打通循证医学实践“最后一公里”的重要方式，近年来受到高度重视，该模式“以患者为中心”，鼓励患者参与自身诊断、治疗和随访的讨论，促进患者与临床医生共同制订出最适合患者的个体化临床决策^[4-5]。其中，患者决策辅助工具（PDA）是实施SDM的重要手段，该工具可明确需作出的决策，提供决策相关可选方案及其结局信息，阐明患者意愿和价值观，从而促进SDM的实施^[6-7]。

人工智能（AI）是模拟人类智能的计算机科学分支，在机器中实现以自动方式执行任务^[8-9]。近年来，因AI在解决健康公平、优化诊疗流程、实现高效利用卫生资源等方面具有积极影响^[10]，其在医疗领域得到了广泛应用，如辅助诊断、手术治疗、康复管理等^[11]。

AI应用于SDM领域具有较大潜力^[12]，基于AI驱动的PDA（下文简称AI决策辅助）通过整合临床医疗数据、文献、患者健康数据等多元信息，利用机器学习、自然语言处理等技术精准辅助患者作出符合自身偏好与价值观的决策^[13-14]。尽管AI应用于SDM可促进个体化决策，但基于AI技术特点及发展现状，其应用于SDM领域仍存在一定挑战，应用不当反而可能影响决策质量^[15-16]。

在本文中，MERGE(Merge Evidence-based Research and artificial intelliGence to support smart dEcision)工作组将阐述AI在SDM领域的应用现状，从开发和实施层面探讨AI决策辅助应用于SDM领域的潜在问题和挑战，提出可能的解决措施，为后续AI决策辅助的研发与实施提供参考。

1 AI在SDM领域的应用现状

SDM是临床决策模式的创新，是临床实践中“以患者为中心”思想的具体体现^[17]。现有临床决策支持系统（CDSS）主要为临床医生提供决策支持^[18]，其产品如沃森肿瘤系统（Watson for Oncology）、中国临床肿瘤学会人工智能决策系统（Chinese society of clinical oncology artificial intelligence system）^[19-20]等。不同于CDSS，PDA是为患者提供决策支持^[21]。

AI应用于SDM领域的相关研究较少，2022年的1篇范围综述纳入了6篇文献^[16]，但相关研究在陆续开展中^[22-23]。

总体而言，在应用范围和程度方面，其提供的决策支持信息包括患者健康状况、不同临床方案及其利弊信息、患者健康风险预测及诊疗推荐建议等^[14,22-29]；在开发方面，研发者使用了机器学习、深度学习等方法^[14,23-29]；少数研究提供了训练的数据集来源，如电子病历、特定患者数据等，但多数未报告患者是否知情^[23,27-28]；部分研究在开发期间通过举办焦点小组的方法收集患者或其家属的决策需求^[24,26]；关于AI可解释性报告方面几乎未涉及。在测试验证方面，不同研究在性能指标、验证方法、临床表现和用户反馈等方面的报告存在较大差异^[14,22-29]。

以糖尿病药物选择共同决策系统为例^[27]，其决策支持基础来源于电子病历、临床实践威廉亚洲博彩公司 及其他数据。该系统主要通过电子病历数据，利用多标签分类的方式构建糖尿病药物选择推荐模型，通过临床实践威廉亚洲博彩公司 提供的降糖药物相关选项及其利弊信息以支持决策。

2 AI在SDM领域存在的问题与挑战

2.1 技术开发

2.1.1 数据隐私与安全

当AI决策辅助开发或实施时，需收集和利用患者的医疗健康数据等隐私敏感信息，如身份信息、健康信息、诊疗信息等^[30]。在此过程中存在一定的数据安全风险，包括数据质量安全风险、数据隐私安全风险和数据保护安全风险^[31]。对于患者而言，未经知情同意收集其信息，若信息被攻击者窃取或被滥用等，将侵害患者权益，从而对其身心造成一定伤害。

近些年，我国相继发布了《新一代人工智能发展规划》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《关于加强科技伦理治理的意见》《新一代人工智能伦理规范》等文件^[32-34]，上述文件对AI的监管路径逐渐清晰，然而国家层面仍缺乏针对AI的相关法律^[32]。

此外，国内外学者针对医疗数据的隐私保护问题提出了多种保护方法，如基于差分隐私算法的隐私保护模型、随机k匿名化隐私保护方法、基于聚类的数据匿名化方法，但上述方法在可用性、隐私性、时间成本等方面仍存在一定限制^[35]。

2.1.2 可解释性

基于数据驱动的AI具有“黑箱”技术特性，存在透明度低、可解释性差的问题^[36]。用户无法了解AI决策背后的逻辑，其难以获得临床医务人员和患者的信任。研发者应在开发过程中考虑AI决策辅助的可解释性，潜在的解决方案为可解释人工智能（XAI），其是理解AI模型的有效技术。

基于解释方法，XAI可分为独立于模型的解释方法、依赖于模型的解释方法和因果解释方法。然而，目前XAI在解释方法结合、可靠性与稳定性、知识驱动及评价体系4个方面仍存在一定限制^[37-38]。

2.1.3 数据偏差与内隐偏见

首先，数据的代表性或充分性。AI决策辅助可基于电子病历等数据生成个性化的风险预测，然而当训练数据与特定决策目标人群不符或训练数据不足时，可造成数据偏差或歧视，如当忽略弱势群体差异时可能造成不公平^[39]。

其次，数据的质量。当面对多元复杂的数据时，研发者需考虑如何从众多数据中选取高质量数据并使其适用于当前的临床环境。其他方面如存在数据融合困难，缺乏统一的术语标准等问题^[40]。如当临床实践威廉亚洲博彩公司 等证据信息转化为计算机语言时，不同专家对于威廉亚洲博彩公司 的拆解结果存在异质性，可能影响输出结论的一致性。

最后，研发者的利益冲突。若研发者存在与决策主题相关的利益冲突，在研发过程中带入个人价值观，则可能影响患者决策。

2.1.4 决策需求

SDM的实施依赖于沟通与协作，其中决策信息的传递发挥关键作用^[41]。研发者需基于患者的决策需求（信息需求、决策偏好、决策期望等）为其“量身定制”决策信息以促进决策。在AI决策辅助开发时，研究团队需贯彻以患者为中心的理念，考虑患者决策需求并将其纳入工具的开发过程中，纳入证据（如患者健康数据、患者报告结局、患者偏好信息等）以满足在特定健康问题和临床社会环境下的患者需求。

2.1.5 患者决策自主权

SDM的核心环节是尊重并整合患者价值观至决策中^[42]。目前，AI应用于SDM时较少考虑纳入患者的偏好与价值观作出推荐意见，该情况可能导致重回“家长式”的决策模式，从而违背患者的自主权^[43]。因此，开发AI决策辅助时，应将决策的自主权交还给患者，结合临床证据、社会文化背景、患者特定健康状况、患者偏好与价值观等因素确定不同治疗选择的优先级或有效性。“价值敏感设计（value sensitive design）”是可能的解决方式^[44]，其在信息系统中考虑人类的价值，着重强调设计中的伦理。然而，目前价值敏感设计中的“价值”更多关注人类的共同价值，而非患者的特定价值^[45]。如何考虑患者的特定价值观需进一步探索。

2.1.6 中医领域

在中医领域，开发AI决策辅助存在额外的挑战。首先，中医数据的转化问题。目前中医领域尚无统一完善的中医术语库^[46]，对病案、古籍、临床实践威廉亚洲博彩公司 等信息进行转化时可能出现差异，或无法真实准确地表达中医的思想^[37-39]。其次，中医临床数据存在不完整性和不客观性，这可能影响在此基础上训练出的模型性能^[47]。再次，患者的偏好与价值观。因干预措施的灵活与多样性，中医的养护特色及中国传统观念等因素可使目标人群的偏好与价值观在个体层面存在较大差异，如何将此类价值观融入AI决策辅助开发模型并在临床实践中精准运用存在较大挑战，仍需进一步探索。

2.2 临床实施

既往研究提出了实施SDM的障碍和促进因素，然而AI 的应用可能改变影响SDM实施的因素^[48-49]。AI可能改善已存在的障碍因素，从而促进SDM的实施。既往研究表明，临床医生因缺乏时间而很难实施SDM。

然而，AI可节省临床医生的时间，帮助其完成任务，使其有充足时间专注于患者沟通^[50-51]；或通过提供不同临床方案的效益和风险以促进SDM的实施。

AI也可能带来新的障碍因素，进而阻碍SDM的实施。如临床医生缺乏AI相关知识和技能，患者相关计算机素养或健康素养水平较低；或因AI打破了传统的医患沟通局面，影响医患间的信任度^[52-53]。

然而，目前此方面相关证据尚不明确，AI将如何影响SDM实施有待进一步研究。此外，相较于常规PDA^[54]，AI决策辅助能否有效降低患者决策冲突、提高其知识水平和满意度等，仍需进一步探究。

3 建议与对策

3.1 广泛开展相关研究

对该领域进行深入探索，提供最新的高质量多元循证医学证据。目前，关于AI应用于SDM的研究相对较少，缺乏能够为政府、临床决策者及其他利益相关者提供决策支持的有效信息。研究者应广泛开展相关研究，如探讨在SDM中应用AI对医患关系的影响、AI决策辅助相较于常规PDA的有效性、实施SDM的阻碍和促进因素、SDM实施框架的制订、AI决策辅助的成本效益分析等。

3.2 建立开发流程相关标准

建立AI决策辅助开发流程的相关标准。相较于常规PDA的开发与评估，AI决策辅助在团队组建、测试验证、有效性评估等多方面均存在不同。如在团队组建方面，AI决策辅助开发除纳入AI相关专业人员外，还应考虑纳入SDM相关专业人员及其他利益相关者^[55]。在测试验证方面，应考虑从哪些维度以及采用何种方式评估AI决策辅助的“质量”。除考虑AI决策辅助的可行性、可用性和可接受性外，还需关注其相关性能、可靠性等^[56-57]。

3.3 建立相关报告规范

未来应建立相关报告规范^[58]。AI决策辅助在开发方法、更新策略、实施手段等方面与既往PDA相比存在较大差异。为保证AI决策辅助对用户的价值，研究者或开发者应提供一份透明、完整且准确的报告，如内容涉及为何开发AI决策辅助、如何开发以及开发结果如何等。报告内容将为用户提供重要的价值反馈，帮助其决策是否使用该工具。同时，报告与开发相辅相成，研究者可通过报告反馈进一步对工具进行改进。

3.4 加强监管标准体系建设

加强标准体系建设可进一步明确监管原则，实施科学有效的监管，保障AI发展的可持续性，促进社会发展，实现社会经济效益最大化。2021年《世界卫生组织卫生健康领域人工智能伦理与治理威廉亚洲博彩公司 》正式发布，不同国家的政府部门也陆续出台了相应文件，如2022年欧盟出台了《数据法案》^[32,59-60]。我国除出台相关文件外^[32-34]，应考虑加强AI监管的顶层设计，探索分级分类监管思路、加强AI监管的国际合作^[32,61]，通过此类举措进一步完善国内AI监管体系。

4 小结与展望

本文基于AI在SDM领域的应用现状，从数据隐私与安全、可解释性、数据偏差与内隐偏见等方面探讨了AI决策辅助应用于SDM领域的潜在问题和挑战，并从广泛开展相关研究、建立开发流程相关标准、建立相关报告规范等方面提出了相应的建议与对策。

不可置否，AI的出现将对临床决策带来新一轮革新^[62-63]，其在整合最佳循证医学证据、患者偏好与价值观等内容的基础上生成个性化推荐意见方面具备潜在优势。然而，AI对SDM领域的影响尚不明确，应用的同时伴随着诸多风险与挑战。如何将AI更好地应用于SDM领域，使其发挥优势、降低风险、突破局限，是目前亟待解决的问题。

正如N Engl J Med 刊发文章《AI在医学领域的应用》一文所述，“AI和机器学习帮助医疗人员提高医疗质量，其不仅不会令医生失业，反而让医生省出时间与患者交流，而正是人与人之间的交流使医学成为williamhill asia 所珍视的有意义的职业。”^[64]

参考文献

［1］陈耀龙, 孙雅佳, 罗旭飞, 等. 循证医学的核心方法与主要模型［J］. 协和医学杂志, 2023, 14(1): 1-8.

［2］Johnson C. Evidence-based practice in 5 simple steps［J］. J Manipulative Physiol Ther, 2008, 31(3): 169-170.

［3］Hoffmann T C, Lewis J, Maher C G. Shared decision making should be an integral part of physiotherapy practice［J］. Physiotherapy, 2020, 107: 43-49.

［4］余绍福, 王云云, 邓通, 等. 医患共同决策系列之一: 医患共同决策的国内外发展现状［J］. 医学新知, 2020, 30(2): 159-167.

［5］Morrison T, Foster E, Dougherty J, et al. Shared decision making in rheumatology: a scoping review［J］. Semin Arthritis Rheum, 2022, 56: 152041.

［6］Stacey D, Légaré F, Lewis K, et al. Decision aids for people facing health treatment or screening decisions［J］. Cochrane Database Syst Rev, 2017, 4(4): CD001431.

［7］余绍福, 牟玮, 靳英辉, 等. 医患共同决策系列之二: 医患共同决策研究典范——渥太华患者决策辅助工具研究小组［J］. 医学新知, 2021, 31(1): 59-67.

［8］Kann B H, Hosny A, Aerts H J W L. Artificial intelligence for clinical oncology［J］. Cancer Cell, 2021, 39(7): 916-927.

［9］黄霖, 车圳, 李明, 等. 人工智能在骨科疾病诊治中的研究进展［J］. 山东大学学报(医学版), 2023, 61(3): 37-45.

［10］巫嘉陵, 韩建达. 医疗人工智能:知识引导与数据挖掘联合驱动［J］. 中国现代神经疾病杂志, 2023, 23(1): 1-4.

［11］任相阁, 任相颖, 李绪辉, 等. 医疗领域人工智能应用的研究进展［J］. 世界科学技术-中医药现代化, 2022, 24(2): 762-770.

［12］Begley K, Begley C, Smith V. Shared decision-making and maternity care in the deep learning age: Acknowledging and overcoming inherited defeaters［J］. J Eval Clin Pract, 2021, 27(3): 497-503.

［13］Ji M T, Genchev G Z, Huang H Y, et al. Evaluation framework for successful artificial intelligence-enabled clinical decision support systems: mixed methods study［J］. J Med Internet Res, 2021, 23(6): e25929.

［14］Jayakumar P, Moore M G, Furlough K A, et al. Comparison of an artificial intelligence-enabled patient decision aid vs educational material on decision quality, shared decision-making, patient experience, and functional outcomes in adults with knee osteoarthritis: a randomized clinical trial［J］. JAMA Netw Open, 2021, 4(2): e2037107.

［15］Gama F, Tyskbo D, Nygren J, et al. Implementation frameworks for artificial intelligence translation into health care practice: scoping review［J］. J Med Internet Res, 2022, 24(1): e32215.

［16］Abbasgholizadeh Rahimi S, Cwintal M, Huang Y H, et al. Application of artificial intelligence in shared decision making: scoping review［J］. JMIR Med Inform, 2022, 10(8): e36199.

［17］吕健. 医疗的确定性、不确定性与医患共同决策［J］. 医学与哲学, 2021, 42(12): 5-10.

［18］Peiffer-Smadja N, Rawson T M, Ahmad R, et al. Machine learning for clinical decision support in infectious diseases: a narrative review of current applications［J］. Clin Microbiol Infect, 2020, 26(5): 584-595.

［19］Wang L, Chen X Y, Zhang L, et al. Artificial intelligence in clinical decision support systems for oncology［J］. Int J Med Sci, 2023, 20(1): 79-86.

［20］杨宇辉, 李素姣, 喻洪流, 等. 临床决策支持系统研究进展［J］. 生物医学工程学进展, 2021, 42(4): 203-207.

［21］Chewning B, Bylund C L, Shah B, et al. Patient prefer-ences for shared decisions: a systematic review［J］. Patient Educ Couns, 2012, 86(1): 9-18.

［22］Selmouni F, Guy M, Muwonge R, et al. Effectiveness of artificial intelligence-assisted decision-making to improve vulnerable women's participation in cervical cancer screening in France: protocol for a cluster randomized controlled trial (AppDate-You)［J］. JMIR Res Protoc, 2022, 11(8): e39288.

［23］Li W H, Dong B, Wang H S, et al. Artificial intelligence promotes shared decision-making through recommending tests to febrile pediatric outpatients［J］. World J Emerg Med, 2023, 14(2): 106-111.

［24］Kökciyan N, Chapman M, Balatsoukas P, et al. A collaborative decision support tool for managing chronic conditions［J］. Stud Health Technol Inform, 2019, 264: 644-648.

［25］Kökciyan N, Sassoon I, Sklar E, et al. Applying metalevel argumentation frameworks to support medical decision making［J］. IEEE Intell Syst, 2021, 36(2): 64-71.

［26］Frize M, Yang L, Walker R C, et al. Conceptual framework of knowledge management for ethical decision-making support in neonatal intensive care［J］. IEEE Trans Inf Technol Biomed, 2005, 9(2): 205-215.

［27］Wang Y, Li P F, Tian Y, et al. A shared decision-making system for diabetes medication choice utilizing electronic health record data［J］. IEEE J Biomed Health Inform, 2017, 21(5): 1280-1287.

［28］Twiggs J G, Wakelin E A, Fritsch B A, et al. Clinical and statistical validation of a probabilistic prediction tool of total knee arthroplasty outcome［J］. J Arthroplasty, 2019, 34(11): 2624-2631.

［29］Bertsimas D, Dunn J, Pawlowski C, et al. Applied informatics decision support tool for mortality predictions in patients with cancer［J］. JCO Clin Cancer Inform, 2018, 2: 1-11.

［30］刘伶俐, 王端, 王力钢. 医疗人工智能应用中的伦理问题及应对［J］. 医学与哲学, 2020, 41(14): 28-32.

［31］林伟. 人工智能数据安全风险及应对［J］. 情报杂志, 2022, 41(10): 105-111.

［32］刘轩, 陈海彬. 人工智能监管: 理论、模式与趋势［J］. 情报理论与实践, 2023, 46(6): 17-23.

［33］国家新一代人工智能治理专业委员会. 《新一代人工智能伦理规范》发布［EB/OL］. (2021-09-26)［2023-04-23］. https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html.

［34］中国共产党中央委员会办公厅, 中华人民共和国国务院办公厅. 中共中央办公厅 国务院办公厅印发《关于加强科技伦理治理的意见》［EB/OL］. (2022-03-20)［2023-04-23］. https://www.gov.cn/zhengce/2022-03/20/content_5680105.htm.

［35］徐云山, 贺丹, 严贞龙, 等. 面向医疗数据的隐私保护方法研究［J］. 电脑知识与技术, 2023, 19(4): 116-118.

［36］陈龙, 曾凯, 李莎, 等. 人工智能算法偏见与健康不公平的成因与对策分析［J］. 中国全科医学, 2023, 26(19): 2423-2427.

［37］赵延玉, 赵晓永, 王磊, 等. 可解释人工智能研究综述［J］. 计算机工程与应用, 2023, 59(14): 1-14.

［38］王冬丽, 杨珊, 欧阳万里, 等. 人工智能可解释性: 发展与应用［J］. 计算机科学, 2023, 50(增1): 9-15.

［39］Kostick-Quenet K M, Cohen I G, Gerke S, et al. Mitigating racial bias in machine learning［J］. J Law Med Ethics, 2022, 50(1): 92-100.

［40］Zhang J, Zhang Z M. Ethics and governance of trustworthy medical artificial intelligence［J］. BMC Med Inform Decis Mak, 2023, 23(1): 7.

［41］Elwyn G. Shared decision making: What is the work?［J］. Patient Educ Couns, 2021, 104(7): 1591-1595.

［42］Elwyn G, Frosch D L, Kobrin S. Implementing shared decision-making: consider all the consequences［J］. Implement Sci, 2016, 11: 114.

［43］McDougall R J. Computer knows best? The need for value-flexibility in medical AI［J］. J Med Ethics, 2019, 45(3): 156-160.

［44］Doorn N, Schuurbiers D, Van De Poel I, et al. Early engagement and new technologies: opening up the laboratory［M］. Dordrecht: Springer, 2013.

［45］Dullabh P, Sandberg S F, Heaney-Huls K, et al. Challenges and opportunities for advancing patient-centered clinical decision support: findings from a horizon scan［J］. J Am Med Inform Assoc, 2022, 29(7): 1233-1243.

［46］白宇, 陈理, 易岚, 等. 中医临床决策支持系统研发的现状与思考［J］. 江苏中医药, 2022, 54(12): 66-69.

［47］赵国桢, 郭诗琪, 庞华鑫, 等. 人工智能技术在辅助中医诊疗及诊疗标准化中的应用［J］. 中医杂志, 2022, 63(24): 2306-2310.

［48］Waddell A, Lennox A, Spassova G, et al. Barriers and facilitators to shared decision-making in hospitals from policy to practice: a systematic review［J］. Implement Sci, 2021, 16(1): 74.

［49］Légaré F, Ratté S, Gravel K, et al. Barriers and facilitators to implementing shared decision-making in clinical practice: update of a systematic review of health professionals' perceptions［J］. Patient Educ Couns, 2008, 73(3): 526-535.

［50］Printz C. Artificial intelligence platform for oncology could assist in treatment decisions［J］. Cancer, 2017, 123(6): 905.

［51］Chandra S, Mohammadnezhad M, Ward P. Trust and communication in a doctor-patient relationship: a literature review［J］. J Healthc Commun, 2018, 3(3): 36.

［52］Kerasidou A. Artificial intelligence and the ongoing need for empathy, compassion and trust in healthcare［J］. Bull World Health Organ, 2020, 98(4): 245-250.

［53］Sauerbrei A, Kerasidou A, Lucivero F, et al. The impact of artificial intelligence on the person-centred, doctor-patient relationship: some problems and solutions［J］. BMC Med Inform Decis Mak, 2023, 23(1): 73.

［54］Sepucha K R, Borkhoff C M, Lally J, et al. Establishing the effectiveness of patient decision aids: key constructs and measurement instruments［J］. BMC Med Inform Decis Mak, 2013, 13(S2): S12.

［55］Gundersen T, Bærøe K. The future ethics of artificial intelligence in medicine: making sense of collaborative models［J］. Sci Eng Ethics, 2022, 28(2): 17.

［56］Stacey D, Ludwig C, Archambault P, et al. Feasibility of rapidly developing and widely disseminating patient decision aids to respond to urgent decisional needs due to the COVID-19 pandemic［J］. Med Decis Making, 2021, 41(2): 233-239.

［57］Chen Y, Clayton E W, Novak L L, et al. Human-centered design to address biases in artificial intelligence［J］. J Med Internet Res, 2023, 25: e43251.

［58］Stacey D, Volk R J. The international patient decision aid standards (IPDAS) collaboration: evidence update 2.0［J］. Med Decis Making, 2021, 41(7): 729-733.

［59］杨垠红. 欧盟《数据法案》规范使用者权利和义务［N］. 中国社会科学报, 2022-04-11(07).

［60］周杰, 宋扬. 临床决策支持系统应用中的伦理思考［J］. 医学与哲学, 2022, 43(8): 16-19.

［61］谢新水. 人工智能内容生产: 功能张力、发展趋势及监管策略：以ChatGPT为分析起点［J］. 电子政务, 2023(4): 25-35.

［62］Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine［J］. N Engl J Med, 2023, 388(13): 1233-1239.

［63］Dullabh P, Heaney-Huls K, Lobach D F, et al. The technical landscape for patient-centered CDS: progress, gaps, and challenges［J］. J Am Med Inform Assoc, 2022, 29(6): 1101-1105.

［64］Haug C J, Drazen J M. Artificial intelligence and machine learning in clinical medicine, 2023［J］. N Engl J Med, 2023, 388(13): 1201-1208.