一方面，大模型在醫(yī)療場景應(yīng)用需兼顧安全性與專業(yè)性，可通過數(shù)據(jù)清洗、標(biāo)注和驗證等控制數(shù)據(jù)質(zhì)量；另一方面，大模型的計算需要大量的算力作為支撐，輕量化、本地化部署的大模型將成為重要發(fā)展方向。
2023年被很多人稱為“醫(yī)療大模型的元年”，國內(nèi)外均有大量廠家將大語言模型應(yīng)用于醫(yī)療健康領(lǐng)域。據(jù)統(tǒng)計，截至2023年10月，我國累計公開的大模型數(shù)量已經(jīng)達到238個，垂直類大模型達到103個。而2-9月，我國發(fā)布的醫(yī)療大模型近50個，涉及智慧診療、醫(yī)療文本處理、藥物研發(fā)和學(xué)術(shù)科研等多個方面。醫(yī)療大模型是否能夠幫助臨床醫(yī)生和醫(yī)療機構(gòu)提升醫(yī)療質(zhì)量？2024年醫(yī)療大模型又將面對哪些困難？為探尋答案，CDSreport整理了相關(guān)資料。醫(yī)療大模型效果將逐步得到驗證
2023年6月，四川大學(xué)華西醫(yī)院信息中心劉加林教授團隊在醫(yī)學(xué)權(quán)威期刊Journal of Medical Internet Research上發(fā)表了研究文章“Utility of ChatGPT in Clinical Practice”，證明了ChatGPT在臨床多個環(huán)節(jié)為醫(yī)務(wù)人員提供了有效的診療決策支持。
研究顯示，基于大語言模型的人工智能ChatGPT在臨床實踐中展現(xiàn)出巨大的潛力，或?qū)氐赘淖儸F(xiàn)有的醫(yī)療模式。例如，在診斷方面，ChatGPT在常見病的正確診斷率高達93.3%。在臨床決策方面，再根據(jù)多個維度比較了36個病例的鑒別診斷、診斷測試、最終診斷和處理的準(zhǔn)確性后，ChatGPT的總體準(zhǔn)確率達到了71.7%（95% CI，69.3%~74.1%）。此外，ChatGPT還可用于癌癥篩查和優(yōu)化臨床決策支持系統(tǒng)，為醫(yī)生提供重要的輔助信息。在回答醫(yī)學(xué)問題方面，ChatGPT也展現(xiàn)出了強大的能力。例如，在視網(wǎng)膜疾病、產(chǎn)科和婦科、肝臟疾病以及癌癥等領(lǐng)域提供準(zhǔn)確和有用的信息；可用于生成醫(yī)學(xué)文件，如患者醫(yī)療報告、放射學(xué)報告和醫(yī)療記錄等。這些文件在準(zhǔn)確性、人性化和可讀性方面得到了良好的評價，為醫(yī)療實踐提供了重要的支持。對于大模型在醫(yī)療健康領(lǐng)域的應(yīng)用，此前中國信通院云大所副所長閔棟提出了9個應(yīng)用場景，包括輔助決策、治療方案生成和質(zhì)量控制等。劉加林團隊的研究已經(jīng)證明了大模型在輔助決策方面發(fā)揮了作用，還有許多大模型在問診、影像鑒別等方面取得了不錯的準(zhǔn)確度，但在其他多個應(yīng)用場景中，醫(yī)療大模型的應(yīng)用效果仍需進一步研究。閔棟近日發(fā)文表示，目前我國醫(yī)療大模型產(chǎn)業(yè)仍在發(fā)展早期，且大多廠商對標(biāo)ChatGPT同步發(fā)展，處于跟進復(fù)刻的階段，創(chuàng)新性總體偏弱。當(dāng)國內(nèi)大模型技術(shù)積累達到一定階段，不同應(yīng)用定位的模型優(yōu)勢將會在產(chǎn)業(yè)中顯現(xiàn)出來，呈現(xiàn)出差異化，這也是大模型商業(yè)落地的主要途徑。隨著各廠商大模型產(chǎn)品的研發(fā)和應(yīng)用，2024年醫(yī)療健康領(lǐng)域也將出現(xiàn)覆蓋不同應(yīng)用場景的醫(yī)療大模型，更多相關(guān)研究工作也將逐步展開和驗證。
大模型“通病”在醫(yī)療領(lǐng)域要零容忍
CDSreport發(fā)現(xiàn)，盡管大模型在醫(yī)療健康領(lǐng)域應(yīng)用效果的研究成果目前仍在少數(shù)，但對其存在的隱患已逐漸形成共識。上海市數(shù)據(jù)科學(xué)重點實驗室主任、復(fù)旦大學(xué)附屬眼耳鼻喉科醫(yī)院等多家機構(gòu)特聘教授肖仰華發(fā)表的論文闡述了大模型在醫(yī)療應(yīng)用中的局限性。1. 僅根據(jù)文字記載難以習(xí)得專家經(jīng)驗醫(yī)療是一類典型的嚴(yán)肅、復(fù)雜應(yīng)用場景，對大模型的準(zhǔn)確性、精確性、安全性、可靠性、認(rèn)知能力均提出更高要求。例如醫(yī)生在對患者進行診斷時，不僅要考慮過往病史，還要通過場景判斷患者所述是否屬實，多憑借自身豐富經(jīng)驗解決問題。大模型難以僅從文字記載的數(shù)據(jù)中習(xí)得，與資深醫(yī)療專家水平仍有差距。2. 無法輔助解決真實場景中的復(fù)雜決策任務(wù)目前，以大模型為核心的人工智能技術(shù)在醫(yī)學(xué)中的應(yīng)用定位仍是輔助決策。ChatGPT類大模型本質(zhì)上是在開放環(huán)境中實現(xiàn)人機對話，但是開放聊天無法輔助解決真實工作場景中的復(fù)雜決策任務(wù)。例如在疾病診斷方面，醫(yī)生會根據(jù)患者的收入和醫(yī)保情況制定個性化診療方案。要勝任此類工作，大模型需要豐富的專業(yè)知識、合理的角色定位、病情病勢研判能力、復(fù)雜約束取舍能力、不完全信息下的推斷能力等，大模型要從聊天能手變成醫(yī)學(xué)專業(yè)助手仍需經(jīng)歷漫長的優(yōu)化過程。醫(yī)療關(guān)系到公眾的生命健康，對錯誤需要零容忍，應(yīng)用任何人工智能技術(shù)都要有系統(tǒng)性的解決方案才能達到醫(yī)學(xué)嚴(yán)苛的準(zhǔn)確性與精度要求。而生成式大模型本質(zhì)上是概率模型，仍有產(chǎn)生錯誤的可能。例如，胃復(fù)安的主要成分是甲氧氯普胺，但ChatGPT回答的是天然氣孔草酮。這看似嚴(yán)謹(jǐn)?shù)幕卮鸫嬖诨臼聦嶅e誤，在應(yīng)用時需要付諸極大的代價判斷信息真?zhèn)危黾恿藨?yīng)用成本。幻覺問題是大模型落地垂域應(yīng)用不可避免的問題。對于以上醫(yī)療大模型目前存在的普遍問題，肖仰華認(rèn)為原因有3點：首先，大模型先天能力不足，訓(xùn)練語料、輪次有限都會導(dǎo)致學(xué)習(xí)不充分、知識有限、推理受限等問題；其次實際任務(wù)往往太復(fù)雜，大模型對復(fù)雜指令理解能力有限，進而產(chǎn)生幻覺；最后，由于專業(yè)領(lǐng)域知識相對薄弱、難獲取，大模型對于某些專業(yè)知識的掌握能力有限，因此生成錯誤答案。
本地化部署或成2024年發(fā)展方向
如何才能解決大模型在醫(yī)療健康領(lǐng)域現(xiàn)存的問題？劉加林提出，應(yīng)對數(shù)據(jù)進行審查和清洗，為大模型提供更加廣泛和多樣化的訓(xùn)練數(shù)據(jù)，涵蓋不同人口群體和疾病情況，以減少偏見的影響，確保大模型的輸出結(jié)果是公正和準(zhǔn)確的。此外，為了保護患者的隱私和數(shù)據(jù)安全，需要采取嚴(yán)格的數(shù)據(jù)安全措施，如數(shù)據(jù)加密、訪問控制和匿名化等。同時，為了提高其可信度和可接受性，需要研究算法的透明性和可解釋性，包括開發(fā)解釋性的模型架構(gòu)、提供決策依據(jù)的解釋，以及記錄和審查大模型與患者之間的交互過程。為了克服上述問題和風(fēng)險，政府部門、學(xué)協(xié)會、研究機構(gòu)和醫(yī)療機構(gòu)等需要針對實際問題制定相關(guān)政策和監(jiān)管措施，確保大模型在臨床實踐中的合理和安全應(yīng)用。同時，還需要加強研究，提高大模型的性能和可靠性，以確保其在醫(yī)療領(lǐng)域的廣泛應(yīng)用能夠帶來真正的益處，并最大限度地減少風(fēng)險。為此，由中國信息通信研究院牽頭，國家衛(wèi)生健康委醫(yī)療服務(wù)指導(dǎo)管理中心以及多家醫(yī)院、技術(shù)公司共同研究起草的《醫(yī)療健康行業(yè)大模型應(yīng)用技術(shù)要求 第1部分：醫(yī)院側(cè)醫(yī)療服務(wù)》《醫(yī)療健康行業(yè)大模型應(yīng)用技術(shù)要求 第2部分：患者側(cè)醫(yī)療服務(wù)》《醫(yī)療健康行業(yè)大模型合成服務(wù)治理規(guī)范 第1部分：數(shù)據(jù)處理》《醫(yī)療健康行業(yè)大模型安全管理能力要求 第1部分：應(yīng)用安全》四項標(biāo)準(zhǔn)于2023年9月發(fā)布。旨在對醫(yī)療健康行業(yè)大模型應(yīng)用服務(wù)能力進行全方位、多角度的綜合評定，通過構(gòu)建全面多層的測試問題集，探查醫(yī)療健康行業(yè)大模型的知識豐富度和臨床溝通能力等。
醫(yī)療健康行業(yè)大模型系列標(biāo)準(zhǔn)框架根據(jù)中國信息通信研究院制定的“醫(yī)療健康行業(yè)大模型系列標(biāo)準(zhǔn)框架”，下一步還將陸續(xù)發(fā)布多項標(biāo)準(zhǔn)，以促進大模型在醫(yī)療健康行業(yè)的技術(shù)標(biāo)準(zhǔn)、能力建設(shè)、涵蓋范圍和安全要求等。對于2024年的發(fā)展方向，中國信通院云大所數(shù)字健康部副主任馮天宜表示，一方面，大模型在醫(yī)療場景應(yīng)用，還需兼顧安全性與專業(yè)性，可以通過數(shù)據(jù)清洗、標(biāo)注和驗證等對規(guī)范數(shù)據(jù)質(zhì)量提出量化要求以控制數(shù)據(jù)質(zhì)量，及時開展算法檢測和修正確保模型決策透明、可解釋、可追溯等手段應(yīng)對內(nèi)容虛假和錯誤的問題；另一方面，大模型的計算需要大量的算力作為支撐，但醫(yī)院在算力部署等方面仍存在短板，因此輕量化、本地化部署的大模型將成為重要發(fā)展方向。1. 四川大學(xué)華西醫(yī)院信息中心劉加林教授團隊:ChatGPT在臨床實踐中的應(yīng)用.劉加林等.華西醫(yī)學(xué)時間.2023.07.042. 是時候,給醫(yī)療大模型來一套標(biāo)準(zhǔn)試題.閔棟. 財經(jīng)大健康.2023.12.113. 大規(guī)模生成式語言模型在醫(yī)療領(lǐng)域的應(yīng)用:機遇與挑戰(zhàn).肖仰華,徐一丹.醫(yī)學(xué)信息學(xué)雜志.2023,44(9):1-114. AI大模型競相入局醫(yī)療賽道,如何應(yīng)對各類落地挑戰(zhàn)?.鄒臻杰.第一財經(jīng).2024.01.08
