界面新聞?dòng)浾?| 張倩楠
界面新聞編輯 | 劉海川
今年以來(lái)，中國多家醫院正加速推進(jìn)DeepSeek大模型本地化部署，掀起AI驅動(dòng)診療變革新風(fēng)暴。
據不完全統計，截至目前，國內已有超百家三級醫院官宣完成DeepSeek本地化部署，涉及北京、上海、廣東、江蘇、浙江等20余個(gè)省份，包括北京大學(xué)第一醫院、清華長(cháng)庚醫院、上海第六人民醫院、鄭州大學(xué)第一附屬醫院、深圳大學(xué)附屬華南醫院、北京中醫藥大學(xué)深圳醫院、湖南省人民醫院等。
作為一項基于深度學(xué)習和大數據分析的智能技術(shù)，DeepSeek可用于臨床、科研、醫院運營(yíng)管理等數十種醫療場(chǎng)景。
其中沖擊感最強的莫過(guò)于在臨床上的使用。首都醫科大學(xué)三博腦科醫院神經(jīng)外科主任張宏偉就公開(kāi)分享了他的“震驚”。他在門(mén)診遇到一位超復雜腦瘤患者，患者已經(jīng)過(guò)兩次開(kāi)顱手術(shù)、一次經(jīng)鼻手術(shù)、一次放療、一次伽馬刀治療，腫瘤仍未被控制。張宏偉把患者情況發(fā)給DeepSeek，僅18秒后，它就給出了一份明確的方案，張宏偉能想到的、文獻上報道的都有，而且包括最新的臨床實(shí)驗。“對于腦腫瘤這類(lèi)比較復雜的問(wèn)題，DeepSeek的水平至少相當于省級三甲醫院專(zhuān)家。” 張宏偉說(shuō)。
輔助醫療決策也是醫院部署DeepSeek的主要目標之一。以陸軍軍醫大學(xué)新橋醫院推出的“新橋 DeepSeek”智能體為例，面對復雜的醫學(xué)問(wèn)題，在大模型的加持下，智能體可迅速、精準地提供專(zhuān)業(yè)解答；在病例輔助分析方面，可為醫生的診療決策提供可靠的參考依據。此外，在DeepSeek與醫院OA系統深度融合之后，湖南省人民醫院也提出，未來(lái)，AI將深度參與臨床決策支持、病歷質(zhì)控、影像分析等場(chǎng)景。
“我們必須承認，在醫療場(chǎng)景下，人工智能發(fā)揮的作用以及其自身潛力越來(lái)越大，于此同時(shí)，人工智能介入醫療背后的高風(fēng)險也必須納入考量。” 對外經(jīng)濟貿易大學(xué)法學(xué)院教授、數字經(jīng)濟與法律創(chuàng )新研究中心主任張欣告訴界面新聞。
能否對數據“守口如瓶”？
事實(shí)上，這并不是AI醫生首次登場(chǎng)。早在2019年1月，國家衛生健康委統計信息中心面向全國開(kāi)展人工智能技術(shù)應用落地案例征集活動(dòng)。3個(gè)月內，通過(guò)網(wǎng)上填報共收集案例245例，經(jīng)篩選進(jìn)入評選環(huán)節的案例190例，涉及137所醫療衛生機構和科研院所。
2024年國家衛生健康委、國家中醫藥局、國家疾控局公布《衛生健康行業(yè)人工智能應用場(chǎng)景參考指引》，包括臨床專(zhuān)病智能輔助決策、手術(shù)智能輔助規劃等84個(gè)應用場(chǎng)景。2024年12月13日，工信部和國家衛健委聯(lián)合公示了51個(gè)高端醫療裝備推廣應用項目，其中就包括人工智能輔助診療。
在基層應用方面，醫學(xué)人工智能輔助診斷技術(shù)也在持續布局。據國家衛生健康委基層司司長(cháng)傅衛介紹，截至2023年底，27個(gè)試點(diǎn)縣的基層機構通過(guò)輔助診療系統已經(jīng)提供診斷建議2600余萬(wàn)次。
與此前開(kāi)發(fā)應用的醫療大模型相比，DeepSeek顯得更為平易近人，普通民眾也可以通過(guò)詢(xún)問(wèn)DeepSeek得到的答案。而這樣的“開(kāi)源”，讓長(cháng)期進(jìn)行醫療行業(yè)觀(guān)察的病毒學(xué)家常榮山產(chǎn)生擔憂(yōu)，DeepSeek接入醫院系統，能否保證患者信息不被泄露？
“由于醫療數據通常包含極其敏感的信息，比如患者的基因數據和病史記錄，這些信息一旦泄露，可能會(huì )對個(gè)人隱私造成嚴重威脅。如果系統的架構設計存在缺陷，或者數據在傳輸過(guò)程中沒(méi)有得到適當的加密保護，那么這些寶貴的數據就可能成為網(wǎng)絡(luò )攻擊者的攻擊目標，從而被非法獲取和濫用。” 中國政法大學(xué)教授、京都律師事務(wù)所兼職律師鄭飛告訴界面新聞。
“開(kāi)源代碼的不可控性是一個(gè)不容忽視的問(wèn)題。” 鄭飛介紹，由于開(kāi)源項目允許來(lái)自全球各地的開(kāi)發(fā)者參與代碼的編寫(xiě)和修改，這雖然促進(jìn)了技術(shù)的快速發(fā)展和創(chuàng )新，但同時(shí)也帶來(lái)了潛在的安全風(fēng)險。社區中的代碼修改可能無(wú)意中引入了后門(mén)程序或者安全漏洞，這些漏洞可能會(huì )被惡意行為者利用，從而增加了數據泄露和系統被攻擊的風(fēng)險。因此，在將開(kāi)源AI系統應用于醫療領(lǐng)域時(shí)，必須對這些風(fēng)險進(jìn)行仔細評估，并采取相應的安全措施來(lái)確保系統的安全性和數據的保密性。
使用DeepSeek主要有三種方式：直接訪(fǎng)問(wèn)應用、調用云服務(wù)接口、本地化部署定制開(kāi)發(fā)。為了保證安全性與專(zhuān)業(yè)化，目前醫院使用DeepSeek的方式是本地化部署定制開(kāi)發(fā)。長(cháng)庚醫院醫學(xué)數據科學(xué)中心主任李棟接受經(jīng)濟觀(guān)察網(wǎng)采訪(fǎng)時(shí)介紹，一方面，醫院數據不能離院；另一方面，要保證病人得到更專(zhuān)業(yè)的咨詢(xún)，需要用醫院專(zhuān)業(yè)的真實(shí)醫療數據去訓練，同時(shí)保證數據不外泄。
然而，如何在數據使用的同時(shí)保護患者的個(gè)人隱私，是一個(gè)長(cháng)期存在的問(wèn)題。作為率先完成DeepSeek本地化部署的醫院，深圳大學(xué)附屬華南醫院院長(cháng)吳松在其文章中介紹，傳統的匿名化方法雖然能夠降低數據泄露的風(fēng)險，但往往會(huì )導致數據的部分喪失，因此需要開(kāi)發(fā)更加精細化的脫敏算法，在保證隱私保護的同時(shí)最大限度地保留數據的有效性。
此外，吳松表示，隨著(zhù)數據量的持續增加，如何在保證數據安全的前提下實(shí)現大規模數據的存儲、傳輸和處理，也是當前醫療大模型本地化部署面臨的一項重要挑戰。分布式存儲、邊緣計算等技術(shù)的應用可能為這一問(wèn)題提供解決方案，但如何平衡數據處理效率與安全性，依然需要進(jìn)一步研究和探索。
一旦發(fā)生個(gè)人信息泄露或不當處理的情況，鄭飛介紹，根據《中華人民共和國民法典》以及《中華人民共和國個(gè)人信息保護法》等規則，作為數據控制者，如果醫療機構未能履行其應盡的安全管理義務(wù)，通常需要承擔主要責任。此外，在特定情況下，責任的劃分可能會(huì )牽涉到包括開(kāi)發(fā)者與供應商、第三方開(kāi)源貢獻者、數據處理人員、網(wǎng)絡(luò )服務(wù)提供商在內的多個(gè)相關(guān)方。
AI醫生必須服從人類(lèi)醫療倫理框架
“AI必須服從人類(lèi)醫療倫理框架，關(guān)鍵是強調人類(lèi)控制最后的按鈕原則，明確要求守住醫生終審權、患者知情權、技術(shù)可溯性三大底線(xiàn)。” 上海交通大學(xué)數據法律研究中心執行主任，上海交通大學(xué)法學(xué)院副教授何淵告訴界面新聞。
事實(shí)上，醫生終審原則早已明確。早在2009年，原衛生部印發(fā)的《人工智能輔助診斷技術(shù)管理規范（試行）》就明確，人工智能輔助診斷技術(shù)為輔助診斷和臨床決策支持系統，不能作為臨床最終診斷，僅作為臨床輔助診斷和參考，最終診斷必須由有資質(zhì)的臨床醫師確定。
國家衛健委、國家中醫藥局2022年發(fā)布的《互聯(lián)網(wǎng)診療監管細則（試行）》也遵循了這一原則，規定“醫師接診前需進(jìn)行實(shí)名認證，確保由本人提供診療服務(wù)。其他人員、人工智能軟件等不得冒用、替代醫師本人提供診療服務(wù)”，此外“處方應由接診醫師本人開(kāi)具，嚴禁使用人工智能等自動(dòng)生成處方”。地方政策層面，北京、湖南等多地也對人工智能輔助診療劃下了“紅線(xiàn)”，嚴禁使用人工智能等自動(dòng)生成處方。
在人類(lèi)控制最后按鈕的前提下，如何在醫生與AI之間建立起和諧互動(dòng)關(guān)系將成為關(guān)鍵問(wèn)題。常榮山告訴界面新聞，斯坦福大學(xué)、哈佛醫學(xué)院等機構的研究人員2024年10月發(fā)表的一項研究顯示，AI作為強大的診斷輔助工具卻并沒(méi)有提高醫生的表現，人與AI的結合實(shí)際上起到了“1+1=1”的效果。“AI的確很強大，但如果醫生們并不能熟練掌握，其作用仍然有限。關(guān)鍵是如何通過(guò)完善教育培訓制度、標準化工作程序、監管框架設計等，突破人對AI的信任危機，從而提高效率。” 常榮山說(shuō)。
“除了要確保‘人’在回路上，確保患者知情權也非常重要。如果在患者不知情的情況下使用了包括醫療輔助在內的人工智能系統，不符合醫療倫理。從透明度治理的角度來(lái)講，也需要去讓患者進(jìn)行充分的知情、同意和告知，還有相應的授權。” 張欣說(shuō)。
然而，鄭飛指出，相較于傳統醫療行為中的知情同意，AI所包含的數據集交互和算法的復雜性問(wèn)題，決定了人們難以就其個(gè)人數據的使用作出全面和可預測的決定，這使得與其相關(guān)的知情同意問(wèn)題變得極為復雜。
“在當前的監管環(huán)境中，存在一些灰色地帶。” 鄭飛介紹，一方面，技術(shù)的快速發(fā)展和迭代速度遠遠超過(guò)了相關(guān)法規的更新速度。特別是人工智能算法，由于其具備自主性和動(dòng)態(tài)學(xué)習的能力，使得這些技術(shù)難以完全適應傳統醫療器械所遵循的靜態(tài)標準。另一方面，分類(lèi)標準的模糊性也是一個(gè)不容忽視的問(wèn)題。例如，在醫療文本處理領(lǐng)域中，生成式人工智能的應用是否應該被歸類(lèi)為“診斷輔助”工具，目前還沒(méi)有一個(gè)明確的界定。這種不確定性給監管機構帶來(lái)了挑戰，同時(shí)也為相關(guān)技術(shù)的發(fā)展和應用帶來(lái)了潛在的風(fēng)險。
AI參與診療，醫療損害責任如何厘清？
根據《中華人民共和國民法典》第1218條的規定，患者在診療活動(dòng)中受到損害，醫療機構或者其醫務(wù)人員有過(guò)錯的，由醫療機構承擔賠償責任。我國現階段的人工智能輔助醫療的侵權案件，在司法實(shí)踐中采用的仍是傳統意義上的以過(guò)錯責任原則為中心的醫療損害責任認定方式。
“這意味著(zhù)在發(fā)生醫療糾紛時(shí)，患者或其家屬需要證明醫療機構或醫務(wù)人員存在過(guò)錯，例如未能合理地審核人工智能（AI）系統提供的診斷建議，或者在操作過(guò)程中出現了失誤。而如果使用AI輔助診斷系統導致了誤診的情況發(fā)生，醫療機構必須證明他們已經(jīng)采取了審慎的態(tài)度和措施來(lái)使用這項技術(shù)，比如對AI系統的建議進(jìn)行了充分的審查和驗證。” 鄭飛說(shuō)。
“當涉及到AI自主決策時(shí)，會(huì )遇到歸責的困境。”鄭飛介紹，由于深度學(xué)習模型具有所謂的“黑箱”特性，即其決策過(guò)程不透明，這使得當出現錯誤或問(wèn)題時(shí)，很難追溯到具體的錯誤原因。這種不透明性導致了醫療機構和AI系統的開(kāi)發(fā)者之間經(jīng)常發(fā)生互相推諉責任的情況。從義務(wù)的角度看，這不僅會(huì )影響醫務(wù)人員向患者履行告知義務(wù)，也會(huì )影響醫務(wù)人員履行再判斷義務(wù)。
此外，責任的劃分還涉及到多方責任的交織問(wèn)題，由于明確和統一的分擔標準，使得責任的劃分變得復雜和模糊。鄭飛舉例說(shuō)，如果數據泄露事件是由于開(kāi)源代碼中存在漏洞以及醫院在管理上的疏忽共同造成的，那么責任的分擔就需要根據各方的過(guò)錯比例來(lái)進(jìn)行，但對于這個(gè)比例，尚無(wú)明確標準。
另一種情況，如果人工智能輔助醫療工具被明確界定為醫療器械，那么在責任認定方面，就必須綜合考慮《產(chǎn)品質(zhì)量法》以及《醫療器械監督管理條例》等相關(guān)法規。
“人工智能輔助醫療工具是否被正式歸類(lèi)為醫療器械，這主要取決于它所具備的具體功能以及它被應用在哪些場(chǎng)景中。”鄭飛介紹，如果DeepSeek僅僅被用作提供決策支持的工具，它可能不會(huì )被明確地劃歸為醫療器械的范疇之內；然而，如果DeepSeek在實(shí)際應用中直接參與了診斷過(guò)程，或者在治療過(guò)程中起到了關(guān)鍵作用（例如在手術(shù)導航、影像分析等方面），特別是對醫療器械數據進(jìn)行分析，那么它就可能需要按照醫療器械的相關(guān)規定進(jìn)行審批和監管。
鄭飛介紹，關(guān)于產(chǎn)品缺陷的無(wú)過(guò)錯責任問(wèn)題，根據《產(chǎn)品責任法》第41條，因產(chǎn)品存在缺陷造成人身、缺陷產(chǎn)品以外的其他財產(chǎn)損害的，生產(chǎn)者應當承擔賠償責任。生產(chǎn)者有義務(wù)對由于設計上的缺陷或者制造過(guò)程中的瑕疵所引起的損害承擔無(wú)過(guò)錯責任。這意味著(zhù)，即使生產(chǎn)者在制造過(guò)程中沒(méi)有過(guò)錯，也必須對由此產(chǎn)生的損害進(jìn)行賠償。
此外，根據《民法典》第1203條，因產(chǎn)品存在缺陷造成損害的，被侵權人可以向產(chǎn)品的生產(chǎn)者請求賠償，也可以向產(chǎn)品的銷(xiāo)售者請求賠償。如果醫療機構未能履行其合理使用義務(wù)，例如未能定期進(jìn)行設備維護，那么在發(fā)生損害時(shí)，醫療機構可能需要根據其過(guò)錯程度承擔補充賠償責任。
“就目前而言，考慮到人工智能輔助醫療的輔助定位，意味著(zhù)其背后的人機關(guān)系始終由醫務(wù)人員主導。換言之，現有醫患關(guān)系結構不會(huì )改變，醫療機構仍然是承擔損害賠償責任的主體，醫務(wù)人員則繼續代表醫療機構具體對患者負擔注意義務(wù)。” 鄭飛說(shuō)。