今年以來(lái),DeepSeek仿若一顆人工智能領(lǐng)域的新星,為很多行業(yè)的未來(lái)前景賦予了更多可能性。據(jù)不完全統(tǒng)計(jì),目前國(guó)內(nèi)已有超百家醫(yī)院接入DeepSeek。在本市,北京友誼醫(yī)院、北京清華長(zhǎng)庚醫(yī)院、北京大學(xué)第三醫(yī)院等多家醫(yī)院紛紛宣布完成本地化部署。
這場(chǎng)AI革命如何重塑診療流程與管理范式?將為醫(yī)院服務(wù)、管理帶來(lái)怎樣的變化?是否會(huì)代替醫(yī)生?如何規(guī)范其使用?北京青年報(bào)記者深入多家醫(yī)院展開(kāi)調(diào)查。
入局
20余天完成本地化部署
DeepSeek落地多家醫(yī)院
2月27日上午9點(diǎn)26分,北京友誼醫(yī)院醫(yī)學(xué)數(shù)智創(chuàng)新中心、信息中心向全院發(fā)布了一份滿血版DeepSeek大模型試用通知,標(biāo)志著全院所有職工可通過(guò)三個(gè)院區(qū)4000余臺(tái)工作電腦使用滿血版(671B)DeepSeek-R1大模型。
在之前的20天里,北京友誼醫(yī)院醫(yī)學(xué)數(shù)智創(chuàng)新中心辦公室副主任王力華既忙碌又忐忑。作為一名深耕醫(yī)療技術(shù)領(lǐng)域30多年的管理者,王力華敏銳地觀察到,“是時(shí)候了”。假期還沒(méi)結(jié)束,她決定要把DeepSeek引進(jìn)來(lái)。節(jié)后上班第一天,她做了兩件事:向院領(lǐng)導(dǎo)提出部署申請(qǐng),并順利得到了主管院領(lǐng)導(dǎo)的同意;尋找算力支撐,成功聯(lián)系合作伙伴聯(lián)通和華為。2月20日,系統(tǒng)正式搭建完成并展開(kāi)內(nèi)測(cè)。隨后幾日,DeepSeek順利接入院內(nèi)用于診療工作的HIS系統(tǒng)、用于內(nèi)部辦公的OA系統(tǒng)等主要業(yè)務(wù)系統(tǒng),并在4000余臺(tái)辦公電腦桌面進(jìn)行布局。
一石激起千層浪,這個(gè)春節(jié)假期前后,清華大學(xué)附屬北京清華長(zhǎng)庚醫(yī)院醫(yī)學(xué)數(shù)據(jù)科學(xué)中心主任李棟也是一刻不得閑,在他的日程表里,“研究DeepSeek”被列為最高優(yōu)先級(jí)。
在節(jié)后首個(gè)工作日,北京清華長(zhǎng)庚醫(yī)院立刻組織院內(nèi)有關(guān)科室、技術(shù)團(tuán)隊(duì)準(zhǔn)備本地部署DeepSeek。醫(yī)院前期積累的智慧醫(yī)院建設(shè)經(jīng)驗(yàn)、超前布局算力設(shè)施,讓接入DeepSeek的過(guò)程非常順利?;诖饲伴_(kāi)展的醫(yī)療數(shù)據(jù)深度治理,該院DeepSeek部署和數(shù)據(jù)訓(xùn)練幾乎同步進(jìn)行。“DeepSeek一接入,我們便將全院已完成治理的數(shù)據(jù)庫(kù)全部注入,用優(yōu)質(zhì)的醫(yī)療專(zhuān)業(yè)數(shù)據(jù)去打磨訓(xùn)練,從而將普通版DeepSeek迭代為‘清華長(zhǎng)庚特制版’。”
北京清華長(zhǎng)庚醫(yī)院所設(shè)想的“DeepSeek醫(yī)療矩陣”已初具規(guī)模:縱向上,開(kāi)放了155個(gè)端口覆蓋全院所有科室,并觸達(dá)所有緊密醫(yī)聯(lián)體單位。橫向上,未來(lái)計(jì)劃打通清華大學(xué)四家附屬醫(yī)院所有數(shù)據(jù),以海量專(zhuān)業(yè)數(shù)據(jù)訓(xùn)練持續(xù)提升模型精度。
體驗(yàn)
可視作高級(jí)輔助診斷工具
診斷結(jié)論仍需要醫(yī)生簽署
DeepSeek的強(qiáng)大功能讓不少敢于嘗鮮的醫(yī)生“直呼好用”。北京友誼醫(yī)院病理科主任陳光勇驚嘆于DeepSeek嚴(yán)密的邏輯思考過(guò)程。“以前搜索信息,查到的結(jié)果可能是一個(gè)點(diǎn),而DeepSeek能把點(diǎn)連成線,甚至是一個(gè)面,可以幫助醫(yī)生拓寬視野,拓展思考問(wèn)題的廣度和深度,幫助查缺補(bǔ)漏和糾偏。輸入的信息越多,搜索也會(huì)越精準(zhǔn),可能會(huì)越來(lái)越接近于疾病本質(zhì),功能非常強(qiáng)大。”
陳光勇對(duì)北京青年報(bào)記者表示,目前將DeepSeek視作一款更高級(jí)的輔助診斷工具,最后做出診斷的主體依然是醫(yī)生,DeepSeek給出的只是建議和可能性,而由醫(yī)生簽發(fā)的診斷結(jié)論才是具備法律效力的。在北京友誼醫(yī)院內(nèi)分泌科副主任醫(yī)師于恒池看來(lái),DeepSeek有著人類(lèi)不可比擬的優(yōu)勢(shì),比如海量的數(shù)據(jù)資源、強(qiáng)大的信息檢索能力、快速的判斷推理能力,能幫醫(yī)生搜集資料、拓寬視野,也有助于患者進(jìn)行自我學(xué)習(xí),節(jié)省醫(yī)生溝通成本。
最近,北京清華長(zhǎng)庚醫(yī)院做了一個(gè)試驗(yàn)來(lái)驗(yàn)證其可靠性,發(fā)動(dòng)醫(yī)生在DeepSeek中輸入了數(shù)千個(gè)病歷樣本,比對(duì)其診斷結(jié)果和醫(yī)生診斷結(jié)果,發(fā)現(xiàn)兩者吻合度很高。基于此,李棟認(rèn)為,DeepSeek在一些常見(jiàn)病診斷方面已達(dá)到了診療“基準(zhǔn)線”。
革新
改變醫(yī)院管理范式
破解痛點(diǎn)難點(diǎn)問(wèn)題
“DeepSeek的到來(lái)將徹底改變醫(yī)院管理范式,尤其是一些痛點(diǎn)、難點(diǎn)將有望迎刃而解。”李棟表示,對(duì)于DeepSeek部署后的應(yīng)用場(chǎng)景,北京清華長(zhǎng)庚醫(yī)院計(jì)劃用DeepSeek去推動(dòng)院內(nèi)實(shí)物流、信息流、現(xiàn)金流、業(yè)務(wù)流的精細(xì)化管理,為醫(yī)院服務(wù)提質(zhì)。
在智能化管理方面,定制化DeepSeek將全面覆蓋醫(yī)院168臺(tái)移動(dòng)醫(yī)療護(hù)理車(chē),以及超過(guò)120臺(tái)大型醫(yī)療儀器及全部電子簽名平板,全面支持診療各環(huán)節(jié),包括智能護(hù)理等核心業(yè)務(wù)場(chǎng)景;利用DeepSeek強(qiáng)大的數(shù)據(jù)分析能力,醫(yī)保智能審核系統(tǒng)將更智慧,進(jìn)一步提高不合理費(fèi)用的預(yù)警能力,減少不合理醫(yī)保支出,降低醫(yī)保費(fèi)用拒付風(fēng)險(xiǎn);通過(guò)DeepSeek科學(xué)分析預(yù)測(cè)醫(yī)療耗材使用量,可杜絕浪費(fèi)、減少積壓、避免短缺;DeepSeek接入住院部各護(hù)理站后,護(hù)士無(wú)需從住院藥房獲取首日量藥品,可有效提升服務(wù)效率;在患者服務(wù)方面,可利用DeepSeek升級(jí)醫(yī)院客戶端,為患者給出掛號(hào)建議,避免跑錯(cuò)科室,提升患者就診體驗(yàn)……
“我們關(guān)注的是能否用其有效整合醫(yī)院各科室的數(shù)據(jù)資源,深度優(yōu)化臨床診療,在提高醫(yī)療品質(zhì)的同時(shí),把整體的醫(yī)療費(fèi)用降下來(lái),最終造?;颊?。精細(xì)化管理上來(lái)了,患者的體驗(yàn)也將升級(jí),必將助力醫(yī)院健康發(fā)展。”李棟說(shuō)。
隱憂
診療涉及醫(yī)生經(jīng)驗(yàn)人文關(guān)懷
短期內(nèi)無(wú)需擔(dān)憂AI替代醫(yī)生
隨著強(qiáng)大的DeepSeek的出現(xiàn),也讓不少醫(yī)生擔(dān)憂:“天塌了”。北青報(bào)記者注意到,已有部分患者拿著DeepSeek給出的建議和醫(yī)生診斷結(jié)果進(jìn)行對(duì)比,似乎在挑戰(zhàn)醫(yī)生的權(quán)威,由此引發(fā)人類(lèi)醫(yī)生是否會(huì)被AI醫(yī)生替代的討論。
在北京大學(xué)第一醫(yī)院核醫(yī)學(xué)科副主任醫(yī)師孫宏偉看來(lái),AI確實(shí)是醫(yī)學(xué)好幫手,但他并不擔(dān)憂自己會(huì)被替代,“因?yàn)椴∏檠信惺且粋€(gè)專(zhuān)業(yè)而復(fù)雜的過(guò)程,有很多靈活因素要考慮,有賴于醫(yī)生的豐富經(jīng)驗(yàn)。以用于腫瘤診斷的PET/CT為例,PET/CT通過(guò)特異性探針觀察病灶葡萄糖代謝變化?;颊邟呙璧挠跋窠Y(jié)果是明確的,但做出診斷還要考慮諸多個(gè)體化因素?;颊叩钠咸烟谴x水平受身高、體重、血糖,以及當(dāng)天的飲食、睡眠、視聽(tīng)刺激等因素影響,需醫(yī)生綜合研判。醫(yī)學(xué)診斷不是非黑即白。”
大模型有個(gè)特點(diǎn)——答案高度依賴提問(wèn)方式,準(zhǔn)確輸入方能得到準(zhǔn)確輸出。孫宏偉表示,使用DeepSeek提問(wèn)時(shí),好比檢索文獻(xiàn),輸入的關(guān)鍵詞不同,搜索的結(jié)果也會(huì)不一樣。“醫(yī)學(xué)診斷必須以專(zhuān)業(yè)性為基礎(chǔ),即使使用DeepSeek去檢索也有專(zhuān)業(yè)性問(wèn)題,否則很容易導(dǎo)致自己檢索的結(jié)果與醫(yī)生診斷大相徑庭。”
于恒池注意到,源頭數(shù)據(jù)庫(kù)的可靠性、全面性會(huì)影響輸出結(jié)果。目前大眾能接觸到的DeepSeek屬于通用版,雖涵蓋了海量的診療標(biāo)準(zhǔn)、診療案例,但其中信息魚(yú)龍混雜,權(quán)威的、核心的國(guó)內(nèi)外文獻(xiàn)數(shù)據(jù)是否全部囊括?一些需要付費(fèi)的專(zhuān)業(yè)論文、知識(shí)庫(kù)是否涵蓋?罕見(jiàn)病、特殊病種數(shù)據(jù)是否納入?“其結(jié)論可靠性仍然存疑,需謹(jǐn)慎對(duì)待。”
“醫(yī)學(xué)也是一門(mén)人文學(xué)科,涉及醫(yī)患間情感交流,人文關(guān)懷是人工智能無(wú)法比擬的。尤其是像內(nèi)分泌科,涉及慢病長(zhǎng)期管理,患者對(duì)醫(yī)生的依從性、信賴度也是治療結(jié)果的影響因素之一,AI未必有同樣效果。”于恒池說(shuō)。在李棟看來(lái),醫(yī)療遠(yuǎn)非單純的技術(shù)問(wèn)題,更是一種社會(huì)行為。醫(yī)生不僅要結(jié)合檢測(cè)指標(biāo)做判斷,還要考慮患者心理及其社會(huì)因素,如職業(yè)、收入、家庭環(huán)境、成長(zhǎng)環(huán)境等等,做出個(gè)體化診斷,生物-心理-社會(huì)醫(yī)學(xué)模式幾乎貫穿診療全過(guò)程。
此外,當(dāng)前的政策紅線亦不可觸碰。早在2022年,國(guó)家衛(wèi)健委就規(guī)定“人工智能軟件等不得冒用、替代醫(yī)師本人提供診療服務(wù)”“嚴(yán)禁使用人工智能等自動(dòng)生成處方”,2023年發(fā)布的《北京市互聯(lián)網(wǎng)診療監(jiān)管實(shí)施辦法(試行)》也提出了明確要求。也就是說(shuō),目前AI無(wú)法直接進(jìn)行診斷或開(kāi)具醫(yī)囑。
規(guī)范
熱技術(shù)下的冷思考
亟須制定使用規(guī)則
對(duì)于患者隱私保護(hù)和數(shù)據(jù)安全,目前,各家醫(yī)院大都采取了諸多技術(shù)進(jìn)行“加碼”。友誼醫(yī)院要求每一個(gè)醫(yī)生在使用DeepSeek時(shí)必須對(duì)患者信息進(jìn)行脫敏,包括患者姓名、身份證號(hào)、手機(jī)號(hào)等。該院數(shù)據(jù)依托的是私有云,是醫(yī)院內(nèi)部獨(dú)立、封閉的一套數(shù)據(jù)系統(tǒng),不會(huì)向外網(wǎng)傳輸。在北京清華長(zhǎng)庚醫(yī)院,醫(yī)院信息系統(tǒng)建立了防火墻、入侵檢測(cè)系統(tǒng)等多重防護(hù),醫(yī)院信息部會(huì)隨機(jī)對(duì)系統(tǒng)進(jìn)行安全評(píng)估和漏洞掃描。患者數(shù)據(jù)信息采用多重加密技術(shù),信息訪問(wèn)也有明確限制。
北京清華長(zhǎng)庚醫(yī)院也在著手制定相關(guān)規(guī)則去規(guī)范AI的使用。比如,規(guī)定使用AI輔助診斷時(shí)所有結(jié)果必須進(jìn)行人工審核;各類(lèi)疾病診斷,尤其是高風(fēng)險(xiǎn)復(fù)雜疾病如使用AI輔助,只能作為參考,最終診斷權(quán)必須在醫(yī)生;一些包含高敏感信息或高度依賴人工判斷的科室,如精神科目前還限制AI的大范圍應(yīng)用。
在李棟看來(lái),以DeepSeek為代表的大模型已經(jīng)開(kāi)始影響診療各個(gè)環(huán)節(jié),甚至?xí)厮茚t(yī)療領(lǐng)域。國(guó)家也在鼓勵(lì)A(yù)I賦能醫(yī)療,2024年11月6日,國(guó)家衛(wèi)生健康委等部門(mén)聯(lián)合印發(fā)《衛(wèi)生健康行業(yè)人工智能應(yīng)用場(chǎng)景參考指引》,涵蓋了醫(yī)療服務(wù)管理、基層公衛(wèi)服務(wù)、健康產(chǎn)業(yè)發(fā)展、醫(yī)學(xué)教學(xué)科研四大領(lǐng)域的84個(gè)具體應(yīng)用場(chǎng)景。
“我們鼓勵(lì)A(yù)I+醫(yī)療,但還有許多規(guī)則需要及時(shí)制定,去理清概念、權(quán)責(zé),明確規(guī)范。既不能管得太死、限制人工智能的發(fā)展活力,又不能放得太松,否則會(huì)對(duì)百姓生命健康帶來(lái)潛在的風(fēng)險(xiǎn),這非??简?yàn)相關(guān)部門(mén)在AI時(shí)代下的管理能力。其實(shí)我們的最終目的就是讓老百姓用上放心的AI醫(yī)療產(chǎn)品。”李棟說(shuō)。
當(dāng)前,DeepSeek還是一個(gè)通用模型,對(duì)于將來(lái)更加專(zhuān)業(yè)化的道路,陳光勇也有自己的憧憬:依托DeepSeek建立更多亞專(zhuān)科大模型,推動(dòng)疾病診療的專(zhuān)業(yè)化,造福更多患者。
對(duì)于DeepSeek給醫(yī)療行業(yè)帶來(lái)的變革,北青報(bào)記者專(zhuān)門(mén)向DeepSeek提問(wèn),正如其回答所言:“從聽(tīng)診器到AI,工具在變,但醫(yī)學(xué)溫度永恒。醫(yī)療AI的終極目的不應(yīng)是替代醫(yī)生,而是讓‘超級(jí)醫(yī)生’能力更加普惠。”
·對(duì)話·
患者對(duì)是否接受AI診療享有知情同意權(quán)
對(duì)話人:北京大學(xué)醫(yī)學(xué)部倫理法律副教授劉瑞爽
北青報(bào):當(dāng)前醫(yī)院引入AI可能面臨哪些風(fēng)險(xiǎn)?
劉瑞爽:AI引入醫(yī)療可能會(huì)涉及合法性、公平性、透明性、安全性、可靠性、隱私及個(gè)人信息保護(hù)、知識(shí)產(chǎn)權(quán)歸屬、責(zé)任劃分、技術(shù)性失業(yè)和法律監(jiān)管等多方面。例如合法性問(wèn)題,AI參與診療服務(wù)是否擁有行政許可、是否具備相應(yīng)資質(zhì)?再如,AI系統(tǒng)參與醫(yī)療資源分配,涉及醫(yī)療公平、消除偏見(jiàn)等問(wèn)題;還如,假設(shè)監(jiān)管部門(mén)對(duì)AI參與診療準(zhǔn)入,還存在對(duì)AI整個(gè)生命周期如何持續(xù)監(jiān)管的問(wèn)題。
北青報(bào):當(dāng)醫(yī)生使用AI進(jìn)行診斷發(fā)生誤診時(shí),責(zé)任應(yīng)如何界定?
劉瑞爽:現(xiàn)階段來(lái)看,AI并不具備執(zhí)業(yè)醫(yī)師資格,沒(méi)有獨(dú)立診療的權(quán)利,應(yīng)當(dāng)被定位為輔助診斷工具,診療不能僅靠AI的建議。如AI參與診療活動(dòng)出現(xiàn)誤診等情況,依據(jù)現(xiàn)行法律,構(gòu)成醫(yī)療損害責(zé)任的,應(yīng)當(dāng)由醫(yī)生或醫(yī)院承擔(dān)相應(yīng)責(zé)任。
但是,AI介入醫(yī)患關(guān)系中后,參與主體除了傳統(tǒng)的法律主體之外,具備高自主選擇能力的、具有“黑箱性”的AI系統(tǒng)成為醫(yī)療活動(dòng)因果鏈條上不可忽視的一部分。那么,因其沒(méi)有法律主體資格,所以AI自身不能承擔(dān)法律責(zé)任。如果能確定誤診是由設(shè)計(jì)者(如程序員)、部署者(如醫(yī)院)、應(yīng)用者(如醫(yī)務(wù)人員)等哪一方造成的,可按現(xiàn)行法律歸責(zé)。但AI的加入,導(dǎo)致難以確定是哪一方造成的,即算法問(wèn)題、模型問(wèn)題、輸入數(shù)據(jù)問(wèn)題還是輸出錯(cuò)誤建議問(wèn)題等難以確定;此外,AI到底是傳統(tǒng)意義上的產(chǎn)品、技術(shù)還是醫(yī)療服務(wù)的一部分,現(xiàn)行法律也尚不明確。因此,傳統(tǒng)的侵權(quán)責(zé)任歸責(zé)原則受到挑戰(zhàn),AI參與的,甚至是純屬AI導(dǎo)致的損害,如沿用現(xiàn)行法律一律由醫(yī)療機(jī)構(gòu)或設(shè)計(jì)者擔(dān)責(zé),恐出現(xiàn)責(zé)任劃分不公平,導(dǎo)致利益失衡。
北青報(bào):AI的介入是否會(huì)加劇醫(yī)療機(jī)構(gòu)之間的水平差異?
劉瑞爽:技術(shù)的差距可能導(dǎo)致馬太效應(yīng),需引起重視。一些資金雄厚、患者數(shù)據(jù)豐富的頭部醫(yī)院或能布局質(zhì)量好的人工智能,訓(xùn)練出更精準(zhǔn)的AI模型提升醫(yī)療服務(wù)質(zhì)量,可先行帶動(dòng)醫(yī)療AI發(fā)展,但也需注意AI發(fā)展的均衡性。其他醫(yī)療機(jī)構(gòu)尤其是基層機(jī)構(gòu)往往因數(shù)據(jù)不足、財(cái)力投入不夠等,在AI引入方面能力有限。這將加劇技術(shù)鴻溝、形成技術(shù)壁壘,進(jìn)一步拉大頭部醫(yī)院與其他醫(yī)療機(jī)構(gòu)的水平差異,讓民眾看病更加涌向頭部醫(yī)院,與我國(guó)分級(jí)診療制度不符。因此,有關(guān)部門(mén)應(yīng)重視這一問(wèn)題,建立AI醫(yī)療資源共享制度,讓更多機(jī)構(gòu)共享技術(shù)發(fā)展紅利。
北青報(bào):您對(duì)AI醫(yī)療監(jiān)管有何建議?
劉瑞爽:醫(yī)療AI事關(guān)民眾的生命健康、人身安全、財(cái)產(chǎn)安全、人格尊嚴(yán)等和重大權(quán)益,必須規(guī)范行業(yè)發(fā)展,把相關(guān)的監(jiān)管體系和規(guī)則制度建立起來(lái)。例如,國(guó)家層面推動(dòng)全社會(huì)廣泛參與醫(yī)療AI的立法進(jìn)程,建立健全相關(guān)AI系統(tǒng)、AI模型以及含AI醫(yī)療產(chǎn)品的準(zhǔn)入制度,保障診療的準(zhǔn)確性和安全性,避免無(wú)序發(fā)展、各自為政。醫(yī)院層面必須建立完善的AI質(zhì)量管理體系,防范風(fēng)險(xiǎn)。如AI數(shù)據(jù)治理方面要做好患者隱私及個(gè)人信息保護(hù);建立問(wèn)責(zé)制,構(gòu)建包含日志追溯、數(shù)據(jù)審計(jì)的透明化系統(tǒng),保證數(shù)據(jù)可追溯、可問(wèn)責(zé)。此外,患者的意見(jiàn)非常重要,患者對(duì)是否接受AI參與的診療,原則上享有知情同意權(quán),包括拒絕AI參與診療的權(quán)利。
本版文/本報(bào)記者蔣若靜