全部商品分類
ＡＩ在醫(yī)療領(lǐng)域的應(yīng)用伴隨著一系列復(fù)雜的法律問題。醫(yī)院如何規(guī)避ＡＩ診斷帶來的法律風(fēng)險(xiǎn)？醫(yī)院怎樣確認(rèn)醫(yī)療ＡＩ的輔助地位？當(dāng)ＡＩ輔助診斷結(jié)果與醫(yī)生臨床經(jīng)驗(yàn)出現(xiàn)分歧時(shí)，醫(yī)生該如何權(quán)衡同時(shí)避免法律隱患……
４月１５日，北京中醫(yī)藥大學(xué)衛(wèi)生健康法治研究與創(chuàng)新轉(zhuǎn)化中心主任、博導(dǎo)鄧勇教授做客健康界直播節(jié)目「ＡＬＬ ｉｎ ＡＩ Ｈｅａｌｔｈ創(chuàng)新應(yīng)用大講堂」，與本場(chǎng)直播主持人健康界內(nèi)容負(fù)責(zé)人鄭宇鈞對(duì)談「醫(yī)院如何提升應(yīng)對(duì)ＡＩ醫(yī)療風(fēng)險(xiǎn)能力」等問題。鄧勇教授扎實(shí)且富有實(shí)用性的直播內(nèi)容，為眾多在線的醫(yī)健專業(yè)人士帶來一場(chǎng)干貨滿滿的知識(shí)盛宴。
本文精選部分直播內(nèi)容，供廣大同仁交流，歡迎在評(píng)論區(qū)留言。本期及過往授課回放，可點(diǎn)擊下方圖片跳轉(zhuǎn)小程序，您加入醫(yī)項(xiàng)目即可觀看：
ＡＩ醫(yī)療應(yīng)用
這幾大風(fēng)險(xiǎn)一定要注意！
盡管ＡＩ技術(shù)為醫(yī)療行業(yè)帶來諸多便利，但也存在不少法律風(fēng)險(xiǎn)。首當(dāng)其沖的是醫(yī)療事故風(fēng)險(xiǎn)。鄧勇指出，由于數(shù)據(jù)偏移、算法偏見、技術(shù)濫用以及醫(yī)生接受度等因素，現(xiàn)階段許多醫(yī)療ＡＩ產(chǎn)品存在安全隱患，可能導(dǎo)致潛在的醫(yī)療風(fēng)險(xiǎn)和醫(yī)療事故。
因?yàn)橛?xùn)練數(shù)據(jù)偏移、標(biāo)注質(zhì)量不一以及缺乏行業(yè)標(biāo)準(zhǔn)等因素，部分影像ＡＩ產(chǎn)品診斷效能參差不齊，容易出現(xiàn)誤診漏診情況。例如，肺癌 ＡＩ 診斷產(chǎn)品的訓(xùn)練數(shù)據(jù)可能主要來自吸煙者和高風(fēng)險(xiǎn)人群的肺癌病例，導(dǎo)致其在低風(fēng)險(xiǎn)人群或非吸煙者中的診斷準(zhǔn)確率較低。
臨床決策支持系統(tǒng)若訓(xùn)練數(shù)據(jù)或技術(shù)算法出現(xiàn)偏移、缺陷，也可能給臨床診療帶來巨大風(fēng)險(xiǎn)，甚至造成重大醫(yī)療事故。以ＩＢＭ Ｗａｔｓｏｎ ｆｏｒ Ｏｎｃｏｌｏｇｙ 為例，據(jù) ＩＢＭ 內(nèi)部公司文件，其應(yīng)用程序經(jīng)常產(chǎn)生「不安全和不正確」的診療建議。例如，Ｗａｔｓｏｎ 曾向一名 ６５ 歲伴有嚴(yán)重出血風(fēng)險(xiǎn)的肺癌患者開「貝伐珠單抗」，而該藥的副作用之一就是出血。
此外，在一項(xiàng)針對(duì)「胸痛」的病因診斷試驗(yàn)中，Ｗａｔｓｏｎ 僅提供了「某種極少見的傳染病」的診斷建議，而漏診了心絞痛、心肌梗塞及大動(dòng)脈破裂等常見「胸痛」疾病。
已開始大量進(jìn)入臨床的醫(yī)療機(jī)器人，可能帶來的風(fēng)險(xiǎn)也不容忽視。最典型的例子是英國(guó)首例「達(dá)·芬奇」機(jī)器人心臟手術(shù)致死案，據(jù)后期調(diào)查，手術(shù)失敗的主要原因在于機(jī)器人縫合心臟的位置和方式不對(duì)，主刀醫(yī)生必須拆線并重新縫合，該醫(yī)生事后也承認(rèn)并沒有完全掌握機(jī)器的操作方法。
處方權(quán)合規(guī)風(fēng)險(xiǎn)同樣不容忽視。鄧勇指出，根據(jù)《互聯(lián)網(wǎng)診療監(jiān)管細(xì)則（試行）》及各地相關(guān)規(guī)定，嚴(yán)禁使用人工智能自動(dòng)生成處方。然而，在實(shí)際的互聯(lián)網(wǎng)診療中，存在諸多亂象，如平臺(tái)醫(yī)生信息錯(cuò)誤、虛假資質(zhì)難以認(rèn)定，部分平臺(tái)無處方、病歷、檢查報(bào)告就開具藥品，網(wǎng)紅醫(yī)生帶貨保健品，以及醫(yī)生誤診、過度依賴ＡＩ開出處方藥、泄露患者個(gè)人信息等問題屢見不鮮。
數(shù)據(jù)隱私風(fēng)險(xiǎn)也是ＡＩ醫(yī)療面臨的重要挑戰(zhàn)。鄧勇著重提到，醫(yī)療ＡＩ研發(fā)高度依賴海量醫(yī)療數(shù)據(jù)，在數(shù)據(jù)獲取、保管、分析和輸出的各個(gè)環(huán)節(jié)都存在隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)。使用者操作不當(dāng)、利益相關(guān)者出賣信息、間諜和黑客惡意竊取、數(shù)據(jù)系統(tǒng)維護(hù)不當(dāng)?shù)龋伎赡軐?dǎo)致數(shù)據(jù)泄露。
例如，中國(guó)信息通信研究院曾于２０２０年發(fā)布報(bào)告稱，近三成接受調(diào)查的醫(yī)療單位存在數(shù)據(jù)資產(chǎn)泄露的風(fēng)險(xiǎn)，４４．３９％（７０８０家）的受調(diào)査單位使用了有漏洞風(fēng)險(xiǎn)的低版本組件。據(jù)統(tǒng)計(jì)，僅２０２０年，我國(guó)通過網(wǎng)絡(luò)出境的醫(yī)學(xué)影像數(shù)據(jù)就達(dá)到４９７萬余次，涉及境內(nèi)３３４７個(gè)地址，其中未脫敏數(shù)據(jù)達(dá)近４０萬次。
鄧勇在直播中提到，醫(yī)療ＡＩ侵權(quán)責(zé)任主要分為手術(shù)機(jī)器人侵權(quán)責(zé)任和醫(yī)療診斷系統(tǒng)侵權(quán)責(zé)任。
手術(shù)機(jī)器人侵權(quán)責(zé)任又可細(xì)分為硬件缺陷侵權(quán)和軟件缺陷侵權(quán)。對(duì)于硬件缺陷導(dǎo)致的患者損害，可適用《民法典》第１２２３條規(guī)定的缺陷醫(yī)療器械侵權(quán)責(zé)任，患者有權(quán)向生產(chǎn)者或醫(yī)療機(jī)構(gòu)請(qǐng)求賠償；對(duì)于軟件缺陷造成的損害，由于軟件不屬于傳統(tǒng)意義上的「產(chǎn)品」，不能直接適用上述條款，但可依據(jù)《民法典》一般過錯(cuò)侵權(quán)責(zé)任，要求生產(chǎn)商承擔(dān)責(zé)任。
醫(yī)療診斷系統(tǒng)侵權(quán)責(zé)任的認(rèn)定更為復(fù)雜，核心問題在于算法的不透明和不可預(yù)見性，使得傳統(tǒng)過錯(cuò)責(zé)任理論難以直接適用。當(dāng)醫(yī)療診斷系統(tǒng)出現(xiàn)預(yù)測(cè)錯(cuò)誤，造成患者損害時(shí)，現(xiàn)行法律并未明確規(guī)定其責(zé)任歸屬，存在法律漏洞。
在鄧勇看來，醫(yī)療 ＡＩ 診斷系統(tǒng)視在臨床中的作用和地位更類似于會(huì)診醫(yī)師，其相似性主要體現(xiàn)在以下兩方面：
第一，根據(jù)我國(guó)《醫(yī)院工作制度與人員崗位職責(zé)》，「凡遇疑難病例，應(yīng)及時(shí)申請(qǐng)會(huì)診」。我國(guó)法律未對(duì)何為「疑難病」作出界定，但根據(jù)醫(yī)學(xué)界通識(shí)，凡大多數(shù)醫(yī)務(wù)人員對(duì)診治都感到困難的疾病，均可稱為「疑難病」。目前，醫(yī)療ＡＩ診斷系統(tǒng)主要提供腫瘤患者的治療選擇方案，其所涉病種符合「疑難病」的范圍。
第二，從目前醫(yī)療ＡＩ診斷系統(tǒng)的功能來看，其是向主治提供疑難病癥的咨詢意見，不與患者直接交流，更不能獨(dú)立采取治療措施，與患者之間不產(chǎn)生直接的醫(yī)患關(guān)系。會(huì)診醫(yī)師在對(duì)疑難病進(jìn)行討論時(shí)，也僅是根據(jù)主治醫(yī)師所提供的病歷資料、檢查信息等從自己專業(yè)角度提出建議。醫(yī)療機(jī)構(gòu)為了提高自身的診療水平和節(jié)約人力物力成本，在明知醫(yī)療診斷系統(tǒng)可能存在誤診的情形下，應(yīng)通過實(shí)施會(huì)診制度等措施來盡量避免其可能產(chǎn)生的不良后果。
雖然，醫(yī)療機(jī)構(gòu)不可能評(píng)估黑箱醫(yī)療算法的實(shí)質(zhì)性準(zhǔn)確性，但卻可以而且應(yīng)該被要求采取適當(dāng)?shù)闹?jǐn)慎來評(píng)估程序質(zhì)量。若未采取積極措施而導(dǎo)致誤診發(fā)生，就與「醫(yī)療機(jī)構(gòu)自身有管理過錯(cuò)」并無二樣，皆屬于醫(yī)療機(jī)構(gòu)由于疏忽或者懈怠而未能履行管理規(guī)范或者管理職責(zé)、造成患者人身損害之情形。
對(duì)此，可類推適用《民法典》第１２１８條規(guī)定，由醫(yī)療機(jī)構(gòu)承擔(dān)管理過錯(cuò)責(zé)任。
掃碼▽即可獲取完整回放和思維導(dǎo)圖
報(bào)名成為ＡＩ講師，加入ＡＩ主題社群
規(guī)避 ＡＩ 醫(yī)療應(yīng)用法律風(fēng)險(xiǎn)
醫(yī)院應(yīng)該采取哪些關(guān)鍵舉措
鄧勇提到，醫(yī)院在使用醫(yī)療ＡＩ時(shí)，明確其輔助性本質(zhì)至關(guān)重要，應(yīng)建立人機(jī)協(xié)同的診療新范式。在技術(shù)定位上，ＡＩ作為提升醫(yī)療效率的智能工具而非獨(dú)立決策主體，不能取代醫(yī)務(wù)人員的臨床核心決策地位。具體實(shí)施路徑包括：
一、建立分層應(yīng)用體系：
基礎(chǔ)層：在影像預(yù)判環(huán)節(jié)，明確ＡＩ僅執(zhí)行初步篩選功能，要求系統(tǒng)對(duì)疑似異常結(jié)果標(biāo)注置信度評(píng)級(jí)。病歷結(jié)構(gòu)化錄入需設(shè)置人工復(fù)核節(jié)點(diǎn)，確保關(guān)鍵信息（如過敏史、手術(shù)史）１００％人工確認(rèn)。建立ＡＩ操作日志管理系統(tǒng)，完整記錄系統(tǒng)介入時(shí)間、操作內(nèi)容及輸出結(jié)果。
決策層：由主治醫(yī)師對(duì)ＡＩ建議進(jìn)行二次驗(yàn)證與臨床決策，包括：與患者臨床表現(xiàn)的匹配度分析、循證醫(yī)學(xué)證據(jù)支持度核查、治療方案可行性評(píng)估。對(duì)于重大手術(shù)或復(fù)雜病例，建立多學(xué)科會(huì)診制度，將ＡＩ建議納入會(huì)診討論材料。
管理層：通過ＡＩ質(zhì)控系統(tǒng)監(jiān)測(cè)診療全流程規(guī)范性。有條件的可以每月生成《ＡＩ應(yīng)用質(zhì)量報(bào)告》，作為科室考核依據(jù)。
技術(shù)缺陷責(zé)任方面：
（１） 要求供應(yīng)商提供《系統(tǒng)可靠性承諾書》
（２） 在采購(gòu)合同中明確故障響應(yīng)時(shí)間與賠償標(biāo)準(zhǔn)
臨床決策責(zé)任方面：
（１） 建立電子簽名追溯系統(tǒng)，確保每項(xiàng)ＡＩ建議都有醫(yī)師確認(rèn)記錄
（２） 對(duì)連續(xù)出現(xiàn)決策失誤的醫(yī)師啟動(dòng)能力復(fù)評(píng)程序
系統(tǒng)運(yùn)維責(zé)任方面：
（１） 制定《ＡＩ系統(tǒng)日常維護(hù)規(guī)程》，明確備份頻率與災(zāi)難恢復(fù)機(jī)制
（２） 建立運(yùn)維事件登記制度，重大故障２４小時(shí)內(nèi)上報(bào)院領(lǐng)導(dǎo)
完善倫理審查機(jī)制：
成立跨學(xué)科ＡＩ倫理委員會(huì)，涵蓋醫(yī)學(xué)、法學(xué)、倫理學(xué)專家
定期評(píng)估ＡＩ系統(tǒng)對(duì)醫(yī)患關(guān)系、診療公平性的影響
二、明確ＡＩ的輔助定位，建立「雙重確認(rèn)」機(jī)制是規(guī)避法律風(fēng)險(xiǎn)的核心防線：
１． 流程標(biāo)準(zhǔn)化：
制定《ＡＩ輔助診療操作規(guī)范》，明確ＡＩ建議必須經(jīng)過「醫(yī)師復(fù)核－臨床驗(yàn)證－簽字確認(rèn)」三步驟；
對(duì)急診等特殊場(chǎng)景設(shè)置復(fù)核時(shí)間閾值（如３０分鐘內(nèi)完成二次確認(rèn)）。
２． 責(zé)任界定規(guī)則：
醫(yī)師未復(fù)核直接采用ＡＩ建議視為重大過失；
ＡＩ系統(tǒng)持續(xù)誤判未被發(fā)現(xiàn)追究科室管理責(zé)任。
３． 風(fēng)險(xiǎn)預(yù)警系統(tǒng)：
部署決策偏離度監(jiān)測(cè)模塊，當(dāng)ＡＩ建議與臨床常規(guī)差異超過設(shè)定閾值時(shí)觸發(fā)警示；
建立誤判案例回溯機(jī)制，定期更新ＡＩ系統(tǒng)知識(shí)庫(kù)。
三、完善知情同意制度，知情同意書革新需體現(xiàn)ＡＩ技術(shù)特征：
１． 內(nèi)容要素：
明確告知ＡＩ參與的具體環(huán)節(jié)（如影像分析、用藥建議等）
說明ＡＩ系統(tǒng)的局限性及可能存在的誤判概率
列明數(shù)據(jù)使用范圍及隱私保護(hù)措施
２． 簽署形式：
開發(fā)電子知情同意系統(tǒng)，支持多媒體說明（動(dòng)畫演示、案例視頻）
設(shè)置知識(shí)測(cè)試環(huán)節(jié)確保患者真正理解內(nèi)容
３． 動(dòng)態(tài)更新機(jī)制：
ＡＩ系統(tǒng)版本升級(jí)后需重新簽署補(bǔ)充協(xié)議
對(duì)高風(fēng)險(xiǎn)診療項(xiàng)目設(shè)置二次確認(rèn)流程
四、強(qiáng)化數(shù)據(jù)安全管理，構(gòu)建分級(jí)防護(hù)體系：
１． 數(shù)據(jù)分類管理：
一級(jí)數(shù)據(jù)（生物特征、基因信息）：采取「物理隔離」的方式為宜
二級(jí)數(shù)據(jù)（診療記錄）：采取「動(dòng)態(tài)脫敏＋區(qū)塊鏈存證」 的方式為宜
三級(jí)數(shù)據(jù)（科研數(shù)據(jù)）：需要遵守科研數(shù)據(jù)管理的相應(yīng)規(guī)定
２． 技術(shù)防護(hù)措施：
部署醫(yī)療專用防火墻，建立ＡＩ操作「沙箱環(huán)境」
采用零信任架構(gòu)，所有數(shù)據(jù)訪問需多重身份驗(yàn)證
３． 協(xié)議管理機(jī)制：
與供應(yīng)商簽訂《數(shù)據(jù)安全承諾書》，明確違約賠償條款
要求第三方機(jī)構(gòu)每年提供安全審計(jì)報(bào)告
五、優(yōu)化責(zé)任保險(xiǎn)方案：
醫(yī)院可以采取多種措施。如果醫(yī)院資金實(shí)力允許，可以按照ＡＩ診療收入的比例提取專項(xiàng)賠償基金，建立先行賠付機(jī)制，保障患者權(quán)益，也可以與保險(xiǎn)公司合作開發(fā)ＡＩ醫(yī)療責(zé)任險(xiǎn)，設(shè)置浮動(dòng)保費(fèi)機(jī)制，與系統(tǒng)準(zhǔn)確率掛鉤，在現(xiàn)有的醫(yī)療責(zé)任險(xiǎn)中增設(shè)ＡＩ診療附加條款，覆蓋系統(tǒng)故障與算法誤判風(fēng)險(xiǎn)。
六、組織人員培訓(xùn)：
醫(yī)院可以采取「三維案例體系」建設(shè)：首先精選典型判例，選取ＡＩ誤診賠償、數(shù)據(jù)泄露追責(zé)、知情同意瑕疵等具有代表性的司法案例，制作《ＡＩ醫(yī)療法律風(fēng)險(xiǎn)案例集》，每個(gè)案例包含案情概要、爭(zhēng)議焦點(diǎn)、法院裁判要旨及改進(jìn)建議四部分。其次創(chuàng)新教學(xué)形式，開發(fā)互動(dòng)式案例研討平臺(tái)，設(shè)置虛擬法庭模塊供醫(yī)務(wù)人員角色扮演，在模擬訴訟中理解舉證責(zé)任分配規(guī)則；建立「案例即時(shí)推送」機(jī)制，當(dāng)醫(yī)院引入新ＡＩ系統(tǒng)時(shí)，自動(dòng)關(guān)聯(lián)相似案例進(jìn)行預(yù)警教學(xué)。
再者構(gòu)建分析框架，采用「四步分析法」：
①識(shí)別案例中的法律事實(shí)；
②解構(gòu)涉事主體的過錯(cuò)形態(tài)；
③分析責(zé)任承擔(dān)的法律依據(jù)；
④提煉臨床實(shí)踐改進(jìn)要點(diǎn)，通過結(jié)構(gòu)化思維訓(xùn)練培養(yǎng)法律風(fēng)險(xiǎn)預(yù)判能力。
醫(yī)務(wù)人員應(yīng)對(duì)ＡＩ
也要有法律思維
針對(duì)網(wǎng)友感興趣的話題，鄧勇教授進(jìn)行了線上作答。
健康界網(wǎng)友：當(dāng)ＡＩ輔助診斷結(jié)果與醫(yī)生臨床經(jīng)驗(yàn)出現(xiàn)分歧時(shí)，醫(yī)生該如何權(quán)衡并決策，同時(shí)避免法律風(fēng)險(xiǎn)？
鄧勇：醫(yī)生要充分發(fā)揮主觀能動(dòng)性，嚴(yán)格依據(jù)《醫(yī)師法》行使權(quán)利。
首先，謹(jǐn)慎評(píng)估ＡＩ結(jié)果，從數(shù)據(jù)質(zhì)量、算法性能、系統(tǒng)局限性等方面判斷其可信度。
其次，充分結(jié)合自身臨床經(jīng)驗(yàn)，回顧患者病史、進(jìn)行體格檢查并結(jié)合臨床癥狀綜合判斷。
再者，安排補(bǔ)充檢查，如基因檢測(cè)、影像檢測(cè)等，并動(dòng)態(tài)觀察患者病情變化。此外，還可借助多學(xué)科團(tuán)隊(duì)協(xié)作，組織會(huì)診、病例討論，咨詢專家意見。
最重要的是加強(qiáng)與患者的溝通，堅(jiān)守職業(yè)資質(zhì)和處方權(quán)原則，向患者解釋分歧原因，避免誤解。同時(shí)，規(guī)范診療記錄，詳細(xì)注明決策理由，為醫(yī)療決策提供有力證據(jù)，降低法律風(fēng)險(xiǎn)。
健康界網(wǎng)友：對(duì)于培訓(xùn)醫(yī)務(wù)人員識(shí)別和應(yīng)對(duì)ＡＩ醫(yī)療應(yīng)用法律風(fēng)險(xiǎn)的方式，除案例教學(xué)外，還有哪些途徑？
鄧勇：模擬演練是其中之一，設(shè)置模擬醫(yī)療場(chǎng)景，融入ＡＩ應(yīng)用可能出現(xiàn)的法律風(fēng)險(xiǎn)，讓醫(yī)務(wù)人員分別扮演醫(yī)生、患者、律師等角色，在模擬診療和糾紛處理過程中提升應(yīng)對(duì)能力。專家講座也必不可少，邀請(qǐng)人工智能醫(yī)療ＡＩ合規(guī)風(fēng)控領(lǐng)域的法律專家、律師以及醫(yī)療糾紛處理專家舉辦講座，從不同角度提供專業(yè)知識(shí)和實(shí)踐指導(dǎo)。
醫(yī)院也可以組織相關(guān)人員到優(yōu)秀的醫(yī)療ＡＩ或醫(yī)療大模型企業(yè)實(shí)地考察調(diào)研，了解其工作原理、潛在問題及風(fēng)控措施。此外，經(jīng)典短劇表演也值得嘗試，通過內(nèi)部人員扮演不同角色進(jìn)行情景演練，對(duì)診療過程提出質(zhì)疑并改進(jìn)，提升醫(yī)務(wù)人員運(yùn)用醫(yī)療ＡＩ的能力。
健康界網(wǎng)友：當(dāng)ＡＩ的診斷結(jié)果被用作醫(yī)療糾紛案件中的證據(jù)時(shí)，其證明力和可信度應(yīng)如何認(rèn)定？
鄧勇：這需綜合多方面因素考量并滿足一定條件。認(rèn)定因素包括ＡＩ系統(tǒng)的可靠性，即技術(shù)原理科學(xué)合理、算法經(jīng)過嚴(yán)格驗(yàn)證和同行評(píng)審；數(shù)據(jù)質(zhì)量要有足夠規(guī)模、多樣性和準(zhǔn)確性，并標(biāo)注可靠度。同時(shí)，要實(shí)現(xiàn)ＡＩ系統(tǒng)及其結(jié)果的可解釋性，保障透明度，醫(yī)生需參與審查并做好人機(jī)協(xié)作記錄。
滿足的條件包括符合法定程序，數(shù)據(jù)獲取合法合規(guī)，不侵犯患者隱私，證據(jù)收集和保存符合醫(yī)療規(guī)范與法律要求。還可借助專業(yè)鑒定機(jī)構(gòu)對(duì)ＡＩ系統(tǒng)和診斷結(jié)果進(jìn)行鑒定，與其他醫(yī)療記錄、證人證言等證據(jù)相互驗(yàn)證，并通過法庭質(zhì)證、辯論以及專家輔助人出席來查明事實(shí)，將傳統(tǒng)證據(jù)規(guī)則與醫(yī)療ＡＩ技術(shù)相結(jié)合，進(jìn)行全面看待和應(yīng)對(duì)。
注：文章來源于網(wǎng)絡(luò)，如有侵權(quán)，請(qǐng)聯(lián)系刪除
