Malpractice in the machine age: Legal and ethical responses to machine learning in medical imaging.

當醫學影像診斷導入黑盒子人工智慧後，臨床醫療過失的責任將分散至醫師、醫療機構與演算法開發者 3 方，現有法律框架難以判定缺乏透明推理的演算法決策是否符合醫療常規。隨著人工智慧與機器學習在醫學影像科的普及，從未經驗證工具的誤用，到忽略已驗證系統的提示，都可能構成法律上的疏失。本文深入探討醫學影像面臨的自動化偏誤現象、知情同意的風險揭露界線，以及歐盟 GDPR 與 AI Act 對資料品質與人類監督的最新監管要求。

醫療常規與 AI 導入後的雙向過失風險

人工智慧與機器學習（ML）技術正以前所未有的速度整合至診斷影像流程中，大幅提升了影像判讀的診斷準確性與工作效率。審視這些技術的廣泛採用，直接改變了法律與醫學界對「合理臨床實務」（reasonable clinical practice）的既有期望。以往仰賴純人工肉眼判讀的標準流程，在演算法介入後，逐漸轉變為人機協作的常態，這使得醫療常規的底線被重新定義。如果臨床從業人員未能跟上這波技術標準的提升，其面臨的潛在法律風險也將隨之改變。

針對醫療過失的潛在索賠，目前的發展趨勢呈現出兩種截然不同的風險情境。若臨床工作者在診斷過程中，未能使用已經過廣泛驗證且被公認為標準配置的 AI 系統而導致漏診，在法庭上極有可能被指控為未達到現今合理的醫療照護標準。相對地，倘若人員過度依賴尚未經過充分測試、或者在特定族群數據上表現不佳的輔助工具，進而做出錯誤的臨床決策，同樣會面臨嚴重的疏失指控。這種無論是「未使用」或「不當使用」所引發的雙重法律風險，正重塑著醫學影像領域的執業準則。

黑盒子演算法與醫療糾紛責任的分散

傳統的醫療過失法律框架，從根本上是建立在人類推理與邏輯思考的基礎之上。法院在審理醫療糾紛時，通常會邀請專家證人來檢視被告醫師的決策過程是否符合同儕在類似情況下會做出的合理判斷。然而，當決策主體加入了具備不透明特性的「黑盒子」（black box）模型時，這個基於人類認知的法律檢驗機制便顯得左支右絀。由於深度學習演算法無法清晰解釋其得出特定診斷結論的推理步驟，法院在評估 AI 輔助的診斷是否真正符合公認醫學標準時，面臨極大的困難。

觀察這類案件的責任歸屬，最大的不確定性來自於診斷責任的極度分散。以往單一的醫病關係，現在被拆解為臨床從業人員、負責採購與品管的醫療照護機構，以及設計與訓練該演算法的軟體開發商。當一起因 AI 誤判而導致的醫療傷害發生時，究竟是開發商在訓練數據中存在偏差、醫療機構未妥善驗證系統在本地端的適用性，還是臨床醫師未盡到最終把關的義務，法律上極難釐清這 3 方各自應承擔的責任比例。這種責任分散不僅使得病患求償無門，也讓臨床人員承受不成比例的法律壓力。

自動化偏誤與判讀技能退化的道德挑戰

探究黑盒子模型的運作機制，其最顯著的副作用之一是顯著加劇了臨床環境中的「自動化偏誤」（automation bias）。當系統穩定運作一段時間後，人類使用者會不自覺地傾向於完全信任機器的輸出結果，即使畫面上存在其他微妙的影像特徵暗示著系統可能出錯。這種過度依賴不僅阻礙了法律系統對醫療錯誤進行有效的審查，也使得專業問責制變得異常複雜，因為很難界定在特定案例中，人類醫師究竟保留了多少獨立判斷的能力。

將視角轉向更深層的倫理層面，AI 的介入帶來了不容忽視的專業挑戰。首當其衝的是對病患信任度的潛在威脅，當病患發現最終決定其診療方向的可能是一段程式碼而非主治醫師時，傳統醫病關係的信任基礎將受到動搖。此外，長期仰賴演算法圈選病灶，引發了對臨床醫師「技能退化」（clinician deskilling）的廣泛擔憂。若人員長期失去對原生未處理影像的敏銳度，一旦面臨系統停機或遇到演算法未曾見過的罕見病徵時，影像診斷的整體安全性將面臨重大危機。同時，AI 的介入也客觀上降低了臨床溝通的透明度。

判例法對 AI 知情同意與風險揭露的界定

知情同意（informed consent）作為醫療倫理與法律的核心支柱，在 AI 技術大規模應用的今天面臨著新的詮釋挑戰。檢視近期的相關判例法發展趨勢，法院傾向於認為，當 AI 的參與程度足以在醫療風險或最終治療結果上引入實質性的差異時，醫療機構就必須向病患進行明確的揭露。這意味著，如果某項演算法的使用可能會改變偽陽性率、後續侵入性檢查的機率，或者整體預後評估，病患有絕對的權利在事前獲知這項資訊。

儘管法理上的方向逐漸明朗，但在實際的臨床場域中，這項揭露原則的應用仍然極度不一致。部分機構可能將 AI 輔助視為常規工具而不特別告知，另一些機構則可能要求簽署繁瑣的同意書。這種缺乏統一標準的現況，不僅讓臨床人員在執行上感到困惑，也讓病患的知情權處於模糊地帶。如何在不引發病患過度恐慌的前提下，客觀且透明地說明機器學習在影像判讀中所扮演的角色，是當前臨床實務亟需解決的難題。

歐盟 GDPR 與 AI Act 的人類監督法規框架

因應快速擴張的演算法應用，全球監管機構開始著手建立更為嚴謹的治理框架，其中以歐盟的行動最具指標性。歐盟的《一般資料保護規則》（GDPR）已經針對自動化決策對資料主體權利的影響提出了基本規範，而近期推動的《人工智慧法案》（AI Act）更是明確將應用於醫療影像的 AI 系統歸類為高風險層級。這些法規倡議的核心目標，在於透過嚴格的法律條文，強制要求開發者與使用者必須確保極高的資料品質，並維持有效的治理架構。

仔細檢視歐盟法規的具體要求，強制性的「人類監督」（human oversight）成為確保系統安全運作的關鍵機制。法規要求任何高風險 AI 都不能完全脫離人類專家的控制，且必須建立完善的上市後監控（post-market monitoring）體系，以持續追蹤系統在真實臨床環境中的效能衰退或偏差。然而，儘管歐盟在法規層面邁出了重要一步，從全球範圍來看，針對 AI 醫療過失的明確法律指引依然處於發展不足的階段，多數國家的醫療從業人員仍缺乏堅實的法律後盾。

降低法律風險的臨床方案與教育訓練建議

面對傳統法律與倫理框架無法充分處理 AI 驅動診斷錯誤的現況，建立一套務實的臨床應對策略顯得至關重要。釐清責任歸屬、明確決策權限以及制定嚴格的本地端驗證要求，是保障病患安全與保護臨床從業人員免受不當訴訟的根本基礎。醫療機構不能僅依賴原廠的效能宣告，必須在實際導入前評估演算法與本地病患母體特徵的適配程度。

落實到日常運作的層次，各單位應制定詳盡的臨床作業流程（protocol）。這些規範必須明確指定哪些特定的臨床情境允許使用 AI 輔助、對操作人員的監督期望為何，以及如何在醫療紀錄中準確記載 AI 的參與程度。更關鍵的是，必須針對「臨床醫師與演算法意見分歧」（clinician-algorithm disagreement）的情況建立標準化的管理機制，確保每一次的人機衝突都有跡可循且經過合理裁決。同時，持續的教育訓練應致力於強化人員對 AI 輸出的批判性審查能力，唯有保持懷疑與獨立思考，才能有效抵禦自動化偏誤帶來的潛在危害。

醫療影像 AI 的法律究責牽涉醫師、機構與開發者三方，機構應明訂 AI 參與紀錄與意見分歧的處置流程，並強化人員批判性審查以防範自動化偏誤。