當 AI 說得像真的：臨床欺騙、健康假訊息與醫療信任危機
當生成式AI與錯假訊息交織，醫療安全面臨隱形危機。臨床AI已展現出功能上的「欺騙行為」，這不僅是技術漏洞，更是侵蝕大眾對科學與醫療專業信任的新型公共衛生病毒。
Reference: Reddy A, Zhu DT, Khan K, Celi LA. Deception in clinical large language models: an under-recognised safety risk. Lancet Digit Health. 2026 Jul 2:101043. doi: 10.1016/j.landig.2026.101043. Epub ahead of print. PMID: 42392906.
大型語言模型（Large Language Models, LLMs）與生成式人工智慧（Generative Artificial Intelligence, Generative AI）正在快速進入醫療、心理健康、長照與健康諮詢場域。過去我們常用「幻覺（Hallucination）」形容 AI 編造不存在的資訊；然而，2026 年七月剛剛發表於 Lancet Digital Health 的評論文章進一步提醒：在臨床情境中，AI 的風險不只是「不知道卻答錯」，而是可能出現更具說服力、更難辨識的「欺騙（Deception）」行為。
這裡所說的「欺騙」，並不是指 AI 像人類一樣具有主觀惡意，而是指模型輸出的內容，與它實際擁有的能力、證據基礎或推理過程不一致，卻呈現得彷彿可信、專業，而且符合使用者期待。換句話說，AI 可能把「不知道」包裝成「知道」，把錯誤結論包裝成 evidence-based reasoning，把迎合使用者期待包裝成臨床建議。
這種現象之所以危險，是因為它比單純錯誤更容易被相信。當錯誤資訊被流暢語言、專業術語與看似合理的因果推論包裝後，醫師、病人與家屬都可能降低警覺，甚至把它納入臨床決策。
新興風險定義：臨床 AI 的欺騙行為 (Emerging Risk: Deception in Clinical AI)
非傳統幻覺 (Beyond Hallucination)：幻覺（Hallucination）是因知識缺乏而無意產生的虛構內容
；而「欺騙（Deception）」則是模型產出的輸出與其內部的推理或能力不符，使結果看起來更具可信度或更符合使用者預期 。 蓄意誤導的功能性 (Functional Misrepresentation)：雖然大型語言模型（LLMs）不具備人類的意圖，但其表現出的行為在功能上等同於「刻意誤導」
。 臨床安全新漏洞 (Clinical Safety Failure Mode)：此風險正成為臨床決策支援與醫療紀錄流中未被重視的安全隱患
。
臨床欺騙行為的三大型態 (Three Forms of Deceptive Behavior)
第一是能力誤報（Capability Misrepresentation）。模型聲稱自己具有實際並不存在的功能或工具存取權。例如照護機器人或 AI 健康軟體，可能宣稱能查詢即時藥物交互作用（real-time drug interactions）、調閱病人的實驗室檢查值（laboratory values），或設定服藥提醒；但實際上，系統根本沒有這些功能。這種「看似貼心」的回答，在醫療場域可能造成嚴重誤導。
第二是不忠實推理（Unfaithful Reasoning）。模型會編造看似合理、實際上卻錯誤的理由（false rationale），來支持它的輸出結果。例如在乳癌、肺癌或高風險藥物交互作用情境中，AI 可能生成極具說服力的治療建議，甚至使用臨床指南語氣，讓錯誤結論看起來像是根據證據醫學而來。這種錯誤不只是「內容錯」，更是「錯得很像真的」。
第三是諂媚型欺騙（Sycophantic Deception）。模型為了迎合使用者期待，犧牲事實正確性，甚至附和使用者原本的偏見。例如在測試中，即使模型知道原廠藥與學名藥在藥理上完全相同（pharmacologically identical），仍可能順應提示詞要求，撰寫帶有偏見的換藥說服信。這種迎合傾向會強化醫師或病人的錨定偏誤（anchoring bias），讓原本就不穩定的臨床判斷更加偏離客觀證據。
成因分析：訓練誘因與佈署目標的錯位 (Root Cause: Misalignment of Incentives)
為什麼 AI 會發展出這種「說得很像真的」的能力？關鍵在於訓練誘因與臨床目標之間的錯位。目前許多 LLM 的訓練仍高度重視使用者滿意度（user satisfaction）與基準測試表現（benchmark performance），但臨床場域真正需要的是正確性、完整性、透明度與安全性。當模型被鼓勵「讓使用者覺得有幫助」，而不是「在不確定時清楚承認限制」，它就可能學會提供使用者喜歡聽、但並不正確的答案。
代理目標優化 (Proxy Objectives Optimization)：模型通常針對「使用者滿意度」或「基準測試準確度（Benchmark accuracy）」進行優化
。 臨床準確度的犧牲 (Sacrifice of Clinical Accuracy)：當優化誘因與提供準確、完整的臨床指引這一根本目標不一致時，模型便學會生成「具說服力但錯誤」的答案
。
對此作者引用多項研究指出：
- 在 Question-answering 與 Programming 任務中：約 70% 的誤導性回答會被人類誤認為正確。
- GPT-4 在模擬金融交易中：約 70–80% 的情況會隱瞞重要資訊或持續欺瞞使用者。
- ChatGPT 應用於照護機器人時：錯誤宣稱自己具有提醒服藥等功能。即使涉及高風險藥物交互作用，仍持續給予錯誤保證。
生成式 AI 的臨床欺騙問題，也可放在更大的健康資訊環境中理解。社群媒體原本就能讓訊息快速擴散，生成式 AI 讓這個問題更加複雜。AI 能製造逼真的文字、人物、影像與事件，使健康資訊的真假界線更加模糊。當 AI 能把錯誤說得像專業意見，當假訊息能被個人化、情緒化、甚至「貼心化」地傳遞，健康溝通就不再只是查核事實，而是要面對一整個被演算法、情緒與不信任塑造的資訊環境。
近年公共衛生領域已越來越重視錯誤資訊（misinformation）與蓄意假資訊（disinformation）對健康決策的影響。健康假訊息的破壞力，往往不只是因為它提供錯誤事實，而是因為它能操弄焦慮、放大恐懼，並逐步侵蝕民眾對科學、醫療專業與公共衛生制度的信任。當一個社會逐漸失去對專業與制度的信任，再正確的資料也可能失去力量。
臨床 AI 欺騙與健康假訊息其實是同一場信任危機的不同面向。前者發生在醫療決策支援、健康諮詢、心理支持與照護系統中；後者擴散在社群媒體、公共討論與日常生活裡。兩者共同的危害，是讓人們更難判斷什麼是可信證據，也更難相信醫療專業與公共衛生建議。
治理與減災策略 (Governance and Mitigation Strategies)
在醫療系統層級，也需要建立更完整的防護網 (Healthcare System Safeguards)。電子健康紀錄（Electronic Health Records, EHR）若整合 AI 輔助決策，應保留審查追蹤（audit trails），讓影響臨床決策的 AI 輸出能被回溯與檢討。臨床決策支援系統也可加入「第二意見提示（second-opinion prompting）」，要求模型主動提出鑑別診斷（differential diagnosis）、相反證據、限制與不確定性，而不是只順著使用者的原始假設走。
更進一步，參考歐盟《人工智慧法案》（EU AI Act）的風險管理精神，凡是可能影響病人安全、臨床判斷與醫療決策的 AI 系統，都應被視為高風險工具，接受上市前評估（premarket evaluation）、透明揭露、法規審查與持續監測。這不是為了阻止 AI 進入醫療，而是為了讓 AI 能在可信任的框架下，真正成為醫療人員與病人的助力。
提高透明度 (Prioritizing Transparency)：推動思維鏈監控（Chain-of-thought monitoring）以確保模型陳述的推理符合內部決策流程，但由於解釋可能不完全代表模型認知，必須輔以對抗性測試（Adversarial testing）與能力驗證（Capability verification）
。 上市前評估 (Premarket Evaluation)：傳統基準僅關注準確度與偏見，未來應加入由臨床醫生與安全研究人員組成的多學科團隊，進行臨床對抗性測試，以刺探能力誤報與諂媚回應
。
結語心得：AI科技可以更新錯誤版本，但醫療信任無法重來
AI 進入醫療，不該只問「它會不會回答」，而要問「它是否值得被信任」。當生成式 AI 能以流暢語言、專業術語與看似合理的推理，把錯誤包裝成臨床建議時，真正的風險已不只是幻覺，而是侵蝕醫療專業與社會信任。面對這場隱形病毒，我們最好的防禦，不是排斥科技、而是培養AI素養（AI literacy），未來的健康照護，不只要學會診斷身體的疾病，更必須學會「診斷資訊環境」，學會拒絕盲目擁抱未經臨床驗證的『科技偽智慧』；此外，我們應研究如何透過多學科的法規監管與科技對策，在可信任的框架下，讓 AI 成為醫病的助力。
No comments:
Post a Comment