標題: 攻擊成功率近乎完美，研究警告：醫療 AI 模型恐成病歷外洩新破口 [列印本頁] 作者: landrover1211 時間: 3 天前標題: 攻擊成功率近乎完美，研究警告：醫療 AI 模型恐成病歷外洩新破口
德國最新研究，醫療診斷用 AI 判別模型可能遭有心人士利用，反向推論某位病患的資料是否曾進入訓練資料庫，進而外洩病史、診斷結果與其他敏感身體資訊。
《Nature》期刊發表研究，團隊分析含醫療影像、心電圖（ECG）與一般電子病歷等七組醫療 AI 資料集，發現單一病患的「成員推論攻擊」（membership inference attack）成功率幾乎完美；這顯示目前以整體表現為主的隱私安全評估，未能充分反映個人層級的隱私外洩風險。
論文主要作者、慕尼黑工業大學（Technical University of Munich）醫療 AI 與醫學講座教授莫里茲‧克諾勒（Moritz Knolle）指出，資料越具特殊性，外洩風險就越高；尤其是訓練資料原本占比就偏低的少數族群，更容易成為鎖定目標。如種族、健保狀態、性別、影像取得流程或特定的疾病狀態，都可能成為讓個人更容易辨認出來的特徵。克諾勒表示，如果訓練資料遭反推，就可能間接洩露某人是否患有亨廷頓病（Huntington′s disease）等潛在遺傳性疾病、憂鬱症，或是否曾至特定專科醫療機構就診。
