隨著人工智能的快速發(fā)展，AI在醫(yī)療領域的應用也廣泛落地，引得跨國科技巨頭、藥企、創(chuàng)新企業(yè)紛紛入局。然而當各類醫(yī)療AI產(chǎn)品層出不窮，看似為就醫(yī)帶來便利的同時，也有不少人提出了質疑：什么樣的醫(yī)療AI值得信賴？它給出的建議會不會有“幻覺”、靠不靠譜？醫(yī)療診治事關生命健康，可目前醫(yī)療AI產(chǎn)品在倫理、應用安全等方面還存在灰色地帶。今年兩會，上海市政協(xié)委員蔣欣泉就關注到醫(yī)療AI的應用。

上個月，上海愛爾眼科醫(yī)院副院長李勇的一條朋友圈引發(fā)了熱議，一位患者在白內障手術后擅自停了必須滴的眼藥水，導致視力下降、角膜輕微褶皺，病人表示，是因為AI告訴它，眼藥水會有副作用。

“我說你為什么不相信醫(yī)生的話，而去相信AI？他說AI是綜合了很多專家的意見，我相信它是更權威的?！崩钣箩t(yī)生回憶道，“后來我就說，那我‘求求你’，這一次你先相信我。”他解釋，所謂眼藥水的副作用通常有特定前提，如長期使用含激素的眼藥水或患者有禁忌癥。術后短期使用是符合臨床指南的必要措施，擅自停用反而影響了傷口愈合。“AI它不會去分辨你真正的這個癥狀和主訴?！崩钣赂袊@。

對于AI在醫(yī)療領域的應用，市政協(xié)委員、復旦大學附屬口腔醫(yī)院院長蔣欣泉也長期關注，在他看來，當前公眾能使用到的AI工具，基本是通用型AI，通過在網(wǎng)上爬取過往信息來給出回應，但是每個個體的情況不同，病癥的癥狀也有差異，很容易差之毫厘，謬以千里。

蔣欣泉委員舉例說，曾有患者因口腔黏膜不適、舌根長包塊，通過AI自查后懷疑是惡性腫瘤，焦慮萬分?！搬t(yī)院就診后才發(fā)現(xiàn)，患上的只是黏液性囊腫。當前的AI健康助手往往是基于概率和文本匹配生成，缺乏醫(yī)學的嚴謹性和個體化考量?！?/p>

張文宏醫(yī)生也曾公開表示，拒絕把AI直接引入病例系統(tǒng)，當然，不是說完全不使用，而是必須要有成熟醫(yī)生來做最終判斷。“我是拒絕把AI引入我們醫(yī)生的日常生活，”他表示，“（使用AI）造成最大的一個問題，對疾病的診斷沒有經(jīng)過系統(tǒng)的訓練，他就不能鑒別AI對或者錯?！?/p>

事實上，有不少三甲醫(yī)院都有在各自探索研發(fā)一些?？祁惖尼t(yī)學AI。最出名的應該是去年11月亮相的上海首個“胃腸多模態(tài)醫(yī)學AI”，系統(tǒng)還公開和三甲醫(yī)生進行了一次挑戰(zhàn)。時隔兩個月，上海人工智能實驗室的項目負責人張容肇表示，目前這款AI，仍在通過大量投喂真實臨床病例，做測試優(yōu)化，而“投喂”的患者檢查，其實都已經(jīng)是經(jīng)過大量的人工標注、數(shù)據(jù)對齊和人工審核、修訂工作，來保證AI學習的語料的準確性。

“至少是副主任醫(yī)生水平的專家來做最后的一個終審，如果這個時候發(fā)現(xiàn)沒有問題了，OK，才能保證它的數(shù)據(jù)不會有一種‘噪聲’。”張容肇強調。

上海人工智能實驗室介紹，開發(fā)這款AI，是希望它能幫忙醫(yī)生做病例初篩，幫著分析胃腸鏡報告、CT影像等等，但絕不是為了取代醫(yī)生，“我覺得AI即使發(fā)展到最后，能達到一些主任級別醫(yī)師的這個水平，在醫(yī)療這個嚴肅場景之下，它也應該是輔助的一個角色，而不是替代的一個角色?！鄙虾Ｈ斯ぶ悄軐嶒炇仪嗄昕茖W家徐捷說。

蔣欣泉委員表示生成式人工智能模型在醫(yī)院的落地到底應該怎么做，目前還沒有明確規(guī)矩，數(shù)據(jù)安全、倫理規(guī)范、內容安全等，都有待更細化的行業(yè)指導方案出臺，來為整個醫(yī)療AI行業(yè)健康發(fā)展保駕護航。但能肯定的是，AI醫(yī)療產(chǎn)品，需要聚焦臨床痛點來做研發(fā)，來協(xié)助醫(yī)生篩選讀片等，而不是鼓勵讓不具備充足醫(yī)療知識的患者用來據(jù)此自行下診斷。

“最好的AI醫(yī)療產(chǎn)品，一定是從臨床需求中‘長’出來的，而不是在實驗室里‘造’出來的。”蔣欣泉委員建議，“呼吁AI企業(yè)工程師們能更深入地走進醫(yī)院，與一線醫(yī)生緊密合作，推動高質量醫(yī)療數(shù)據(jù)集的開放共享，建立行業(yè)統(tǒng)一的技術標準和倫理規(guī)范，確保AI浪潮真正地、可持續(xù)地造福于每一位患者?！?/p>

AI在醫(yī)療領域的角色，必須設置安全底線，患者信息要規(guī)范脫敏，用循證醫(yī)學數(shù)據(jù)訓練醫(yī)療AI，保證其提供的建議是安全的。只有厘清人機協(xié)作邊界，讓技術真正賦能醫(yī)療，才能守護好老百姓的生命健康。