今年年初，被喻為海外“醫(yī)生版ChatGPT”的“OpenEvidence”估值超過百億，成為全球醫(yī)療AI領(lǐng)域標(biāo)桿。國內(nèi)外賽道上，跨國科技巨頭、藥企、創(chuàng)新企業(yè)紛紛入局。當(dāng)各類醫(yī)療AI產(chǎn)品層出不窮，看似為就醫(yī)帶來便利的同時(shí)，有市政協(xié)委員提出質(zhì)疑：對普通患者而言，什么樣的醫(yī)療AI值得信賴？它給出的建議會(huì)不會(huì)有“幻覺”、靠不靠譜？醫(yī)療事關(guān)生命健康，可目前 醫(yī)療AI產(chǎn)品 在倫理、應(yīng)用安全等方面還存在灰色地帶。

上海市政協(xié)委員、復(fù)旦大學(xué)附屬口腔醫(yī)院院長蔣欣泉認(rèn)為，醫(yī)療AI必須設(shè)置安全底線，患者信息要規(guī)范脫敏，用循證醫(yī)學(xué)數(shù)據(jù)訓(xùn)練醫(yī)療AI，保證其提供的建議是安全的。此外，還要明確在醫(yī)療結(jié)構(gòu)內(nèi)，AI工具只是輔助作用，醫(yī)生才是主體責(zé)任人。

今年一月中旬，上海愛爾眼科醫(yī)院副院長李勇發(fā)了一條朋友圈，講述了自己的一位患者在白內(nèi)障手術(shù)后擅自停了必須滴的眼藥水，導(dǎo)致視力下降、角膜輕微褶皺。而一問原因，竟然是聽信了AI的說法。患者表示，AI說的“眼藥水有副作用”很在理。聽了這話，李醫(yī)生哭笑不得：“我問你為什么不相信醫(yī)生的話，而去相信AI？他說，AI是綜合了很多專家的意見，相信它是更權(quán)威的。我真的很無奈，只能和他說'求求你，這一次你先相信我’。”

李勇指出，所謂“眼藥水有副作用”是有前提條件的，比如長期使用含激素的眼藥水、或者患者本身有相關(guān)禁忌癥。而這名患者，在白內(nèi)障手術(shù)后的2周左右康復(fù)期內(nèi)使用抗炎和含激素眼藥水，符合臨床指南。擅自停用反而不利于傷口恢復(fù)。李勇認(rèn)為，AI會(huì)去網(wǎng)上捕捉能看到的所有信息，但它不會(huì)去分辨患者提問的真正意圖以及個(gè)人情況。

這樣的案例并非個(gè)例。上海市政協(xié)委員、復(fù)旦大學(xué)附屬口腔醫(yī)院院長蔣欣泉告訴記者，有患者認(rèn)為，AI生成的內(nèi)容等同于治療方案，這是錯(cuò)誤的。首先，社會(huì)公眾需要明確的是，當(dāng)前企業(yè)開放給公眾使用的AI工具，也叫開源、通用型AI，其生成的內(nèi)容是不能夠與醫(yī)院線下醫(yī)療時(shí)的臨床診斷和治療方案劃等號的。

上海市政協(xié)委員、復(fù)旦大學(xué)附屬口腔醫(yī)院院長蔣欣泉表示：“個(gè)別患者會(huì)誤將AI健康建議當(dāng)成診斷意見。 例如，我遇到過一位患者因?yàn)榭谇火つせ鹄崩钡?、舌根處長了包塊，于是用AI搜索自查，AI說有惡性腫瘤可能性，患者就非常焦慮和恐慌。當(dāng)他帶著忐忑的心情來到醫(yī)院就診后才發(fā)現(xiàn)，患上的只是黏液性囊腫。我們口腔診斷依賴視診、觸診、叩診、牙周探查等方法，而當(dāng)前通用型的AI健康助手往往是基于概率和文本匹配生成，缺乏醫(yī)學(xué)的嚴(yán)謹(jǐn)性和個(gè)體化考量?！?/span>

通用型AI的智能是文本游戲，通過全網(wǎng)爬取，組合文字信息 。而且它的知識往往停留在過去，跟不上最新的醫(yī)療發(fā)展。那么，有沒有懂醫(yī)學(xué)、會(huì)持續(xù)更新知識庫、能識別患者問題意圖的?？祁愥t(yī)學(xué)AI呢？

蔣欣泉委員介紹，其實(shí)上海有不少三甲醫(yī)院正在探索。比如，去年2月，復(fù)旦大學(xué)附屬中山醫(yī)院葛均波院士參與研發(fā)了國內(nèi)首個(gè)深耕心血管專科的醫(yī)療大模型——觀心大模型（測試版）。去年4月，仁濟(jì)醫(yī)院發(fā)布了國內(nèi)首個(gè)泌尿?qū)？艫I助手。更知名的是，去年11月，在浦江醫(yī)學(xué)人工智能大會(huì)亮相的上海首個(gè)“胃腸多模態(tài)醫(yī)學(xué)AI”。當(dāng)時(shí)，這款A(yù)I公開挑戰(zhàn)三甲醫(yī)生，結(jié)果在分析同一復(fù)雜病例后，胃腸多模態(tài)醫(yī)學(xué)AI與專家團(tuán)隊(duì)的判斷和治療建議總體不相上下。也就是說，專門訓(xùn)練的AI已經(jīng)達(dá)到了和三甲醫(yī)院胃腸外科副主任醫(yī)師相當(dāng)?shù)乃健?/span>

那么，這款一戰(zhàn)成名的AI現(xiàn)在怎么樣了，能用于臨床看病了嗎？今年2月1日，記者走進(jìn)了開發(fā)它的上海人工智能實(shí)驗(yàn)室，看到這款醫(yī)學(xué)AI目前仍在不斷測試，持續(xù)進(jìn)化。

“醫(yī)學(xué)數(shù)據(jù)團(tuán)隊(duì)的老師會(huì)把醫(yī)院的病例數(shù)據(jù)進(jìn)行規(guī)整化和質(zhì)檢質(zhì)控，使病例數(shù)據(jù)更加符合臨床的診療規(guī)范和真實(shí)情況?！?/span>上海人工智能實(shí)驗(yàn)室醫(yī)療與測評中心青年研究員張容肇，是該項(xiàng)目的技術(shù)負(fù)責(zé)人。他介紹，所謂“多模態(tài)”，就是這款A(yù)I既能讀懂病例，也會(huì)分析胃腸鏡報(bào)告、CT影像等等。與開源AI不同，專科AI了解患者病情，需要的語料是真正意義上的臨床病例?！?/span>可以看到我們給到模型的有性別、年齡、主訴以及現(xiàn)病史、既往史、婚育史、家族史等等。這一塊其實(shí)就對應(yīng)到醫(yī)生常說的'一訴五史'，也就是一個(gè)標(biāo)準(zhǔn)的結(jié)構(gòu)化病例的一些必要字段?！?/span>

而要教AI讀懂胃腸鏡報(bào)告，幾百份患者檢查報(bào)告“投喂”的背后，其實(shí)是大量的人工標(biāo)注、數(shù)據(jù)對齊以及人工審核、修訂工作。質(zhì)檢過程有三審制度，就是為了保證AI學(xué)習(xí)的影像報(bào)告是完全真實(shí)和準(zhǔn)確的?！?/span>第三級質(zhì)檢至少是三甲醫(yī)院副主任醫(yī)師水平的專家來做。通過了三級審查，才能保證給AI學(xué)習(xí)的數(shù)據(jù)不會(huì)有噪聲?！?/span>

這款“胃腸多模態(tài)醫(yī)學(xué)AI”是由上海人工智能實(shí)驗(yàn)與上海九院聯(lián)合研發(fā)，開發(fā)初心并不是為了取代醫(yī)生，也不是為了讓患者自己拿來看病，而是要幫助基層醫(yī)生提高診療能力，輔助醫(yī)生更好地梳理患者復(fù)雜的病史資料。上海人工智能實(shí)驗(yàn)室醫(yī)療和測評中心負(fù)責(zé)人徐捷表示：“即使未來，?？祁愥t(yī)學(xué)AI的能力能與主任醫(yī)師比肩，但業(yè)內(nèi)共識是，在醫(yī)療這個(gè)嚴(yán)肅場景下，醫(yī)學(xué)AI也只是工具作為醫(yī)生輔助，而不是去替代醫(yī)生?！?/span>

在蔣欣泉委員所在的復(fù)旦大學(xué)附屬口腔醫(yī)院，AI技術(shù)已經(jīng)融入了教學(xué)。通過“AI+虛擬仿真”，年輕醫(yī)生可以在虛擬環(huán)境中進(jìn)行高仿真度的臨床操作訓(xùn)練，加速成長。此外，醫(yī)院也已經(jīng)啟動(dòng)了國內(nèi)首個(gè)口腔修復(fù)領(lǐng)域的垂類醫(yī)學(xué)AI研發(fā) , 順利的話預(yù)計(jì)將在今年內(nèi)向藥監(jiān)部門遞交第三類醫(yī)療器械注冊證申請。

蔣欣泉委員表示，最好的AI醫(yī)療產(chǎn)品，一定是從臨床需求中“長”出來的，而不是在實(shí)驗(yàn)室里“造”出來的。此外，當(dāng)前對于生成式人工智能模型在醫(yī)院的落地到底應(yīng)該怎么做，目前也尚未明確。包括數(shù)據(jù)安全、倫理規(guī)范、內(nèi)容安全、模型安全等在內(nèi)，都有待更細(xì)化的行業(yè)指導(dǎo)方案出臺(tái)，為整個(gè)醫(yī)療AI行業(yè)健康發(fā)展保駕護(hù)航。

上海市政協(xié)委員、復(fù)旦大學(xué)附屬口腔醫(yī)院院長蔣欣泉：“從醫(yī)院管理者的角度我想呼吁，第一，深入臨床解決真問題。最好的AI醫(yī)療產(chǎn)品一定是從臨床需求中挖掘出來的，而不是在實(shí)驗(yàn)室里被造出來的。我呼吁AI企業(yè)、工程師們能更深入地走進(jìn)醫(yī)院，與一線醫(yī)生緊密合作，真正理解臨床的痛點(diǎn)、難點(diǎn)和工作流程，開發(fā)出真正好用、管用、醫(yī)生愛用的工具。另外，AI醫(yī)療是一個(gè)復(fù)雜的系統(tǒng)工程，希望共同努力推動(dòng)高質(zhì)量醫(yī)療數(shù)據(jù)集的開放共享，建立行業(yè)統(tǒng)一的技術(shù)標(biāo)準(zhǔn)和倫理規(guī)范，構(gòu)建一個(gè)開放、協(xié)作、規(guī)范、共贏的創(chuàng)新生態(tài)。確保AI浪潮真正地、可持續(xù)地造福于每一位患者，助力健康中國、健康上海的建設(shè)?！?/span>