上海“十五五”規(guī)劃建議指出，要推動(dòng)科技創(chuàng)新和產(chǎn)業(yè)創(chuàng)新深度融合。上海將人工智能與生物醫(yī)藥作為先導(dǎo)產(chǎn)業(yè)，明確強(qiáng)調(diào)AI在醫(yī)療等領(lǐng)域的深度應(yīng)用，為醫(yī)學(xué)AI的發(fā)展提供了堅(jiān)實(shí)的政策導(dǎo)向支撐。

年初，被喻為海外“醫(yī)生版ChatGPT”的“OpenEvidence”估值超過百億，成為全球醫(yī)療AI領(lǐng)域的標(biāo)桿。而國(guó)內(nèi)的這條賽道上，也是各類工具井噴式爆發(fā)，科技巨頭、藥企、創(chuàng)新企業(yè)紛紛入局。

眼下，醫(yī)學(xué)AI工具已經(jīng)覆蓋影像輔助診斷、臨床輔助決策、智能病理分析、智能手術(shù)介入、中醫(yī)AI工具、藥物研發(fā)與精準(zhǔn)醫(yī)療等場(chǎng)景。

層出不窮的醫(yī)學(xué)AI產(chǎn)品，卻也令人疑慮難消：AI醫(yī)生會(huì)不會(huì)出現(xiàn)大模型常見的“幻覺”？數(shù)據(jù)是否可靠安全？實(shí)操中有否有系統(tǒng)失控風(fēng)險(xiǎn)？

醫(yī)療事關(guān)健康和生命，一絲一毫不容輕忽。真人醫(yī)生靠幾年、幾十年積累經(jīng)驗(yàn)做診斷，AI醫(yī)生幾秒就出診斷是否靠譜？有政協(xié)委員就提出，目前，醫(yī)療AI產(chǎn)品在倫理、應(yīng)用安全等方面還存在灰色地帶。

前不久，上海愛爾眼科醫(yī)院副院長(zhǎng)李勇在朋友圈里，講述了一位患者在白內(nèi)障手術(shù)后擅自停滴眼藥水，導(dǎo)致視力下降、角膜出現(xiàn)輕微褶皺的案例。一問原因，是患者聽信了AI“眼藥水有副作用”的說法。這名患者還振振有詞：AI綜合了很多專家的意見，相信它更權(quán)威。

李勇醫(yī)生指出，所謂“眼藥水有副作用”是有前提條件的，比如長(zhǎng)期 使用含激素的眼藥水、或者患者本身有相關(guān)禁忌癥。但這名患者，應(yīng)當(dāng)按照臨床指南，在白內(nèi)障手術(shù)后2周左右的康復(fù)期內(nèi)，使用抗炎和含激素眼藥水，停用反而不利于傷口恢復(fù)。

李勇分析指出，AI會(huì)捕捉網(wǎng)上能看到的所有信息，但它不會(huì)分辨特定患者的癥狀和主訴，AI的建議是不能凌駕于醫(yī)囑之上的。

而這，并不是個(gè)例。上海市政協(xié)委員、復(fù)旦大學(xué)附屬口腔醫(yī)院院長(zhǎng)蔣欣泉提醒患者，當(dāng)前企業(yè)開放給公眾使用的通用型AI工具，生成的內(nèi)容，不能被用作 實(shí)際的臨床診斷和治療方案。

蔣欣泉也介紹了個(gè)別患者誤將AI健康建議當(dāng)成“診斷意見”的案例。一位患者因?yàn)榭谇火つせ鹄崩钡模喔L(zhǎng)了包塊，通過AI搜索自查，發(fā)現(xiàn)有惡性腫瘤的可能性，于是陷入了巨大的焦慮和恐慌。但當(dāng)他忐忑地去到醫(yī)院就診時(shí)才發(fā)現(xiàn)，患上的是只是黏液性囊腫?？谇辉\斷依賴視診、觸診、叩診、牙周探查等方法，當(dāng)前的AI助手，往往是基于概率或者是文本匹配生成，缺乏醫(yī)學(xué)的嚴(yán)謹(jǐn)性和個(gè)性化的考量。

簡(jiǎn)而言之，通用型AI的“智能”是通過全網(wǎng)爬取組合文字信息，網(wǎng)羅的知識(shí)也往往受搜索所限，存在一定的滯后。

AI在醫(yī)學(xué)領(lǐng)域的應(yīng)用已經(jīng)從概念走向?qū)嵺`，展現(xiàn)出巨大的潛力和價(jià)值。但實(shí)踐的道路并不平坦，數(shù)據(jù)安全、算法偏見、人機(jī)協(xié)同等問題亟待解決。醫(yī)學(xué)AI產(chǎn)品研發(fā)和落地的過程中也在應(yīng)用、理解、接受多樣化等方面存在偏差，產(chǎn)品統(tǒng)一交互、比較以及評(píng)價(jià)困難。此外，醫(yī)學(xué)AI在部署過程中還需要面對(duì)復(fù)雜的倫理挑戰(zhàn)。因此，建立科學(xué)完備的規(guī)范與標(biāo)準(zhǔn)體系，勢(shì)在必行。

然而，規(guī)范和標(biāo)準(zhǔn)的建立無法一蹴而就，就像AI大模型立足于海量規(guī)模的數(shù)據(jù)庫(kù)基礎(chǔ)上，醫(yī)學(xué)界在應(yīng)用AI技術(shù)方面的探索和創(chuàng)新，也在為行業(yè)的健康發(fā)展積累經(jīng)驗(yàn)。在上海，就有不少三甲醫(yī)院正探索“懂醫(yī)學(xué)、會(huì)更新知識(shí)庫(kù)、能識(shí)別患者問題意圖”的專科類醫(yī)學(xué)AI工具。

去年2月，復(fù)旦大學(xué)附屬中山醫(yī)院葛均波院士參與研發(fā)了國(guó)內(nèi)首個(gè)深耕心血管專科的醫(yī)療大模型測(cè)試版。去年4月，仁濟(jì)醫(yī)院發(fā)布了國(guó)內(nèi)首個(gè)泌尿?qū)？艫I助手。去年11月，則有上海首個(gè)“胃腸多模態(tài)醫(yī)學(xué)AI”在浦江醫(yī)學(xué)人工智能大會(huì)亮相，它公開挑戰(zhàn)三甲醫(yī)生，在分析同一復(fù)雜病例后，判斷和治療建議與專家團(tuán)隊(duì)總體相似。

目前，這款一戰(zhàn)成名的醫(yī)學(xué)AI工具，仍在不斷測(cè)試，持續(xù)進(jìn)化。上海人工智能實(shí)驗(yàn)室青年研究員張容肇介紹，醫(yī)學(xué)數(shù)據(jù)團(tuán)隊(duì)對(duì)病例實(shí)施規(guī)整化和質(zhì)檢質(zhì)控等操作，使病例更加符合臨床的診療規(guī)范和真實(shí)情況。

所謂“多模態(tài)”，就是這款A(yù)I工具既能讀懂臨床病例，也會(huì)分析胃腸鏡報(bào)告、CT影像等?！巴段埂苯o模型的有性別、年齡、主訴以及現(xiàn)病史、既往史、婚育史、家族史等“一訴五史”數(shù)據(jù)，這些是標(biāo)準(zhǔn)的結(jié)構(gòu)化病歷的必要字段。

要教會(huì)AI讀懂胃腸鏡報(bào)告，不僅要“投喂”幾百份患者檢查數(shù)據(jù)，還有大量的人工標(biāo)注、數(shù)據(jù)對(duì)齊和人工審核修訂，最后至少由副主任醫(yī)生水平的專家做終審，保證數(shù)據(jù)沒有“噪聲”。核心宗旨就是，確保AI學(xué)習(xí)的語(yǔ)料完全真實(shí)和準(zhǔn)確。而研發(fā)“胃腸多模態(tài)醫(yī)學(xué)AI”的初心，并不是為了取代醫(yī)生，或讓患者自己看病。

上海人工智能實(shí)驗(yàn)室青年科學(xué)家徐捷指出，AI發(fā)展到最后，能達(dá)到一些主任級(jí)別醫(yī)師的水平，但在醫(yī)療的嚴(yán)肅場(chǎng)景之下，它應(yīng)該是輔助的角色，而不是替代醫(yī)生的角色。

而在蔣欣泉委員所在的復(fù)旦大學(xué)附屬口腔醫(yī)院，AI已經(jīng)融入了教學(xué)。通過“AI+虛擬仿真”，年輕醫(yī)生可以在虛擬環(huán)境中接受高仿真度的臨床操作訓(xùn)練。此外，醫(yī)院已經(jīng)啟動(dòng)了口腔修復(fù)領(lǐng)域的垂類醫(yī)學(xué)AI研發(fā)，預(yù)計(jì)今年向藥監(jiān)部門遞交第三類醫(yī)療器械注冊(cè)證申請(qǐng)。

不過，生成式人工智能模型在醫(yī)院的落地規(guī)范目前還沒有明確。數(shù)據(jù)、內(nèi)容和模型的安全，以及倫理規(guī)范等，還有待更細(xì)化的行業(yè)指導(dǎo)方案出臺(tái)。

蔣欣泉委員強(qiáng)調(diào)，首先，要深入臨床解決真問題。最好的AI醫(yī)療產(chǎn)品，一定是從臨床需求中“長(zhǎng)”出來的，而不是在實(shí)驗(yàn)室里“造”出來的。呼吁AI企業(yè)、工程師們更深入地走進(jìn)醫(yī)院，與一線醫(yī)生緊密合作，真正理解臨床的痛點(diǎn)、難點(diǎn)和工作流程。其次，AI醫(yī)療是一個(gè)復(fù)雜的系統(tǒng)工程，希望共同努力，推動(dòng)高質(zhì)量醫(yī)療數(shù)據(jù)集的開放共享，建立行業(yè)統(tǒng)一的技術(shù)標(biāo)準(zhǔn)和倫理規(guī)范，構(gòu)建一個(gè)開放、協(xié)作、規(guī)范、共贏的創(chuàng)新生態(tài)。