隨著人工智能的快速發(fā)展，AI在醫(yī)療領(lǐng)域的應(yīng)用也廣泛落地，引得跨國(guó)科技巨頭、藥企、創(chuàng)新企業(yè)紛紛入局。然而當(dāng)各類(lèi)醫(yī)療AI產(chǎn)品層出不窮，看似為就醫(yī)帶來(lái)便利的同時(shí)，也有不少人提出了質(zhì)疑：什么樣的醫(yī)療AI值得信賴？它給出的建議會(huì)不會(huì)有“幻覺(jué)”、靠不靠譜？醫(yī)療診治事關(guān)生命健康，可目前醫(yī)療AI產(chǎn)品在倫理、應(yīng)用安全等方面還存在灰色地帶。今年兩會(huì)，上海市政協(xié)委員蔣欣泉就關(guān)注到醫(yī)療AI的應(yīng)用。

上個(gè)月，上海愛(ài)爾眼科醫(yī)院副院長(zhǎng)李勇的一條朋友圈引發(fā)了熱議，一位患者在白內(nèi)障手術(shù)后擅自停了必須滴的眼藥水，導(dǎo)致視力下降、角膜輕微褶皺，病人表示，是因?yàn)锳I告訴它，眼藥水會(huì)有副作用。

“我說(shuō)你為什么不相信醫(yī)生的話，而去相信AI？他說(shuō)AI是綜合了很多專(zhuān)家的意見(jiàn)，我相信它是更權(quán)威的?！崩钣箩t(yī)生回憶道，“后來(lái)我就說(shuō)，那我‘求求你’，這一次你先相信我?！彼忉?zhuān)^眼藥水的副作用通常有特定前提，如長(zhǎng)期使用含激素的眼藥水或患者有禁忌癥。術(shù)后短期使用是符合臨床指南的必要措施，擅自停用反而影響了傷口愈合?！癆I它不會(huì)去分辨你真正的這個(gè)癥狀和主訴?！崩钣赂袊@。

對(duì)于AI在醫(yī)療領(lǐng)域的應(yīng)用，市政協(xié)委員、復(fù)旦大學(xué)附屬口腔醫(yī)院院長(zhǎng)蔣欣泉也長(zhǎng)期關(guān)注，在他看來(lái)，當(dāng)前公眾能使用到的AI工具，基本是通用型AI，通過(guò)在網(wǎng)上爬取過(guò)往信息來(lái)給出回應(yīng)，但是每個(gè)個(gè)體的情況不同，病癥的癥狀也有差異，很容易差之毫厘，謬以千里。

蔣欣泉委員舉例說(shuō)，曾有患者因口腔黏膜不適、舌根長(zhǎng)包塊，通過(guò)AI自查后懷疑是惡性腫瘤，焦慮萬(wàn)分?！搬t(yī)院就診后才發(fā)現(xiàn)，患上的只是黏液性囊腫。當(dāng)前的AI健康助手往往是基于概率和文本匹配生成，缺乏醫(yī)學(xué)的嚴(yán)謹(jǐn)性和個(gè)體化考量?！?/p>

張文宏醫(yī)生也曾公開(kāi)表示，拒絕把AI直接引入病例系統(tǒng)，當(dāng)然，不是說(shuō)完全不使用，而是必須要有成熟醫(yī)生來(lái)做最終判斷。“我是拒絕把AI引入我們醫(yī)生的日常生活，”他表示，“（使用AI）造成最大的一個(gè)問(wèn)題，對(duì)疾病的診斷沒(méi)有經(jīng)過(guò)系統(tǒng)的訓(xùn)練，他就不能鑒別AI對(duì)或者錯(cuò)?！?/p>

事實(shí)上，有不少三甲醫(yī)院都有在各自探索研發(fā)一些專(zhuān)科類(lèi)的醫(yī)學(xué)AI。最出名的應(yīng)該是去年11月亮相的上海首個(gè)“胃腸多模態(tài)醫(yī)學(xué)AI”，系統(tǒng)還公開(kāi)和三甲醫(yī)生進(jìn)行了一次挑戰(zhàn)。時(shí)隔兩個(gè)月，上海人工智能實(shí)驗(yàn)室的項(xiàng)目負(fù)責(zé)人張容肇表示，目前這款A(yù)I，仍在通過(guò)大量投喂真實(shí)臨床病例，做測(cè)試優(yōu)化，而“投喂”的患者檢查，其實(shí)都已經(jīng)是經(jīng)過(guò)大量的人工標(biāo)注、數(shù)據(jù)對(duì)齊和人工審核、修訂工作，來(lái)保證AI學(xué)習(xí)的語(yǔ)料的準(zhǔn)確性。

“至少是副主任醫(yī)生水平的專(zhuān)家來(lái)做最后的一個(gè)終審，如果這個(gè)時(shí)候發(fā)現(xiàn)沒(méi)有問(wèn)題了，OK，才能保證它的數(shù)據(jù)不會(huì)有一種‘噪聲’?！睆埲菡貜?qiáng)調(diào)。

上海人工智能實(shí)驗(yàn)室介紹，開(kāi)發(fā)這款A(yù)I，是希望它能幫忙醫(yī)生做病例初篩，幫著分析胃腸鏡報(bào)告、CT影像等等，但絕不是為了取代醫(yī)生，“我覺(jué)得AI即使發(fā)展到最后，能達(dá)到一些主任級(jí)別醫(yī)師的這個(gè)水平，在醫(yī)療這個(gè)嚴(yán)肅場(chǎng)景之下，它也應(yīng)該是輔助的一個(gè)角色，而不是替代的一個(gè)角色?！鄙虾Ｈ斯ぶ悄軐?shí)驗(yàn)室青年科學(xué)家徐捷說(shuō)。

蔣欣泉委員表示生成式人工智能模型在醫(yī)院的落地到底應(yīng)該怎么做，目前還沒(méi)有明確規(guī)矩，數(shù)據(jù)安全、倫理規(guī)范、內(nèi)容安全等，都有待更細(xì)化的行業(yè)指導(dǎo)方案出臺(tái)，來(lái)為整個(gè)醫(yī)療AI行業(yè)健康發(fā)展保駕護(hù)航。但能肯定的是，AI醫(yī)療產(chǎn)品，需要聚焦臨床痛點(diǎn)來(lái)做研發(fā)，來(lái)協(xié)助醫(yī)生篩選讀片等，而不是鼓勵(lì)讓不具備充足醫(yī)療知識(shí)的患者用來(lái)?yè)?jù)此自行下診斷。

“最好的AI醫(yī)療產(chǎn)品，一定是從臨床需求中‘長(zhǎng)’出來(lái)的，而不是在實(shí)驗(yàn)室里‘造’出來(lái)的。”蔣欣泉委員建議，“呼吁AI企業(yè)工程師們能更深入地走進(jìn)醫(yī)院，與一線醫(yī)生緊密合作，推動(dòng)高質(zhì)量醫(yī)療數(shù)據(jù)集的開(kāi)放共享，建立行業(yè)統(tǒng)一的技術(shù)標(biāo)準(zhǔn)和倫理規(guī)范，確保AI浪潮真正地、可持續(xù)地造福于每一位患者?！?/p>

AI在醫(yī)療領(lǐng)域的角色，必須設(shè)置安全底線，患者信息要規(guī)范脫敏，用循證醫(yī)學(xué)數(shù)據(jù)訓(xùn)練醫(yī)療AI，保證其提供的建議是安全的。只有厘清人機(jī)協(xié)作邊界，讓技術(shù)真正賦能醫(yī)療，才能守護(hù)好老百姓的生命健康。