2017年12月，一個(gè)星期五的晚上,，倫敦醫(yī)療應(yīng)用開(kāi)發(fā)商Babylon Health的創(chuàng)始人Ali Parsa，與自家的醫(yī)生坐下來(lái)進(jìn)行了一次交流,。這位出生于伊朗的前銀行家，依靠該公司的高評(píng)分應(yīng)用,，為Babylon融資了8500萬(wàn)美元,。這款應(yīng)用可以讓英國(guó)患者快速與醫(yī)生進(jìn)行視頻會(huì)診。在英國(guó),，國(guó)營(yíng)醫(yī)療保健為每個(gè)公民提供了高質(zhì)量的醫(yī)療服務(wù),，但是卻要耗費(fèi)很長(zhǎng)時(shí)間等候門(mén)診,。這款應(yīng)用的出現(xiàn)改變了這一局面。

　　現(xiàn)在,，Parsa希望通過(guò)添加一款人工智能聊天機(jī)器人,，來(lái)進(jìn)一步提高效率和降低成本。Parsa承諾,，該聊天機(jī)器人可以在沒(méi)有人類互動(dòng)的情況下,，就常見(jiàn)疾病提供診斷建議。Babylon的應(yīng)用用戶將于12月享受到這款全新機(jī)器人的服務(wù),。在未來(lái)某個(gè)時(shí)候,，英國(guó)國(guó)家健康服務(wù)機(jī)構(gòu)（NHS）的患者也將享受到相應(yīng)的服務(wù)。但問(wèn)題是,，根據(jù)這些醫(yī)生的交流,，機(jī)器人給出的建議經(jīng)常是錯(cuò)誤的。

　　據(jù)一名現(xiàn)任和前任工作人員稱,，為了證明他們的觀點(diǎn),，醫(yī)生們花了大約一天時(shí)間，主動(dòng)進(jìn)行了一次審計(jì),。據(jù)一位知情人士稱,，他們發(fā)現(xiàn)，聊天機(jī)器人給出的100個(gè)最常見(jiàn)的結(jié)果中,，約有10％至15％的結(jié)果,，錯(cuò)過(guò)了更嚴(yán)重疾病的警告信號(hào)，或者完全就是錯(cuò)誤的,。這些臨床醫(yī)生周五直接向Parsa進(jìn)行了匯報(bào),，希望推遲新的發(fā)布。他們提出了自己的理由,，經(jīng)過(guò)一番談判，他同意推遲發(fā)布,。

　　但是醫(yī)生們?nèi)匀桓械嚼_,。對(duì)現(xiàn)任和前任Babylon工作人員以及外部醫(yī)生的采訪顯示，他們普遍擔(dān)心該公司匆忙部署了未經(jīng)仔細(xì)審查的軟件,，并夸大了其有效性,。

　　根據(jù)一位外部醫(yī)生展示的電子郵件，2018年4月,，一家英國(guó)廣告監(jiān)管機(jī)構(gòu)要求Babylon刪除其網(wǎng)站上的一項(xiàng)聲明,，該聲明宣稱其分流功能能夠100％的給出安全建議。該機(jī)構(gòu)同時(shí)援引了一項(xiàng)關(guān)于這一聲明的“獨(dú)立研究”,。但是根據(jù)Babylon自己在2016年發(fā)表的研究論文,，這項(xiàng)研究來(lái)自一次內(nèi)部測(cè)試,，在測(cè)試中，它雇傭了專業(yè)演員扮成病人,，并按照劇本進(jìn)行流程,。

　　在那次周五會(huì)議后的六個(gè)月，Parsa在倫敦皇家醫(yī)學(xué)院舉行了一場(chǎng)盛大的直播活動(dòng),，宣布Babylon的新軟件——人工智能驅(qū)動(dòng)的聊天機(jī)器人——已經(jīng)達(dá)到了“全球醫(yī)療第一”的水平,。Babylon展示了機(jī)器人在醫(yī)學(xué)檢查中的得分高于人類醫(yī)生的平均得分，并聲稱人工智能已經(jīng)達(dá)到了人類醫(yī)生的“同等準(zhǔn)確度”,。當(dāng)時(shí),，多家媒體報(bào)道了這一成就。

　　布朗大學(xué)生物醫(yī)藥信息學(xué)教授Hamish Fraser表示,，這一聲明是有問(wèn)題的,。他在英國(guó)主要醫(yī)學(xué)雜志《柳葉刀》最近的一篇文章中反駁了Babylon的聲明。他指出,，Babylon的軟件只回答了50個(gè)檢查問(wèn)題中的15個(gè),，并被允許對(duì)每個(gè)問(wèn)題給出三個(gè)答案?！爱?dāng)醫(yī)生做這個(gè)測(cè)試時(shí),，你會(huì)得到一個(gè)正確的答案，”他說(shuō),。Babylon表示,，它沒(méi)有試圖證明人工智能比醫(yī)生更好，Parsa也退出了這篇文章的預(yù)定采訪,。

　　人工智能還沒(méi)有發(fā)展到可以替代（甚至可靠地協(xié)助）人類醫(yī)生的程度,，這一點(diǎn)可能不足為奇。而傲慢的科技企業(yè)家對(duì)他們的產(chǎn)品進(jìn)行過(guò)高的宣傳,，也并不是什么新現(xiàn)象,。這一切都不太重要，但是Babylon與英國(guó)國(guó)家醫(yī)療服務(wù)機(jī)構(gòu)簽訂了兩份合同,。英國(guó)國(guó)家醫(yī)療服務(wù)機(jī)構(gòu)是世界上最大的國(guó)有醫(yī)療系統(tǒng)之一,。Babylon的GP At Hand應(yīng)用向3．5萬(wàn)名NHS患者提供了視頻通話支持，并可以讓其訪問(wèn)分流聊天機(jī)器人,，以獲得是否就醫(yī)的建議,。NHS還鼓勵(lì)200萬(wàn)公民使用NHS 111： Online——一款由Babylon開(kāi)發(fā)的應(yīng)用，主要用來(lái)代替NHS咨詢熱線,。工作人員表示,，NHS還沒(méi)有使用Babylon的診斷建議聊天機(jī)器人，但該公司已經(jīng)討論過(guò)將這一功能引入NHS應(yīng)用中,。

　　NHS的動(dòng)機(jī)很明確,，也很簡(jiǎn)單：它既想省錢,，也想為病人帶來(lái)更好的健康結(jié)果。2020年,，英國(guó)將在國(guó)家醫(yī)療系統(tǒng)上花費(fèi)近2000億美元,，相當(dāng)于GDP的7％。自1950年以來(lái),，這一占比已經(jīng)翻了一番,，因此英國(guó)迫切需要找到一種方法來(lái)控制成本，同時(shí)仍能提供被視為英國(guó)社會(huì)契約核心的福利,。

　　減少急診室就診似乎是很合邏輯的,，因?yàn)槊看尉驮\平均花費(fèi)NHS 200美元。在過(guò)去的一年里,，NHS為此總共花費(fèi)了40億美元,，而由于至少有150萬(wàn)英國(guó)人在不需要的時(shí)候也會(huì)去急診室，導(dǎo)致候診時(shí)間不斷增加,。如果Babylon的聊天機(jī)器人效果很好,，將會(huì)對(duì)節(jié)省成本有很大的幫助。

　　但是,，人們質(zhì)疑該軟件的有效程度,。Babylon的一名工作人員稱，早期和當(dāng)前版本的聊天機(jī)器人,，在大約30％的情況下會(huì)建議用戶去急診室,；相比之下，撥打國(guó)家健康咨詢熱線111的人大約只有20％,。不清楚有多少病人接受了聊天機(jī)器人的建議,，Babylon表示自己并沒(méi)有跟蹤這些數(shù)據(jù)。

　　即使在診斷建議聊天機(jī)器人最終被修復(fù),，并于2018年1月發(fā)布給Babylon私人應(yīng)用用戶之后,，一些Babylon醫(yī)生仍然對(duì)他們沒(méi)有看到開(kāi)發(fā)過(guò)程中更嚴(yán)格的改革而感到擔(dān)憂。而在公司外部,，發(fā)現(xiàn)的問(wèn)題數(shù)量也越來(lái)越多,。6月，一名正在Babylon應(yīng)用上測(cè)試新診斷聊天機(jī)器人的英國(guó)醫(yī)生發(fā)現(xiàn)了一個(gè)錯(cuò)誤：它錯(cuò)過(guò)了一個(gè)肺栓塞的癥狀,。他在Twitter上發(fā)布了一段視頻，并向醫(yī)療監(jiān)管機(jī)構(gòu)MHRA進(jìn)行了投訴,。根據(jù)該醫(yī)生分享的電子郵件和私人Twitter消息,，這至少是他在過(guò)去一年半中第三次投訴聊天機(jī)器人軟件。據(jù)Babylon內(nèi)部消息來(lái)源稱,，被MHRA記錄為事故的一些錯(cuò)誤,，直到2018年11月,，仍然存在于內(nèi)置聊天機(jī)器人的健康應(yīng)用上。MHRA以保密為由不予置評(píng),。

　　Babylon表示,，MHRA要求其調(diào)查這些投訴，但“隨后沒(méi)有基于安全相關(guān)的理由展開(kāi)正式調(diào)查”,。當(dāng)被問(wèn)及MHRA記錄的錯(cuò)誤時(shí),，Babylon堅(jiān)持認(rèn)為“任何臨床概率分析都不可能總是正確的”，并且“即使非常有經(jīng)驗(yàn)的醫(yī)生有時(shí)也會(huì)錯(cuò)誤地診斷”,。

　　而在這一切正在發(fā)生的過(guò)程中,，Babylon成功地將自己推銷為醫(yī)療系統(tǒng)過(guò)度擴(kuò)張的數(shù)字藥膏。該公司最大的粉絲之一是英國(guó)衛(wèi)生部長(zhǎng)Matt Hancock,，他最近在一份由Babylon贊助的報(bào)紙副刊中宣稱,，他“因使用這款GP at Hand應(yīng)用而出名”。

　　Babylon應(yīng)用的海報(bào)經(jīng)常出現(xiàn)在倫敦地鐵上,。據(jù)Parsa稱,，該公司正在預(yù)訂數(shù)千萬(wàn)美元的收入，包括與NHS簽訂的GP at Hand合同（預(yù)計(jì)290萬(wàn)美元）和NHS 111合作伙伴的收入,。NHS England的發(fā)言人和Hancock沒(méi)有回應(yīng)置評(píng)請(qǐng)求,。

　　一名前工作人員表示，Babylon軟件的最大缺陷之一是缺乏真實(shí)的臨床評(píng)估和跟蹤,。使用聊天機(jī)器人的人真的去過(guò)急診室嗎,？如果他們看了醫(yī)生，那診斷是什么,？一名前員工表示：“目前還沒(méi)有找到能夠提供答案的系統(tǒng),。”Babylon表示,，其GP at Hand應(yīng)用在用戶使用聊天機(jī)器人24小時(shí)后會(huì)向他們發(fā)送信息,。據(jù)一名用戶稱，應(yīng)用會(huì)詢問(wèn)更多癥狀,。

　　軟件是通過(guò)迭代開(kāi)發(fā)的,。開(kāi)發(fā)人員構(gòu)建了一個(gè)應(yīng)用并將其發(fā)布，在不同的實(shí)時(shí)用戶群體上測(cè)試它,，并在前進(jìn)的過(guò)程中不斷重復(fù),。這種硅谷心態(tài)，曾經(jīng)被馬克·扎克伯格總結(jié)為“行動(dòng)迅速,，打破現(xiàn)狀”,。但是開(kāi)發(fā)新藥或醫(yī)療器械需要一種更慎重的方法，因?yàn)榛颊叩纳菓叶礇Q的。Babylon尚未在同行評(píng)審的醫(yī)學(xué)雜志上發(fā)表任何研究成果,，而這一過(guò)程往往也是需要時(shí)間的,。

　　該公司的首席醫(yī)療官M(fèi)obasher Butt堅(jiān)持認(rèn)為，在市場(chǎng)上部署之前,，Babylon“經(jīng)歷了臨床醫(yī)生對(duì)產(chǎn)品許多許多輪的嚴(yán)格測(cè)試,。”該公司承認(rèn)它沒(méi)有進(jìn)行醫(yī)學(xué)研究,，并稱未來(lái)進(jìn)行醫(yī)院研究時(shí),，它會(huì)在醫(yī)學(xué)雜志上進(jìn)行發(fā)表。

　　對(duì)Babylon人工智能的擔(dān)憂指出了醫(yī)療系統(tǒng)與科技初創(chuàng)公司合作時(shí)可能會(huì)出現(xiàn)的困難,。雖然Babylon已經(jīng)將自己定位為一家醫(yī)療保健公司,，但它的運(yùn)營(yíng)似乎更像硅谷的初創(chuàng)公司。一名工作人員說(shuō),，“公司的重點(diǎn)是快速構(gòu)建并推出”,，并補(bǔ)充說(shuō)，Parsa喜歡和員工談?wù)摗疤右菟俣取?。短語(yǔ)“快速構(gòu)建”出現(xiàn)在至少一名Babylon工作人員的電子郵件簽名下,。該公司內(nèi)部的醫(yī)生甚至在解決安全問(wèn)題時(shí)也很難讓人們聽(tīng)到他們的聲音，而現(xiàn)任和前任工作人員表示,，數(shù)據(jù)科學(xué)家被視為搖滾明星,，不過(guò)他們表示，過(guò)去12個(gè)月,，情況已經(jīng)開(kāi)始好轉(zhuǎn),。

　　Babylon稱這些斷言為“誹謗”，并指出定期審查的舉報(bào)政策和專用電子郵件地址是其“安全第一文化”的關(guān)鍵,。它宣稱,，員工“有義務(wù)將任何問(wèn)題正式提交給當(dāng)局”。一名現(xiàn)任和前任員工表示,，他們不知道有舉報(bào)電子郵件系統(tǒng),。

　　盡管一些醫(yī)生很謹(jǐn)慎，但Parsa還是因其堅(jiān)韌不拔的精神和宏偉的愿景而受到倫敦科技界的推崇,，認(rèn)為他將“把方便和負(fù)擔(dān)得起的醫(yī)療服務(wù)帶給地球上的每一個(gè)人”,。對(duì)許多人來(lái)說(shuō)，這是一種令人耳目一新的企業(yè)家精神,，在謙遜的英國(guó)你并不總是能找到這種精神,。Parsa的故事令人鼓舞，他出生在伊朗的Ali Parsadoust,，父母是中產(chǎn)階級(jí),，17歲時(shí)為了逃避革命，作為難民來(lái)到英國(guó)。他自學(xué)英語(yǔ),，然后進(jìn)入了高中和倫敦最負(fù)盛名的大學(xué)，在那里他發(fā)表了工程物理學(xué)博士論文,，并積極參與到學(xué)生政治中,。雖然他的職業(yè)生涯建立在投資銀行業(yè)，但他的心始終關(guān)注著社會(huì)正義,。

　　將他的社會(huì)烏托邦本能與商業(yè)結(jié)合起來(lái)并不總是奏效,。2003年，Parsa通過(guò)共同創(chuàng)建一個(gè)名為Circle Health的“社會(huì)企業(yè)”,，進(jìn)入了醫(yī)療保健領(lǐng)域,。然后在2011年，Parsa通過(guò)獲得一份合同,，成為第一家接管國(guó)有醫(yī)院的私營(yíng)公司,，而創(chuàng)造了歷史。這家醫(yī)院是位于劍橋郡的Hinchingbrooke Hospital,。Circle做出了削減成本的崇高承諾,，包括在10年交易中，可以為NHS節(jié)省超過(guò)4．95億美元,。Parsa于2012年退出,，當(dāng)時(shí)該公司仍處于債務(wù)之中。2015年,，Circle保釋了這一合同,。審計(jì)人員表示，他的出價(jià)“過(guò)于樂(lè)觀”,。Parsa離開(kāi)Circle一年后,，創(chuàng)辦了Babylon，并最終再次與NHS簽訂了重要合同,。

　　為了鞏固這種關(guān)系,，并為擴(kuò)大到更多患者奠定技術(shù)基礎(chǔ)，Parsa正在雇傭軟件工程師,。它最近承諾投資1億美元進(jìn)一步開(kāi)發(fā)他的人工智能,。

　　但是，為醫(yī)療保健構(gòu)建人工智能可能需要進(jìn)一步反思Babylon技術(shù)的設(shè)計(jì)方式,。簡(jiǎn)而言之,，它的診斷引擎是基于一套復(fù)雜的規(guī)則。這些規(guī)則由臨床醫(yī)生決定,，并在電腦中輸入一系列癥狀的概率,。隨著規(guī)則數(shù)量的增加，軟件做出決策的路徑變得更加復(fù)雜和難以改變。那么,，你如何讓這樣的聊天機(jī)器人變得更聰明呢,？一種方法是提高其語(yǔ)言能力。另一個(gè)是改進(jìn)支撐它的診斷引擎,?！叭绻鸅abylon擁有醫(yī)療記錄，他們可能會(huì)更準(zhǔn)確,，”Action．AI首席執(zhí)行官John Taylor表示,。AcTIon．AI是一家倫敦初創(chuàng)公司，幫助公司構(gòu)建聊天機(jī)器人,。

　　AI醫(yī)療保健,烏托邦本能與商業(yè)結(jié)合難奏效

　　為了更好地診斷,，我們需要訓(xùn)練軟件深入了解反饋回路：在一個(gè)人描述自己的癥狀，然后去看醫(yī)生,，接受x光檢查,，并有可能接受進(jìn)一步治療后，會(huì)發(fā)生什么,？Babylon表示,，它可以訪問(wèn)健康改善網(wǎng)絡(luò)研究數(shù)據(jù)庫(kù)，該數(shù)據(jù)庫(kù)包含不可識(shí)別的患者數(shù)字記錄,，但目前尚未向監(jiān)管機(jī)構(gòu)請(qǐng)求訪問(wèn)醫(yī)療記錄,。

　　對(duì)于Babylon來(lái)說(shuō)，要實(shí)現(xiàn)用更智能的技術(shù)提高醫(yī)療保健提供商效率的愿景,，它可能需要在更多的患者記錄上訓(xùn)練算法,。為此，它需要繼續(xù)贏得監(jiān)管者和醫(yī)學(xué)界的信任,。