近日,，商湯科技所提出「發(fā)展」的AI倫理觀,，從人的角度出發(fā)。與早期的「AI倫理」不同,，商湯所提出的發(fā)展AI倫理觀,，不僅強(qiáng)調(diào)對(duì)技術(shù)負(fù)面影響的約束，還強(qiáng)調(diào)人工智能對(duì)社會(huì)與個(gè)人的正向價(jià)值,。

更重要的是,，商湯認(rèn)為，在發(fā)展與落地人工智能技術(shù)的過程中,，「AI倫理」要考慮行業(yè)變革的飛快性,，在技術(shù)發(fā)展的不同階段采取不同治理框架，實(shí)現(xiàn)社會(huì)的發(fā)展平衡,。

簡而言之，就是：緊跟時(shí)代,，以人為本,，既要「揚(yáng)善」，也要「除惡」,。

01. AI治理的復(fù)雜性

近幾年,，隨著人工智能在日常生活中的不斷滲入，這項(xiàng)神奇的技術(shù)也逐漸向世人展示了自己的正邪兩面,。

先看「善」的一面,。

這兩年，新冠疫情爆發(fā),，被廣泛使用的無感測溫,、無感通行，便是基于感知識(shí)別的人工智能技術(shù),。嫁接于各個(gè)計(jì)算機(jī)軟硬件的AI技術(shù),，如智能圖像處理、便捷支付、對(duì)話機(jī)器人等等,，也極大地便利了人們的日常生活,。

舉個(gè)例子。此前商湯也研發(fā)智能避障眼鏡,，幫助視力障礙者在戶外行走時(shí)獲得交通信號(hào),、環(huán)境障礙物等語音提示，改善視障人士的生活,。

人工智能不僅在實(shí)際的應(yīng)用中帶來了極為直觀的價(jià)值,，在學(xué)術(shù)研究上也產(chǎn)生了令人矚目的影響。比如,，前段時(shí)間,，DeepMind用機(jī)器學(xué)習(xí)證明了兩大困擾人類科學(xué)家數(shù)十年的數(shù)學(xué)猜想，登頂Nature,。人工智能學(xué)家將AI與物理,、生物、化學(xué)等基礎(chǔ)研究相結(jié)合,、并取得卓越成果的例子亦不勝枚舉,。

但與此同時(shí)，由于深度學(xué)習(xí)算法的「黑盒子」特征,，以及人工智能系統(tǒng)在現(xiàn)實(shí)生活落地中所體現(xiàn)的不穩(wěn)定性,、不可控性等，誤用,、或?yàn)E用人工智能給人類社會(huì)帶來的傷害也不容小覷,。

在這樣的背景下，建立AI的倫理體系實(shí)為大勢所趨,。為了促進(jìn)AI技術(shù)的良性發(fā)展,，各方力量承擔(dān)起了不同的角色。比方說,，據(jù)聯(lián)合國統(tǒng)計(jì),，全球目前一共出臺(tái)了超過150份有關(guān)AI治理的報(bào)告方案，學(xué)術(shù)界也掀起了「可信AI」,、「負(fù)責(zé)任AI」與「AI向善」等多個(gè)新興話題的研究熱潮,。

那么，科技公司應(yīng)該如何承擔(dān)起AI可持續(xù)發(fā)展的責(zé)任,？作為AI產(chǎn)業(yè)的先行者,，商湯有自己的思考。

首先,，AI技術(shù)要不要發(fā)展,？答案無疑是肯定的,。正如商湯科技副總裁、商湯人工智能倫理委員會(huì)的主席楊帆所說：

「解決技術(shù)倫理最簡單直接的方法,，看起來似乎是不搞技術(shù)創(chuàng)新,，那么自然就不會(huì)存在數(shù)字科技的諸多問題。然而,，國家要發(fā)展,，社會(huì)要進(jìn)步，人們的生活質(zhì)量要改善,。前沿科技的發(fā)展對(duì)家,、國、天下都非常重要,。如果有顧慮就放棄發(fā)展,，就是因噎廢食?！?/p>

「技術(shù)發(fā)展與技術(shù)治理,，本身就是制約與平衡的關(guān)系，韁繩勒得太早,、勒得太死,，會(huì)制約技術(shù)的發(fā)展；在技術(shù)演進(jìn)的過程中,，適時(shí)地收一收繩子,、收住技術(shù)的底線和邊界，才能讓技術(shù)發(fā)展與應(yīng)用,，走得快,、走得遠(yuǎn)。如今,，AI已經(jīng)走出實(shí)驗(yàn)室,，隨著AI通用大裝置的日漸發(fā)展，機(jī)器猜想將帶給我們更多的可能,，倫理治理由此將更為重要?！?/p>

楊帆還表示：「沒有理論可以完美解釋技術(shù),，但我們要了解技術(shù)應(yīng)用的邊界。通過AI倫理治理,，既是規(guī)避AI技術(shù)的負(fù)面影響,，引導(dǎo)技術(shù)的正向發(fā)展，推動(dòng)公司與行業(yè)的可持續(xù)發(fā)展,；同時(shí),，這也是業(yè)內(nèi)領(lǐng)先公司,、以及所有AI從業(yè)者們所應(yīng)當(dāng)承擔(dān)的社會(huì)責(zé)任?！?/p>

從成立之初,，商湯的使命便一直沒有改變：堅(jiān)持原創(chuàng)，讓AI引領(lǐng)人類進(jìn)步,。也就是說,，在商湯將AI落地的過程中，AI的服務(wù)對(duì)象不應(yīng)該局限于一個(gè)特定的群體,，而應(yīng)該面向整個(gè)人類社會(huì),。

楊帆提出，AI治理是一個(gè)多目標(biāo),、多維度的平衡過程,。比如，防疫期間,，保護(hù)集體利益的目標(biāo)與尊重個(gè)人行程隱私的目標(biāo)要權(quán)衡,；健康碼快速人群分類進(jìn)行針對(duì)性防治與老年人數(shù)碼產(chǎn)品使用問題要權(quán)衡等等。

多維目標(biāo)的權(quán)衡,，意味著AI治理的難度在增加,。為此，商湯倫理委員會(huì)整理國際主流的治理觀點(diǎn),、以及產(chǎn)業(yè)一線的實(shí)踐經(jīng)驗(yàn),，提出了AI治理的三大核心：技術(shù)可控、以人為本與可持續(xù)發(fā)展,。具體來說,，每個(gè)核心的表現(xiàn)大約如下：

可持續(xù)發(fā)展：保護(hù)環(huán)境、保護(hù)和平,、包容共享,、開放協(xié)作、社會(huì)認(rèn)知,、敏捷治理……

以人為本：保護(hù)人權(quán),、保護(hù)隱私、人類可控,、公平無歧視,、造福人類……

技術(shù)可控：可驗(yàn)證、可審查,、合法性,、可信任、可解釋,、安全可靠,、公開透明,、負(fù)責(zé)任……

制度式的「技術(shù)可控」

值得注意的是，商湯科技在「AI倫理」的參與過程中,，不僅是停留在倡議或報(bào)告類的書面工作上,。商湯的「關(guān)鍵行動(dòng)」，是率先將「AI倫理」的治理工作貫徹在產(chǎn)品與業(yè)務(wù)的運(yùn)營過程中,，使之成為商湯企業(yè)管理中的一環(huán),。

2020年1月，商湯成立了人工智能倫理委員會(huì),，從企業(yè)的組織架構(gòu)上滲透「AI治理」的觀念,。

對(duì)內(nèi)，委員會(huì)審核商湯的所有落地產(chǎn)品線,，對(duì)員工進(jìn)行倫理通識(shí)培訓(xùn),，提高員工在日常工作中的倫理意識(shí)；對(duì)外,，與其他組織合作,，共同開展AI倫理的研究工作。

為了保證委員會(huì)所作決策的客觀與中立,，該倫理委員會(huì)有一條硬性規(guī)定,，即外部委員不能少于1/3的席位。

今年上半年,，該委員會(huì)上線了倫理審核系統(tǒng),，從實(shí)際的運(yùn)營「把關(guān)」中踐行了「技術(shù)可控」的核心AI治理原則。

該線上系統(tǒng)的設(shè)置,，結(jié)合參考了國內(nèi)外在技術(shù)倫理方面眾多的政策制度和研究成果,。審核體系從數(shù)據(jù)風(fēng)險(xiǎn)、算法風(fēng)險(xiǎn)與社會(huì)風(fēng)險(xiǎn)三大維度出發(fā),，設(shè)置十余個(gè)板塊,，近30道題目，從尊重人權(quán),、向善性,、無偏性、隱私保護(hù),、可靠性,、透明及可解釋性、問責(zé)性等等角度,，對(duì)項(xiàng)目進(jìn)行詳細(xì)拆解，考察其倫理水平,。

目前,，倫理審核已經(jīng)嵌入商湯立項(xiàng)審核流程,，進(jìn)行線上評(píng)審，并根據(jù)評(píng)分對(duì)被審核的產(chǎn)品進(jìn)行風(fēng)險(xiǎn)等級(jí)劃分,。對(duì)于倫理風(fēng)險(xiǎn)較高的產(chǎn)品,，該系統(tǒng)會(huì)予以駁回，提出中斷開發(fā),、下線或整改的要求,。若無法通過整改，則不予以立項(xiàng)上市,。

比如,，曾經(jīng)有「AI算命」的客戶提出用計(jì)算機(jī)視覺技術(shù)識(shí)別人體特征、手掌掌紋等信息,，自動(dòng)給出用戶的人生運(yùn)勢等預(yù)測。識(shí)別這些信息和特征,，技術(shù)上來說并不難，但這顯然不符合價(jià)值觀,，即使預(yù)見可以有所收益,，這樣的項(xiàng)目也無法立項(xiàng)成型,。

楊帆的看法是：「技術(shù)有所不為,，而后才能有所為,。」雖然一個(gè)高盈利的AI產(chǎn)品可能會(huì)因?yàn)轱L(fēng)險(xiǎn)問題被淘汰,、從而對(duì)公司營收會(huì)造成直接影響，但從長遠(yuǎn)的角度來看,，這是必要的。

目前,，這套系統(tǒng)已經(jīng)全面覆蓋商湯存量產(chǎn)品與新增申請(qǐng)立項(xiàng)產(chǎn)品,，形成了內(nèi)部的產(chǎn)品項(xiàng)目從立項(xiàng)、發(fā)布,、運(yùn)營全生命周期的倫理風(fēng)險(xiǎn)控制機(jī)制。倫理審核結(jié)果會(huì)伴隨產(chǎn)品研發(fā)和發(fā)布的全過程,，若發(fā)布階段產(chǎn)品有重大變化，則需要重新審核說明,。

據(jù)商湯披露，從該系統(tǒng)上線至今,，已有 10% 的產(chǎn)品被責(zé)令整改或下線；在對(duì)新增項(xiàng)目審核中,，有 5% 的項(xiàng)目被打回整改，或駁回立項(xiàng),，累計(jì)放棄價(jià)值數(shù)百萬的商業(yè)利益,。

「光有概念、有想法是不夠的,，AI倫理治理既需要高屋建瓴的指引原則,，也需要具體而微的評(píng)估指標(biāo)。系統(tǒng)的建立就是根據(jù)這些指標(biāo)維度建構(gòu)人工智能倫理風(fēng)險(xiǎn)評(píng)估體系,，將指標(biāo)具體化、操作化,，為企業(yè)的技術(shù)治理與風(fēng)險(xiǎn)管控提供支持?！箺罘硎荆?/p>

而在實(shí)踐中,，AI倫理管理系統(tǒng)，通過系統(tǒng)的方式將風(fēng)險(xiǎn)識(shí)別、評(píng)估,、處理、 監(jiān)控及匯報(bào)等各環(huán)節(jié)都進(jìn)行了覆蓋,，明確各產(chǎn)品全生命周期中各個(gè)主體的風(fēng)險(xiǎn)管控責(zé)任，讓技術(shù)可控有章可循,、有規(guī)可依、有據(jù)可查,。」

今年11月,，商湯因倫理方面前瞻性思考和實(shí)踐,，獲得了《哈佛商業(yè)評(píng)論》2021年度拉姆·查蘭管理實(shí)踐獎(jiǎng)。這也是國內(nèi)首個(gè)因?yàn)樵诩夹g(shù)倫理與治理方面的實(shí)踐而獲得的頂尖商學(xué)院媒體授予的企業(yè),。

03. 「發(fā)展」的AI倫理觀

「技術(shù)可控」并非目的,，而是手段,。

說到底，人工智能企業(yè)在技術(shù)創(chuàng)新中「有所不為」的最終目標(biāo),，不是為了停止人工智能技術(shù)的研究與創(chuàng)新,，而是以一種良性的、可持續(xù)的方式在現(xiàn)實(shí)生活中發(fā)展人工智能，緊跟時(shí)代需求,，使其為人類、為社會(huì)造福,。

今年,，在倫理審核之外，商湯也繼續(xù)保持其在人工智能技術(shù)上的創(chuàng)新,，推出AI大裝置等人工智能基礎(chǔ)設(shè)施,，「倫理治理」與「技術(shù)創(chuàng)新」雙管齊下，為行業(yè)做貢獻(xiàn),。

「無論是技術(shù)本身,、還是技術(shù)治理上，商湯都是開放而堅(jiān)定的長期主義者,。AI倫理治理是一個(gè)需要持續(xù)關(guān)注與投入的話題,。人工智能倫理的發(fā)展，需要多方合作,、共同探索?！?/p>

據(jù)了解,，目前，商湯科技已與清華大學(xué)人工智能國際治理研究院,、上海交通大學(xué)、上海人工智能實(shí)驗(yàn)室,、上海科學(xué)學(xué)所,、數(shù)據(jù)法盟等共10家機(jī)構(gòu)展開合作，圍繞敏捷治理,、數(shù)據(jù)安全、人工智能算法的可解釋性等方面開展聯(lián)合研究,，平均每年推動(dòng)五個(gè)專項(xiàng)課題的研究,，產(chǎn)出10+專項(xiàng)研究報(bào)告,。

當(dāng)越來越多力量參與其中,，「AI倫理」就不再只是一句口號(hào),，而會(huì)演化成實(shí)際的行動(dòng)，貫徹人工智能的發(fā)展始終,，最終推動(dòng)人工智能在人類社會(huì)的全面落地,。彼時(shí)，人類與AI才算得上是真正的「和諧共存」,。而這，也正是「發(fā)展」AI倫理觀的愿景所在,。