2024年9月29日，美國加利福尼亞州州長加文·紐森以“不應(yīng)只考慮模型成本和算力”,、“缺乏靈活解決方案”等為由否決了《CA SB1047前沿人工智能模型安全與創(chuàng)新法案》（以下簡稱《加州AI安全法案》）,。該法案一經(jīng)提出便備受爭議，此次法案被否決也反映出美國在AI立法中強(qiáng)調(diào)創(chuàng)新發(fā)展優(yōu)先的一貫傾向,。今年以來,，全球多個(gè)國家和地區(qū)加快構(gòu)建和完善AI治理框架，我國應(yīng)密切關(guān)注相關(guān)政策法規(guī)的進(jìn)展,，包容審慎地推進(jìn)AI監(jiān)管,，促進(jìn)AI技術(shù)創(chuàng)新與監(jiān)管的平衡發(fā)展。
《加州AI安全法案》的主要特征
《加州AI安全法案》自2024年2月經(jīng)加州議會起草,，經(jīng)歷了12輪修訂和審議,，9月被加州州長否決。該法案旨在監(jiān)管包括Google、Meta,、Anthropic和OpenAI等全球主要AI領(lǐng)先企業(yè),，內(nèi)容涵蓋設(shè)立新的監(jiān)管機(jī)構(gòu)、制定監(jiān)管大模型的標(biāo)準(zhǔn),、全流程的監(jiān)管要求及嚴(yán)格的行政處罰,，主要體現(xiàn)出以下五個(gè)特征。
明確的監(jiān)管主體,。法案明確將在政府內(nèi)部設(shè)立獨(dú)立于技術(shù)部的前沿模型委員會,，該委員會將負(fù)責(zé)動態(tài)更新模型監(jiān)管閾值、審計(jì)要求,、并提供安全指南等職能,。
前沿的監(jiān)管對象。法案將監(jiān)管訓(xùn)練成本高于1億美元,，訓(xùn)練期間使用達(dá)到10^26 FLOPS（浮點(diǎn)運(yùn)算）的超大規(guī)模AI模型?，F(xiàn)有大部分AI大模型尚未達(dá)到該門檻，但OpenAI,、谷歌和微軟等科技巨頭表示未來可能很快就會在大模型開發(fā)中突破該計(jì)算閾值,。
全流程的監(jiān)管要求。法案列出了AI企業(yè)應(yīng)當(dāng)遵守的各種關(guān)鍵測試和安全要求,，主要包括：在模型訓(xùn)練前的必須具備“可立即全面關(guān)閉能力”,，在模型使用或公開前應(yīng)開展安全測試與評估，在模型開發(fā)中應(yīng)每年開展保護(hù)措施,、安全保障等方面的評估,，在實(shí)際應(yīng)用中需聘請第三方審計(jì)師評估AI安全實(shí)踐。
嚴(yán)格的行政處罰,。違反法案規(guī)定的大模型開發(fā)者（包括個(gè)人）將會被提起民事訴訟,，賠償金額最高可達(dá)算力成本的30%；法院可以對出具虛假審計(jì)書的審計(jì)師,、違反信息記錄規(guī)則的云服務(wù)商處以最高5萬美元的罰款,。加州勞動用工監(jiān)管機(jī)構(gòu)則可以根據(jù)《勞工法典》起訴報(bào)復(fù)檢舉人的企業(yè)。
廣泛的影響力,。美國加州是全球50強(qiáng)AI公司中32家總部所在地,，擁有多家高影響力的研究和教育機(jī)構(gòu)，發(fā)表四分之一的AI相關(guān)專利和會議論文,。Crunchbase數(shù)據(jù)顯示,，2023年全球超過50%的AI風(fēng)險(xiǎn)投資資金都流向了總部位于美國加州的公司，加州無疑是全球AI創(chuàng)新和發(fā)展最主要的中心,。隨著AI技術(shù)的全球化發(fā)展,，《加州AI安全法案》的立法探索也引發(fā)了包括歐盟在內(nèi)眾多主要經(jīng)濟(jì)體的關(guān)注,，為各國探索AI監(jiān)管提供了經(jīng)驗(yàn)。
各界針對《加州AI安全法案》的主要分歧
《加州AI安全法案》一經(jīng)公布便引發(fā)了廣泛爭議,。加州的主要科技公司,、高校與研究機(jī)構(gòu)及加州眾議院的民主黨成員等均對法案表示強(qiáng)烈反對,，并多次公開呼吁抵制,。但同時(shí)，以埃隆·馬斯克為代表的科技領(lǐng)袖,、圖靈獎(jiǎng)得主Yoshua Bengio以及美國非盈利組織人工智能安全研究中心（CAIS）等則公開支持該法案,，認(rèn)為應(yīng)通過立法手段對技術(shù)發(fā)展進(jìn)行規(guī)制。綜合來看,，針對法案的主要分歧集中在AI立法的主導(dǎo)權(quán)競合,、AI模型的風(fēng)險(xiǎn)監(jiān)管標(biāo)準(zhǔn)設(shè)定及技術(shù)創(chuàng)新與監(jiān)管的平衡三個(gè)方面。
AI立法主導(dǎo)權(quán)的競合,。在美國聯(lián)邦層面,，拜登政府試圖改善AI監(jiān)管碎片化、地方化的困境,，但實(shí)際上美國國會AI立法屢次陷入僵局,。參議院多數(shù)黨領(lǐng)袖舒默在領(lǐng)導(dǎo)兩黨AI工作組經(jīng)過三個(gè)多月籌備討論后，也僅提出了一份類似“AI政策路線圖”的報(bào)告,，并表示“不應(yīng)追求單一的全面AI法案”,，與此前宣稱要推進(jìn)全面監(jiān)管AI的立法的態(tài)度大相徑庭。在美國州政府層面,，科羅拉多州率先通過首部全面AI監(jiān)管法案,，加州也積極跟進(jìn)開展AI立法探索，力圖通過州法案對聯(lián)邦立法產(chǎn)生積極影響,。加州州長加文·紐瑟姆直言,，在聯(lián)邦層面AI立法停滯不前的情況下，推動州立法是合理的,。然而,，以O(shè)penAI為首的科技企業(yè)則公開聲稱，企業(yè)已在內(nèi)部采取相應(yīng)的安全防護(hù)措施,，政府在聯(lián)邦層面實(shí)施AI安全監(jiān)管即可,。這一立場反映了加州科技企業(yè)的一貫態(tài)度，即否定州立法的必要性,，強(qiáng)調(diào)法律環(huán)境的復(fù)雜性可能增加企業(yè)的合規(guī)負(fù)擔(dān),，主張從聯(lián)邦層面制定統(tǒng)一的法律框架?？紤]到聯(lián)邦與州政府就AI立法的主導(dǎo)權(quán)競合關(guān)系,，美國AI監(jiān)管的進(jìn)程很可能呈現(xiàn)出縱向基于場景的AI立法先于“大而全”的AI橫向立法,、州立法先于聯(lián)邦立法的情況。
AI模型風(fēng)險(xiǎn)的監(jiān)管困境,。法案提出AI的監(jiān)管標(biāo)準(zhǔn)應(yīng)基于開發(fā)AI模型所需的成本和計(jì)算能力,，提前規(guī)避可能由AI引發(fā)的風(fēng)險(xiǎn)。支持者認(rèn)為,，AI可能會對人類構(gòu)成“毀滅性的打擊”,，應(yīng)為大型AI模型設(shè)定一系列監(jiān)管標(biāo)準(zhǔn)，促使行業(yè)更加重視安全性與合規(guī)性,。反對者則認(rèn)為,，“AI毀滅論者”夸大了技術(shù)威脅，不僅忽視了較小的,、專業(yè)化的模型可能帶來的風(fēng)險(xiǎn),，也未充分關(guān)注到深度偽造、虛假信息等已出現(xiàn)的安全問題,。此外,，加州州長加文 紐瑟姆在否決聲明中表示，加州需要主動采取防護(hù)措施來應(yīng)對AI風(fēng)險(xiǎn),，但法案沒有評估AI大模型是否被應(yīng)用于高風(fēng)險(xiǎn)領(lǐng)域,，而是對所有大型系統(tǒng)一概施加嚴(yán)格的標(biāo)準(zhǔn)，可能存在“一刀切”的監(jiān)管執(zhí)法情況,。由此可見,，如何就AI模型存在的風(fēng)險(xiǎn)設(shè)定監(jiān)管標(biāo)準(zhǔn)，各方意見尚難達(dá)成一致,，這也凸顯了基于AI模型的風(fēng)險(xiǎn)標(biāo)準(zhǔn)設(shè)定的復(fù)雜性,。
創(chuàng)新與監(jiān)管的平衡問題加劇。如何平衡AI創(chuàng)新與安全,，始終是《加州AI安全法案》爭論的核心問題,。一方面，法案支持者強(qiáng)調(diào),，通過法律手段實(shí)施監(jiān)管可以防止?jié)撛诘臑?zāi)難性后果,，尤其是據(jù)此對以利益為導(dǎo)向的企業(yè)行為進(jìn)行約束；強(qiáng)制性的安全測試和法律監(jiān)管有助于確保AI技術(shù)的安全性,，進(jìn)而保護(hù)公眾權(quán)益,。另一方面，法案反對者認(rèn)為,，一旦法案通過將會抑制創(chuàng)新,。法律環(huán)境的高度不確定性及合規(guī)成本的增加，尤其會限制小型AI企業(yè)和開源開發(fā)者的創(chuàng)新潛力,。從加州整體立法趨勢來看,，2024年9月加州州長加文·紐瑟密集批準(zhǔn)了17項(xiàng)與AI相關(guān)的其他監(jiān)管法案,，重點(diǎn)規(guī)制加州已經(jīng)面臨的深度合成、虛假信息和版權(quán)威脅問題,，呈現(xiàn)出了以州治理需求為主,，立足實(shí)際應(yīng)用場景中的風(fēng)險(xiǎn)治理特點(diǎn)。這一系列舉措表明加州政府對AI技術(shù)發(fā)展及其安全合規(guī)使用高度重視,，也展現(xiàn)了加州在推動創(chuàng)新與強(qiáng)化監(jiān)管之間尋求平衡的政策取向,。
結(jié)語與展望
《加州AI安全法案》在立法過程中，也引起了歐盟委員會的高度關(guān)注,?！都又軦I安全法案》與歐盟的《AI法案》在基于風(fēng)險(xiǎn)的方法上具有概念上的一致性，在監(jiān)管內(nèi)容上又能構(gòu)成操作協(xié)同性,，將有助于推動AI全球監(jiān)管的一致性。相較而言,，兩項(xiàng)法案在監(jiān)管范圍,、監(jiān)管對象、監(jiān)管內(nèi)容等方面又存有差異,。監(jiān)管范圍上,，歐盟的風(fēng)險(xiǎn)范圍界定更加廣泛，除《加州AI安全法案》提到的嚴(yán)重傷害外,，歐盟還增加了加劇社會不平等和歧視的風(fēng)險(xiǎn),。在監(jiān)管對象上，《加州AI安全法案》側(cè)重監(jiān)管前沿大模型,，所設(shè)定的監(jiān)管門檻尚無AI企業(yè)達(dá)到,；歐盟的《AI法案》則針對現(xiàn)有大模型開展監(jiān)管。在監(jiān)管內(nèi)容上,，《加州AI安全法案》細(xì)化了基礎(chǔ)模型監(jiān)管,，尤其在透明度方面，強(qiáng)調(diào)了規(guī)定的訓(xùn)練前,、部署前的通報(bào)義務(wù),，比歐盟《AI法案》的訓(xùn)練數(shù)據(jù)披露要求則更加詳細(xì)。
《加州AI安全法案》被否反映了美國在AI領(lǐng)域強(qiáng)調(diào)發(fā)展優(yōu)先的一貫態(tài)度,，眾議院議長南?！づ迓逦髟诜ò阜駴Q后公開表示贊賞，“AI領(lǐng)域發(fā)展與主導(dǎo)不僅僅是大型科技公司,，還有小型企業(yè)和學(xué)術(shù)界”,。此外，美國加州政府并未停止對AI監(jiān)管的探索,，在否決法案當(dāng)日,，加州州長單獨(dú)簽署了有關(guān)生成式AI對關(guān)鍵基礎(chǔ)設(shè)施風(fēng)險(xiǎn)的評估法案,，并要求“對可能導(dǎo)致大量傷亡事件的威脅的立法”，闡明了加州將通過分散式的審慎立法方式持續(xù)探索倫理,、透明和可信的AI發(fā)展路徑,，為保持全球AI的領(lǐng)先地位提供保障。
從各界對《加州AI安全法案》的爭議,，以及近期全球AI立法的探索中,，我們也可得到有關(guān)完善我國AI監(jiān)管體系的一些啟發(fā)，尤其在優(yōu)化促進(jìn)創(chuàng)新和依法治理相結(jié)合的監(jiān)管路徑方面,。一方面,，積極開展針對AI在應(yīng)用中的潛在威脅和脆弱性風(fēng)險(xiǎn)分析，基于科學(xué)發(fā)展規(guī)律和實(shí)踐經(jīng)驗(yàn),，探索構(gòu)建多層次AI安全防護(hù)措施和高水平技術(shù)保護(hù)手段,。另一方面，加快構(gòu)建鼓勵(lì)創(chuàng)新的風(fēng)險(xiǎn)容錯(cuò)機(jī)制,，構(gòu)建具有靈活性和可操作性的監(jiān)管框架,，兼顧技術(shù)發(fā)展的動態(tài)性與安全監(jiān)管的必要性，推動AI健康安全可持續(xù)發(fā)展,。
