《電子技術應用》
您所在的位置:首頁 > 人工智能 > 設計應用 > 生成式人工智能數據跨境流動的安全風險及治理范式
生成式人工智能數據跨境流動的安全風險及治理范式
網絡安全與數據治理
姚遷,劉晉名,盛小寶
公安部第三研究所
摘要: 隨著生成式人工智能技術的快速迭代,相關數據跨境流動的頻率顯著增加。面對生成式人工智能在數據跨境流動中呈現的多樣化應用場景及其所伴隨的安全風險,應當從技術防控、制度優(yōu)化與國際合作三個維度來建構生成式人工智能數據跨境流動的安全風險治理范式,在保障生成式人工智能數據跨境流動安全性與規(guī)范性的基礎上,實現數據經濟發(fā)展與數據權利保護的平衡,推動全球數字經濟的健康發(fā)展。
中圖分類號:D922;TP399文獻標識碼:ADOI:10.19358/j.issn.2097-1788.2024.12.012
引用格式:姚遷,劉晉名,盛小寶. 生成式人工智能數據跨境流動的安全風險及治理范式[J].網絡安全與數據治理,2024,43(12):80-87.
Security risks and governance paradigm for cross-border data flows of Generative AI
Yao Qian, Liu Jinming, Sheng Xiaobao
Third Research Institute of the Ministry of Public Security
Abstract: As Generative AI (GAI) technology rapidly evolves, the frequency of associated cross-border data flows has significantly increased. In light of the diverse application scenarios and the security risks accompanying these cross-border data movements, it is essential to establish a risk governance framework for GAI data flows that addresses these challenges through three key dimensions: technical safeguards, regulatory optimization, and international cooperation. By ensuring the security and compliance of cross-border data flows involving GAI, this framework aims to balance the advancement of the data economy with the protection of data rights, thereby fostering the healthy development of the global digital economy.
Key words : Generative AI; cross-border data flows; diverse scenarios; security risks

引言

生成式人工智能(Generative Artificial Intelligence,GAI)的發(fā)展高度依賴海量、多樣化且實時更新的數據支持,而云計算、物聯網等跨境數據流動技術又為其提供了基礎支撐,數據跨境流動對GAI發(fā)展具有關鍵意義。早在20世紀90年代,Feigenbaum等學者就指出,跨境數據流動是人工智能(AI)發(fā)展的關鍵因素[1]。 近年來,以ChatGPT為代表的大語言模型推動GAI爆發(fā)式增長,進一步凸顯了跨境數據在塑造全球AI格局中的作用。

國際社會已廣泛認可跨境數據對AI發(fā)展的重要性。2023年9月18日,中歐在高層數字對話中討論AI和數據跨境合作,美國媒體評論指出,數據跨境是避免全球“分層和巴爾干化”的關鍵因素[2]。美國高級研究員Nate Picarsic曾稱:“我們必須清楚中國的訴求,捍衛(wèi)自身利益……否則最終將處于一個由中國規(guī)范和標準主導的AI和數據環(huán)境中”[2]。這一論斷揭示出AI跨境數據流動問題不僅關乎數字經濟發(fā)展,更涉及國家安全和利益平衡。

國內規(guī)范體系對GAI與數據跨境的研究均取得了一定進展,但在GAI數據跨境這一交叉領域卻仍缺乏針對性規(guī)則,現有規(guī)范體系尚未能充分回應GAI數據跨境流動產生的新興法律挑戰(zhàn)。2024年3月施行的《生成式人工智能服務安全基本要求》(以下簡稱《基本要求》)首次提出了GAI服務提供者需遵循的安全基本要求,但未涉及GAI數據跨境問題,且刪除了先前引述個人信息跨境相關法規(guī)的條款,反映出在數據安全保障與GAI發(fā)展之間尋求平衡的復雜性。我國立法者在規(guī)范層面的遲疑,折射出了監(jiān)管機構在應對 GAI技術應用以及伴隨而來的跨境數據流動挑戰(zhàn)時,面臨的制度構建和實踐困境。

2024年3月22日頒布的《促進和規(guī)范數據跨境流動規(guī)定》(以下簡稱《規(guī)定》)對我國數據出境合規(guī)監(jiān)管框架進行了重大調整,《規(guī)定》雖增強了數據跨境流動的監(jiān)管力度,但對GAI應用的數據跨境流動問題仍缺乏明確指導,這可能導致GAI服務提供者面臨合規(guī)困境,阻礙其進行國際數據流動和合作。此外,上海陸續(xù)出臺了數據跨境流動管理新規(guī),并公布了首批20個場景的數據跨境流動分級分類清單[3],但這些新規(guī)未涵蓋GAI場景,反映出國家與地方在新興技術監(jiān)管方面的協同不足,且各地監(jiān)管規(guī)則碎片化可能導致政策執(zhí)行不一致。

從實踐層面,GAI數據跨境與現行法規(guī)的要求存在較大差距。GAI開發(fā)者和部署者在開展數據跨境尤其是個人信息跨境傳輸活動時,未嚴格遵循數據出境評估、標準合同、個人信息保護認證等要求,存在潛在風險[4]。同時,對于需跨境調用算法或算力的GAI開發(fā)者和部署者而言,數據跨境合規(guī)已成為制約其發(fā)展的痛點。這不僅影響GAI模型的訓練效果,也增加了中小型GAI開發(fā)者和部署者獲取云計算等商業(yè)服務的成本,不利于GAI產業(yè)的整體創(chuàng)新,最終可能削弱國家在GAI領域的國際競爭力。

綜上所述,本文旨在通過深入分析GAI數據跨境實踐的現狀、風險及成因,并結合域外國家的立法及監(jiān)管實踐經驗,提出可行的建議,為GAI產業(yè)的健康、有序、可持續(xù)發(fā)展提供有益參考。


本文詳細內容請下載:

http://wldgj.com/resource/share/2000006271


作者信息:

姚遷,劉晉名,盛小寶

(公安部第三研究所,上海200100)


Magazine.Subscription.jpg

此內容為AET網站原創(chuàng),未經授權禁止轉載。