21世紀(jì)經(jīng)濟(jì)報道記者 馮戀閣 鐘雨欣 實習(xí)生劉爽 廣州、北京報道

人工智能掀起的第四次工業(yè)革命浪潮席卷全球，各個國家地區(qū)“各顯神通”應(yīng)對新的挑戰(zhàn)。

在此背景下，討論各國如何發(fā)力人工智能治理，以期為“中國方案”提供經(jīng)驗和參考具有重要意義。近日，由中國社會科學(xué)院法學(xué)研究所主辦，中國社會科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室、南財合規(guī)科技研究院等共同承辦的“全球治理話語競賽下人工智能立法的中國方案”研討會在北京舉行。多位專家圍繞歐盟、英國及美國的人工智能治理思路做觀點分享。

歐盟：監(jiān)管體系逐步完善，關(guān)鍵概念仍存分歧

“歐盟人工智能立法已經(jīng)形成了一個體系?！蓖瑵?jì)大學(xué)法學(xué)院助理教授朱悅指出，作為數(shù)字立法“老區(qū)”，歐盟近些年來已經(jīng)制定或者正在制定的法律主要包括《通用數(shù)據(jù)保護(hù)條例》、《數(shù)字服務(wù)法》、《數(shù)字市場法》、《數(shù)據(jù)法》、《人工智能責(zé)任指令》、《產(chǎn)品責(zé)任指令》等條例和指令，雖然并未全部落地施行，但已經(jīng)從個人信息、平臺、數(shù)據(jù)、網(wǎng)絡(luò)等多方面對人工智能企業(yè)的全生命周期做出規(guī)制。

而具體到人工智能專項立法，朱悅指出，歐盟人工智能立法自2020年啟動至今已歷經(jīng)多輪討論，今年六月以來，歐盟理事會和議會針對《人工智能法案》條文的談判，在接近三分之二的內(nèi)容上已經(jīng)達(dá)成一致，但是其中部分關(guān)鍵的規(guī)則仍存在較大爭議。

“不過，與人工智能相關(guān)的一些新的技術(shù)概念在目前已經(jīng)有了一致意見，而歐盟人工智能立法內(nèi)容在國際上也有更廣泛的共識，這些已經(jīng)達(dá)成的共識可以為我們未來的探索提供借鑒?！敝鞇傊赋觥Ｋ€介紹道，最近美國出臺的相關(guān)行政令中，就采納了和歐盟《人工智能法案》一致的對人工智能的定義。

有共識，自然也有分歧。朱悅介紹道，當(dāng)前各界對通用目的人工智能如何規(guī)范、人工智能治理機構(gòu)的問題、基本權(quán)利影響評估的適用范圍、監(jiān)管沙箱是否能夠在真實世界重開展試點、高風(fēng)險人工智能的定義和清單等關(guān)鍵性問題仍存有政治層面和技術(shù)層面的分歧。

因此，他建議未來應(yīng)對歐盟人工智能立法的后續(xù)舉措和相應(yīng)監(jiān)管行動保持關(guān)注?！耙皇窃谌蚋偁庴w系中，了解歐盟立法的進(jìn)展和節(jié)奏，這可以讓我們更加明確自身的目標(biāo)；二是歐盟提出的《人工智能法案》是目前全球范圍內(nèi)較為成體系的法案，我們可以從它的立法當(dāng)中的價值取舍和技術(shù)運用中獲得立法資源。”他指出。

英國：跨部門監(jiān)管采用“非法定形式” 保證監(jiān)管靈活性

雖然也地處歐洲，但脫歐之后，英國正試圖走出自己的人工智能監(jiān)管路徑。

在南財合規(guī)科技研究院首席研究員王俊看來，英國人工智能監(jiān)管發(fā)展可以整體分為三個階段：邁向國家戰(zhàn)略、英國發(fā)布專門的國家人工智能發(fā)展戰(zhàn)略、聚焦促進(jìn)創(chuàng)新的監(jiān)管三個階段，從重視人工智能治理，到提出舉措應(yīng)對相應(yīng)風(fēng)險，最終提出監(jiān)管框架鞏固支持創(chuàng)新的監(jiān)管思路。

“針對ChatGPT引發(fā)的新一輪人工智能革命，英國在今年有密集的監(jiān)管行動回應(yīng)?！蓖蹩〗榻B道，3月，英國政府推出《一種支持創(chuàng)新的人工智能監(jiān)管方法》白皮書，與企業(yè)、行業(yè)協(xié)會交流溝通，構(gòu)建針對人工智能監(jiān)管的理想框架；5月，英國首相相繼會見AI龍頭企業(yè)CEO，探討AI的風(fēng)險與治理。在全球治理話語的競賽中，英國也在積極尋求他們的位置，比如英國政府宣布將在今年下半年舉行世界首個人工智能峰會，呼吁人工智能監(jiān)管。

參考英國的監(jiān)管實踐可以發(fā)現(xiàn)，當(dāng)前英國以場景和結(jié)果為依據(jù)開展監(jiān)管活動，不同監(jiān)管機構(gòu)根據(jù)特定場景下人工智能對個人群體和企業(yè)的影響，采取各異的監(jiān)管對策?！兑环N支持創(chuàng)新的人工智能監(jiān)管方法》白皮書中設(shè)置了多種監(jiān)管路徑，比如跨部門監(jiān)管時采用“非法定形式”，這樣既保證監(jiān)管的靈活性，又可以減輕企業(yè)的負(fù)擔(dān)。

英國政府提供支持人工智能監(jiān)管框架的“中樞職能”這一創(chuàng)新點也值得注意。“他們有不干預(yù)、不改變的問責(zé)傾向，把法律責(zé)任分配給更能夠有效識別風(fēng)險的參與者。”王俊介紹道，政府通過宏觀調(diào)控，給監(jiān)管機構(gòu)提供中央支持的職能，同時引入外部的行業(yè)組織討論協(xié)調(diào)，保持治理體系有效性和一致性，也能夠及時評估人工智能的影響以及和國外制度、標(biāo)準(zhǔn)的互操作性。

監(jiān)管沙盒也是英國采用的方法之一，利用沙盒機制能夠很好地平衡創(chuàng)新與風(fēng)險?！坝岢龅某醪浇我恍袠I(yè)、多個監(jiān)管機構(gòu)的沙盒：一個行業(yè)創(chuàng)新者與一個或多個監(jiān)管機構(gòu)互動，可以起到新產(chǎn)品、服務(wù)快速推向市場；測試監(jiān)管框架運作方式，解決創(chuàng)新障礙等作用。”王俊指出。

“當(dāng)前英國立法對我國未來建構(gòu)人工智能治理體系有幾點啟示?！蓖蹩≈赋?，首先是應(yīng)當(dāng)審慎推進(jìn)人工智能綜合性立法。其次是建立基于應(yīng)用場景的監(jiān)管制度。人工智能應(yīng)用中的風(fēng)險非常復(fù)雜，單一的治理技術(shù)和多元治理場景存在矛盾和沖突。因此，未來應(yīng)當(dāng)基于場景嘗試更精細(xì)化的監(jiān)管，區(qū)分不同技術(shù)路線、應(yīng)用模式和責(zé)任主體，針對不同場景，對不同的風(fēng)險點進(jìn)行差異化監(jiān)管。

美國：權(quán)利、治理、促進(jìn)三大體系并行

作為AI頭部公司的聚集地，大洋彼岸美國的AI治理有何特點？工業(yè)和信息化法治戰(zhàn)略與管理重點實驗室研究員傅宏宇介紹，美國人工智能立法體系主要分為三大塊，即權(quán)利體系、治理體系和促進(jìn)體系。他認(rèn)為，從立法統(tǒng)合的思路出發(fā)，我國人工智能立法也應(yīng)包含這三個類型的體系。

談及美國AI治理權(quán)利體系，傅宏宇表示，美國立法是分散式的，這與美國立法組織模式、州法與聯(lián)邦法之間的分權(quán)關(guān)系是相關(guān)的，但權(quán)利體系構(gòu)成了底座，成為美國各個法律、各個職能部門認(rèn)知的基礎(chǔ)，也是美國未來面向下一代人工智能立法最基本的判斷。

“美國權(quán)利體系構(gòu)架包含了基本權(quán)利保護(hù)、用戶權(quán)益保護(hù)和財產(chǎn)權(quán)益保護(hù)。”傅宏宇解釋，基本權(quán)利保護(hù)機制通過透明度實現(xiàn)人類中心價值目標(biāo)，在核心場景中保護(hù)基本權(quán)利，例如過濾氣泡透明度法案、AI權(quán)利法案藍(lán)圖都以透明度這個詞作為立法重要的抓手。在用戶權(quán)益保護(hù)方向，基于隱私法的私人訴訟和沿用保護(hù)特定人群的專門法是兩個重點，財產(chǎn)權(quán)益保護(hù)則主要涉及兩個重要的問題，即訓(xùn)練過程的版權(quán)侵權(quán)和生成內(nèi)容的版權(quán)保護(hù)。

“基于上述權(quán)利體系，美國還衍生出了對應(yīng)性的治理體系?！备岛暧罱榻B，美國治理體系主要包括技術(shù)風(fēng)險治理、內(nèi)容風(fēng)險治理、競爭風(fēng)險治理和企業(yè)協(xié)同治理。其中，技術(shù)風(fēng)險治理強調(diào)可問責(zé)性，同時強調(diào)了有限度的技術(shù)穿透監(jiān)管，對避風(fēng)港制度進(jìn)行調(diào)整，提高AI風(fēng)險管理能力。內(nèi)容風(fēng)險治理方面，美國立法強調(diào)技術(shù)控制手段，對特殊場景進(jìn)行內(nèi)容限制，較有代表性的是《深度偽造問責(zé)法案》。在競爭風(fēng)險治理方面，美國重點關(guān)注大模型提供商的市場能力以及AI技術(shù)對競爭的影響。

“自美國的ChatGPT問世以來，人工智能企業(yè)也成為了AI協(xié)同治理的重要角色。相關(guān)企業(yè)參與治理目標(biāo)設(shè)定，使治理融入技術(shù)發(fā)展路徑，推動安全技術(shù)標(biāo)準(zhǔn)化，同時主動停止研發(fā)，留下監(jiān)管空間?！?/p>

美國AI治理能給我國帶來哪些啟示？傅宏宇認(rèn)為，一是在治理目標(biāo)上，人類中心價值的權(quán)利基礎(chǔ)明確，AI風(fēng)險認(rèn)知清晰。二是在監(jiān)管方式上，結(jié)合現(xiàn)有治理能力，復(fù)用治理工具，抓大留中放小。三是在協(xié)作參與上，讓更多社會公眾和企業(yè)通過訴訟、自律機制來提高社會參與，以安全技術(shù)推動治理與發(fā)展融合。

關(guān)鍵詞：