在人工智能展示了其非凡的創(chuàng)造力以及潛在的危害力之后，越來越多力量加入了呼吁監(jiān)管的隊伍之中。

近日，為確保歐洲人工智能以人為本的道德發(fā)展，歐洲議會內(nèi)部市場委員會和公民自由委員會以 84 票贊成、7票反對、12票棄權(quán)通過了《人工智能法案》的談判授權(quán)草案。修改后的《人工智能法案》針對人工智能基礎(chǔ)模型、價值鏈責(zé)任和最近大熱的生成式人工智能做出回應(yīng)，同時研究了針對企業(yè)尤其是中小企業(yè)和初創(chuàng)企業(yè)的豁免條款。

大型網(wǎng)絡(luò)平臺推薦系統(tǒng)被列入高風(fēng)險

歐盟關(guān)于人工智能立法的進程，最早可以追溯到2018年的《人工智能時代：確立以人為本的歐洲戰(zhàn)略》報告，報告解讀了歐盟在人工智能領(lǐng)域的最新發(fā)展現(xiàn)狀；2021年4月21日，歐盟委員會正式提出《人工智能法案》提案，世界范圍內(nèi)第一部針對人工智能進行規(guī)制的法律邁開制定的腳步。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括在接受21世紀(jì)經(jīng)濟報道記者采訪時表示，歐盟的立法強調(diào)結(jié)合歐盟自身的經(jīng)濟技術(shù)、現(xiàn)狀，同時服務(wù)于歐盟打造世界級經(jīng)濟體和確保數(shù)字主權(quán)、技術(shù)主權(quán)的政策目標(biāo)，在強調(diào)保障創(chuàng)新發(fā)展的同時突出體現(xiàn)了以風(fēng)險管理為導(dǎo)向的監(jiān)管思路，它的制定出臺會對世界人工智能產(chǎn)業(yè)發(fā)展生態(tài)和人工智能監(jiān)管走向帶來非常大的影響。

監(jiān)管框架定義了人工智能的4個風(fēng)險級別：不可接受的風(fēng)險、高風(fēng)險、風(fēng)險有限、最小或無風(fēng)險。這些規(guī)則基于風(fēng)險制定，并根據(jù)人工智能可能產(chǎn)生的風(fēng)險級別為提供者和用戶規(guī)定義務(wù)。

風(fēng)險級別上，所有被認為對人們的安全、生計和權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)都被認為是不可接受的風(fēng)險而將被禁止，包括部署潛意識或有目的地操縱技術(shù)、利用人們的弱點或用于社會評分。

這次法案大幅修改了不可接受的風(fēng)險相關(guān)名單，禁止侵入性和歧視性地使用人工智能系統(tǒng)，例如公共場所的“實時”遠程生物特征識別系統(tǒng)，使用敏感特征的生物識別分類系統(tǒng)，預(yù)測性警務(wù)系統(tǒng)等都被禁止。

而在高風(fēng)險級別方面，歐洲議會議員擴大了高風(fēng)險領(lǐng)域的分類，對人們健康、安全、基本權(quán)利或環(huán)境造成危害的人工智能屬于此類。高風(fēng)險人工智能系統(tǒng)在投放市場之前將受到嚴格的義務(wù)約束。同時他們認為，被認定為大型網(wǎng)絡(luò)平臺的社交媒體平臺（根據(jù)《數(shù)字服務(wù)法》擁有超過 4500 萬用戶）所使用的推薦系統(tǒng)，會對網(wǎng)絡(luò)安全、公眾輿論、選舉等產(chǎn)生強烈影響，也被列入高風(fēng)險的人工智能。

值得注意的是，《人工智能法案》認為，人工智能系統(tǒng)的概念應(yīng)明確定義，并與從事人工智能工作的國際組織的工作密切一致，以確保法律的確定性、統(tǒng)一性和廣泛接受性，同時提供靈活性以適應(yīng)該領(lǐng)域的快速技術(shù)發(fā)展。此外，它應(yīng)該基于人工智能的關(guān)鍵特征，如學(xué)習(xí)、推理或建模能力，以便將其與更簡單的軟件系統(tǒng)或編程方法區(qū)分開來。

厘清產(chǎn)業(yè)鏈各主體責(zé)任分配

《人工智能法案》針對人工智能價值鏈責(zé)任的義務(wù)劃分、基礎(chǔ)模型提供者和生成式AI等最新問題做了相應(yīng)回應(yīng)。

在人工智能價值鏈責(zé)任分配上，法案中提到，任何分發(fā)者、進口者、部署者或其他第三方應(yīng)被視為高風(fēng)險人工智能系統(tǒng)的提供者，需要履行相應(yīng)的義務(wù)。如在高風(fēng)險人工智能系統(tǒng)上標(biāo)明名稱、聯(lián)系方式，提供數(shù)據(jù)規(guī)格或數(shù)據(jù)集相關(guān)信息，保存日志等。

“在AIGC產(chǎn)業(yè)鏈中，具有多種形態(tài)。例如，在模型即服務(wù)（MaaS）的產(chǎn)業(yè)模式下，可能上游基礎(chǔ)模型的服務(wù)提供者是供應(yīng)者，中間會有中間層負責(zé)對點工具的開發(fā)；到了下游也就是具體的應(yīng)用場景中，可能會有進一步的直接面向個人用戶的服務(wù)提供者。此外，開源模式下，有人利用開源軟件結(jié)合數(shù)據(jù)進行微調(diào)和部署，在這個領(lǐng)域當(dāng)中，這個供應(yīng)者、分發(fā)者、進口者和部署者可能就又是不一樣的?！睂ν饨?jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心執(zhí)行主任張欣介紹，歐盟的《人工智能法案》較為清晰地厘清了AIGC產(chǎn)業(yè)鏈上的主體責(zé)任，同時根據(jù)主體之間的具體角色、具體特質(zhì)進行了劃分，很大程度上體現(xiàn)了公平的責(zé)任。

在吳沈括看來，在立法思路上，歐盟慣常于剖析分解生態(tài)當(dāng)中上下游不同角色之間的作用地位，并根據(jù)這些因素劃定義務(wù)和責(zé)任范圍。對于責(zé)任的劃分基于調(diào)研得出，上下游不同企業(yè)發(fā)揮什么樣的作用就承擔(dān)什么樣的角色。同時，根據(jù)他們對于這個生態(tài)的影響和價值，依據(jù)比例原則配置相應(yīng)的義務(wù)內(nèi)容，設(shè)定相應(yīng)的處罰強度。

而在通用人工智能方面，《人工智能法案》也對基礎(chǔ)模型提供者的義務(wù)進行了規(guī)定，如需要評估和降低風(fēng)險，遵守設(shè)計、信息和環(huán)境要求，在歐盟數(shù)據(jù)庫中注冊。通用型人工智能是指非為特殊目的進行特別設(shè)計的具有廣泛適用性的人工智能系統(tǒng)，其一般功能包括但不限于圖像和語音識別、音頻和視頻生成、模式檢測、問答、翻譯和其他功能。

對于GPT這樣的生成式基礎(chǔ)模型來說，基礎(chǔ)模型的設(shè)計和開發(fā)必須有足夠的保障措施，確保其符合歐盟法律。同時，根據(jù)透明度規(guī)則的要求，只要文本是 AI 生成的，它就必須披露；需要設(shè)計模型以防止其生成非法內(nèi)容；對于訓(xùn)練數(shù)據(jù)，需要提供版權(quán)法所涵蓋的詳細摘要。

張欣提示，關(guān)于人工智能所使用的數(shù)據(jù)，此次法案存在算法透明度和知識產(chǎn)權(quán)兩條路徑。未來生成式人工智能的產(chǎn)業(yè)鏈發(fā)展當(dāng)中，從知識產(chǎn)權(quán)角度來說，對于數(shù)據(jù)集的訓(xùn)練、所著圖片文字如何進行合理的利益分配提供了借鑒的思路。

關(guān)切中小企業(yè)和初創(chuàng)企業(yè)

21世紀(jì)經(jīng)濟報道記者梳理發(fā)現(xiàn)，在監(jiān)管方式上，《人工智能法案》除提出監(jiān)管沙盒外，還提到了高風(fēng)險人工智能系統(tǒng)數(shù)據(jù)庫。這是由歐盟與各成員國合作建立的一個公共數(shù)據(jù)庫，相關(guān)供應(yīng)商應(yīng)按照相應(yīng)要求將規(guī)定的數(shù)據(jù)輸入該庫中。同時規(guī)定，數(shù)據(jù)庫中的信息應(yīng)向公眾免費提供。

在張欣看來，該數(shù)據(jù)庫是對算法透明度、公眾知情權(quán)、商業(yè)秘密三者之間一個較為平衡的做法。目前來看，結(jié)合商業(yè)秘密的考量，算法可解釋性非常低。在這種情況下，對于公眾來說要想去理解它的運行邏輯、預(yù)見可能產(chǎn)生的風(fēng)險，其實是非常難的?！斑@種做法類似于我們國家的算法備案，通過建立數(shù)據(jù)庫向公眾進行公開，建立了一個比較好的合理的透明度。在人工智能領(lǐng)域，深度神經(jīng)網(wǎng)絡(luò)雖然可解釋性有限，但用于訓(xùn)練的數(shù)據(jù)集通?？梢酝ㄟ^數(shù)據(jù)解釋的方式提升整體的透明度。”

“這是一個比較前沿的實踐方式，目的是建立有關(guān)高風(fēng)險系統(tǒng)的一個信息數(shù)據(jù)池，匯聚各種信息和數(shù)據(jù)，幫助各層級監(jiān)管執(zhí)法乃至社會監(jiān)督的過程當(dāng)中，對于高風(fēng)險系統(tǒng)有一個更為直觀、更為動態(tài)和前沿的認知，而且這個數(shù)據(jù)庫處于持續(xù)更新的狀態(tài)。”吳沈括對21世紀(jì)經(jīng)濟報道記者表示。

同時，《人工智能法案》對于中小企業(yè)、初創(chuàng)企業(yè)也給予了相應(yīng)的豁免。如“第28（a）條 單方面強加給中小企業(yè)或初創(chuàng)企業(yè)的不公平合同條款”規(guī)定，一個企業(yè)單方面強加給中小企業(yè)或初創(chuàng)企業(yè)的相關(guān)合同條款或措施，如果是不公平的，則對后一企業(yè)沒有約束力。同時監(jiān)管沙盒的其中一個很重要目標(biāo)，便是要確保中小企業(yè)和初創(chuàng)企業(yè)能夠輕松訪問沙盒，積極參與開發(fā)和測試。

就像聯(lián)合報告員Dragos Tudorache所表示的，“我們一直致力于支持歐洲的人工智能創(chuàng)新，為初創(chuàng)企業(yè)、中小企業(yè)和行業(yè)提供發(fā)展和創(chuàng)新的空間”。

支持中小企業(yè)創(chuàng)新，在張欣看來非常重要。一方面，大模型的研發(fā)可能出現(xiàn)新一輪的技術(shù)壁壘，對于監(jiān)管來說，相關(guān)政策在制定過程中需要對相關(guān)利益分配進行適當(dāng)平衡，否則就可能對于中小企業(yè)和初創(chuàng)企業(yè)產(chǎn)生擠壓作用。另一方面，人工智能技術(shù)的創(chuàng)新和組織規(guī)模、架構(gòu)之間有著非常重要的相關(guān)性。以O(shè)penAI為例，作為一個只有300人團隊的中小企業(yè)研發(fā)了ChatGPT。

吳沈括認為這是歐盟關(guān)于平衡安全監(jiān)管和發(fā)展創(chuàng)新之間的一個機制創(chuàng)新。反映了歐盟一貫以來對于中小企業(yè)發(fā)展的扶持優(yōu)待政策，同時也跟歐盟境內(nèi)超過95%以上屬于中小企業(yè)的經(jīng)濟基礎(chǔ)是相匹配的，它的核心是在監(jiān)管的同時為中小企業(yè)的創(chuàng)新，留下必要的發(fā)展空間。

針對最近的談判授權(quán)草案，歐洲議會預(yù)計將在 6 月 12 日至 15 日的會議期間進行表決。得到批準(zhǔn)之后，相關(guān)法案便可進入下一立法環(huán)節(jié)，一旦獲得批準(zhǔn)，歐盟《人工智能法案》將有望成為全球首部有關(guān)人工智能的法規(guī)。

張欣表示，歐盟的人工智能法案為相關(guān)國家立法提供制度參考，規(guī)則與規(guī)則之間的嵌套和搭配非常精細，踐行了基于風(fēng)險的人工智能分類分級治理思路。除此之外，該治理規(guī)則得到一整套人工智能的監(jiān)管和治理工具，如認證、評估等進行支撐，

但是她也提出了一個更加值得思考的問題?！皻W盟雖然立法精細，但是歐盟的整個人工智能企業(yè)、數(shù)字化企業(yè)的發(fā)展卻沒有那么的先進。所以從更廣泛、更宏觀的角度來講，人工智能或者說高新科技領(lǐng)域的立法，和高新科技領(lǐng)域的創(chuàng)新之間，相關(guān)性到底是怎么樣的，也可能值得我們?nèi)ビ^察、思考。”