到了午夜,餅干吃光了,自動(dòng)售貨機(jī)里的咖啡也賣完了,晚餐點(diǎn)的三明治也早已入肚。盡管如此,仍然有約700名議員躲在歐盟(European Union)位于比利時(shí)布魯塞爾的高聳入云的議會(huì)大廈里。最后,在天寒地凍的2023年12月8日太陽(yáng)升起之時(shí),他們踉踉蹌蹌地回家打盹、洗澡,然后又返回來(lái)繼續(xù)爭(zhēng)論了17個(gè)小時(shí)。直到出于精疲力竭或權(quán)宜之計(jì),他們就一系列法律達(dá)成了一致,這些法律涉及他們?cè)?jīng)投票表決過(guò)的最棘手的問(wèn)題之一:人工智能。
就歐盟的《人工智能法案》(AI Act)展開(kāi)的馬拉松式談判,是歐盟有史以來(lái)最緊張的談判之一,并為這項(xiàng)影響深遠(yuǎn)、體系龐雜的新技術(shù)制定了世界上第一本規(guī)則手冊(cè)。歐盟的27個(gè)成員國(guó)并不是唯一試圖實(shí)現(xiàn)這一立法壯舉的國(guó)家。2023年10月,美國(guó)總統(tǒng)喬·拜登發(fā)布了一項(xiàng)行政命令,制定了保護(hù)美國(guó)人免受人工智能造成的歧視和大量失業(yè)的指導(dǎo)方針。該命令相當(dāng)于一個(gè)占位符,但美國(guó)國(guó)會(huì)和美國(guó)商務(wù)部(Department of Commerce)等機(jī)構(gòu)則試圖把該命令轉(zhuǎn)化為硬性規(guī)定。與此同時(shí),日本、英國(guó)、韓國(guó)和其他主要經(jīng)濟(jì)體也都發(fā)布了類似的提案,從打擊虛假信息和深度偽造,到保護(hù)個(gè)人隱私和披露用于人工智能機(jī)器訓(xùn)練的數(shù)據(jù),不一而足。2023年11月,在英國(guó)首相里?!ぬK納克召開(kāi)的人工智能安全峰會(huì)(AI Safety Summit)上,28個(gè)國(guó)家同意打擊該技術(shù)帶來(lái)的“嚴(yán)重甚至災(zāi)難性的危害”。
規(guī)則泛濫以及有可能不斷增加,為開(kāi)發(fā)和使用人工智能的公司開(kāi)辟了一個(gè)新戰(zhàn)場(chǎng)。如何解釋和執(zhí)行這些細(xì)則將對(duì)科技行業(yè)的未來(lái)產(chǎn)生深遠(yuǎn)的影響,原因是這些細(xì)則將決定企業(yè)可以打造什么類型的產(chǎn)品,以及如何利用客戶數(shù)據(jù)。這關(guān)系到未來(lái)數(shù)千億美元的企業(yè)營(yíng)收和市場(chǎng)價(jià)值。國(guó)家利益亦是如此。各國(guó)正在保護(hù)其公民免受隱私侵犯、生物武器和大規(guī)模網(wǎng)絡(luò)攻擊等危險(xiǎn)的損害,與成為技術(shù)領(lǐng)導(dǎo)者以便在至關(guān)重要的全球軍備競(jìng)賽中促進(jìn)經(jīng)濟(jì)實(shí)力與軍事實(shí)力同步提升的愿望之間進(jìn)行權(quán)衡。歐盟的首席人工智能談判代表德拉戈什·圖多拉凱表示:“不僅對(duì)我們而言,而且對(duì)整個(gè)世界來(lái)說(shuō),人工智能都至關(guān)重要,而且極具變革性。”
對(duì)美國(guó)和歐洲的監(jiān)管機(jī)構(gòu)而言,難題在于:監(jiān)管過(guò)松可能會(huì)帶來(lái)意想不到的危險(xiǎn),而監(jiān)管過(guò)嚴(yán)又會(huì)扼殺創(chuàng)新——這正是投資者和科技公司的高管在主張?jiān)试S公司實(shí)現(xiàn)相對(duì)自由放任式的發(fā)展時(shí)提出的核心論點(diǎn)。
更重要的是,隨著人工智能以迅雷不及掩耳之勢(shì)發(fā)生變化,目前世界各地正在討論的法規(guī)可能很快就會(huì)過(guò)時(shí)。Tech Dynamics的總裁比爾·懷曼說(shuō):“你試圖監(jiān)管的是一個(gè)不斷變化的目標(biāo),很少有人技術(shù)能力強(qiáng)到足以理解這個(gè)目標(biāo),而政府機(jī)構(gòu)也很難吸引到合適的人才來(lái)進(jìn)行有效監(jiān)管。當(dāng)你打開(kāi)監(jiān)管的潘多拉魔盒時(shí),你不知道最終會(huì)得到什么。”Tech Dynamics是一家總部位于美國(guó)華盛頓特區(qū),為科技公司提供咨詢服務(wù)的公司。
當(dāng)歐盟的政客們打開(kāi)潘多拉魔盒時(shí),他們發(fā)現(xiàn)有兩個(gè)問(wèn)題必然會(huì)在歐盟的27個(gè)成員國(guó)之間引發(fā)激烈爭(zhēng)論。首先是面部識(shí)別——?dú)W洲制定了嚴(yán)格的個(gè)人隱私保護(hù)法,許多議員認(rèn)為面部識(shí)別侵犯了個(gè)人權(quán)利,強(qiáng)化了固有偏見(jiàn)。最終,歐盟的議員們同意把人工智能面部識(shí)別技術(shù)的使用限制在執(zhí)法領(lǐng)域,而且即便是在執(zhí)法領(lǐng)域,也只能用于偵破恐怖主義等嚴(yán)重犯罪。
其次是關(guān)于人工智能公司需要達(dá)到多大的規(guī)模,才會(huì)受到全部歐盟法規(guī)的約束的爭(zhēng)論。非政府組織歐洲企業(yè)觀察站(Corporate Europe Observatory)的活動(dòng)家布拉姆·弗蘭肯指出:“這確實(shí)給這些公司敲響了警鐘。”該組織的總部位于比利時(shí)布魯塞爾,負(fù)責(zé)監(jiān)督企業(yè)在歐洲各國(guó)首都的活動(dòng)。弗蘭肯所在的組織發(fā)現(xiàn),在人工智能相關(guān)法案投票表決前的數(shù)月里,谷歌(Google)、微軟(Microsoft)和其他科技巨頭花費(fèi)了數(shù)百萬(wàn)美元來(lái)游說(shuō)歐盟議員。
歐盟的首席談判代表圖多拉凱稱,他遭到游說(shuō)者和行業(yè)組織的短信和電子郵件轟炸,這些短信和電子郵件都在重復(fù)科技公司的談話要點(diǎn),他說(shuō):“都是要求召開(kāi)成百上千次會(huì)議?!边@對(duì)人工智能專家來(lái)說(shuō)不足為怪。耶魯大學(xué)(Yale University)新成立的數(shù)字倫理中心(Digital Ethics Center)的創(chuàng)始主任盧恰諾·弗洛里迪指出:“這些公司的權(quán)力比以往任何時(shí)候都大。它們的財(cái)力比世界上數(shù)百個(gè)國(guó)家都雄厚?!?/p>
籠罩在布魯塞爾談判上空的陰影是,各大公司的人工智能基礎(chǔ)模型,比如人工智能聊天機(jī)器人ChatGPT,用途多到幾乎不勝枚舉,如果落入惡意行為者的手中是否會(huì)帶來(lái)嚴(yán)重傷害。隨著OpenAI于2022年推出的ChatGPT的爆炸式流行,這種擔(dān)憂大大增加了。法國(guó)和德國(guó)極力主張保護(hù)本國(guó)的人工智能領(lǐng)軍企業(yè),尤其是總部位于法國(guó)巴黎的新創(chuàng)企業(yè)Mistral AI(由Meta和谷歌的前科學(xué)家創(chuàng)立)和德國(guó)的Aleph Alpha,這兩家公司都已經(jīng)籌集了數(shù)億美元的風(fēng)險(xiǎn)投資。
最終,歐盟的相關(guān)法案迫使大型科技巨頭(主要是美國(guó)公司)完全遵守規(guī)定,而歐洲的新創(chuàng)企業(yè)則可能要經(jīng)過(guò)數(shù)年的發(fā)展,才會(huì)受到同樣的規(guī)則的約束。美國(guó)吉布森律師事務(wù)所(Gibson Dunn & Crutcher)駐法國(guó)巴黎和英國(guó)倫敦專攻人工智能相關(guān)法律的律師羅伯特·斯帕諾說(shuō):“我們正處于對(duì)這一全新現(xiàn)象進(jìn)行監(jiān)管的早期階段。可能在未來(lái)十年內(nèi),人工智能都將是前進(jìn)兩步,后退一步。對(duì)于監(jiān)管的要求將會(huì)出現(xiàn)很多爭(zhēng)議?!?/p>
與歐盟的《人工智能法案》不同,美國(guó)總統(tǒng)喬·拜登政府的行政命令是一套供約50個(gè)聯(lián)邦機(jī)構(gòu)遵循的指導(dǎo)方針。根據(jù)該命令,企業(yè)需要為人工智能生成的內(nèi)容添加水印,測(cè)試其模型是否存在潛在的安全風(fēng)險(xiǎn),并投資于更多的人工智能工程師。但批評(píng)人士認(rèn)為,該命令缺乏執(zhí)行機(jī)制,淡化了人權(quán)問(wèn)題。雖然歐洲嚴(yán)格限制使用面部識(shí)別軟件,但美國(guó)將依靠其聯(lián)邦標(biāo)準(zhǔn)和技術(shù)機(jī)構(gòu)來(lái)測(cè)試這些新應(yīng)用程序。監(jiān)控美國(guó)和歐盟人工智能法規(guī)的非政府組織Don't Spy EU在分析拜登的行政命令時(shí)表示:“這聽(tīng)起來(lái)一點(diǎn)也起不到安撫人心的作用?!蓖瑯樱摻M織批評(píng)歐盟允許安全部門使用面部識(shí)別軟件,稱“無(wú)法預(yù)測(cè)執(zhí)法部門實(shí)際上會(huì)如何使用這些系統(tǒng)”。
對(duì)各國(guó)政府而言,人工智能競(jìng)賽對(duì)于鞏固本國(guó)在未來(lái)數(shù)年的政治影響力都至關(guān)重要。俄羅斯總統(tǒng)弗拉基米爾·普京早在2017年就說(shuō)過(guò):“誰(shuí)成為這一領(lǐng)域的領(lǐng)導(dǎo)者,誰(shuí)就將統(tǒng)治世界。”同樣,中國(guó)已經(jīng)宣布把人工智能技術(shù)作為一項(xiàng)重要的國(guó)家戰(zhàn)略。它向海外出口人工智能面部識(shí)別技術(shù)。
盡管意識(shí)形態(tài)存在沖突,甚至?xí)霈F(xiàn)敵對(duì)狀況,但各大企業(yè)堅(jiān)持認(rèn)為,全球范圍內(nèi)繁雜的規(guī)則應(yīng)該盡可能地實(shí)現(xiàn)標(biāo)準(zhǔn)化,以便于開(kāi)展業(yè)務(wù)。前沿模型論壇(Frontier Model Forum)是由OpenAI、微軟、谷歌和新興人工智能巨頭Anthropic于今年1月成立的行業(yè)組織,旨在推動(dòng)制定有利的人工智能相關(guān)法律。
歐盟的《人工智能法案》的墨跡還未干,歐盟的高級(jí)官員瑪格麗特·維斯塔格(Margrethe Vestager)就在今年1月初抵達(dá)美國(guó)加利福尼亞州舊金山,闡述該法案對(duì)大型科技公司的影響。維斯塔格有著不切實(shí)際的頭銜:建設(shè)適合數(shù)字時(shí)代的歐洲的執(zhí)行副主席。她也是丹麥政治家,過(guò)去十年曾經(jīng)在布魯塞爾發(fā)起對(duì)谷歌和蘋(píng)果(Apple)的反壟斷訴訟。在舊金山灣區(qū)為期兩天的閃電戰(zhàn)中,維斯塔格在與蘋(píng)果首席執(zhí)行官蒂姆·庫(kù)克、谷歌首席執(zhí)行官桑達(dá)爾·皮查伊、英偉達(dá)(Nvidia)首席執(zhí)行官黃仁勛和OpenAI首席執(zhí)行官薩姆·奧爾特曼的會(huì)面中來(lái)回奔波。
維斯塔格在上述會(huì)面中留出一小時(shí)與記者見(jiàn)面,她說(shuō)她已經(jīng)告訴所有人,人工智能法律不能再等了。她說(shuō):“當(dāng)ChatGPT推出時(shí),突然之間,全球所有人都或多或少地意識(shí)到,這是一件非常重要的事情?!碑?dāng)持懷疑態(tài)度的記者問(wèn)到,為什么大型科技公司會(huì)聽(tīng)從來(lái)自5,000英里(約8,046.72千米)外的議員的意見(jiàn)時(shí),維斯塔格直言不諱地說(shuō):“如果出現(xiàn)不合規(guī)的現(xiàn)象,我們隨時(shí)準(zhǔn)備立案調(diào)查?!彼a(bǔ)充道,根據(jù)《人工智能法案》,歐盟國(guó)家可以對(duì)違規(guī)企業(yè)處以最高3,000萬(wàn)美元的罰款,相當(dāng)于其全球收入的2%至6%,或者勒令其分拆實(shí)力雄厚的公司。
如果真能實(shí)現(xiàn)這一目標(biāo)的話,也可能需要數(shù)年時(shí)間。歐洲的相關(guān)法律要到2026年才能全面生效,而美國(guó)和英國(guó)的相關(guān)法律則落后于歐洲。然而,布魯塞爾的活動(dòng)已經(jīng)打響了發(fā)令槍。Tech Dynamics的懷曼說(shuō):“成功的幾率很小,但這并不意味著我們無(wú)計(jì)可施。”
*****
監(jiān)管輪盤(pán)賭
世界各國(guó)政府已經(jīng)提出人工智能法規(guī)或進(jìn)行相關(guān)的投票表決,形成了繁雜的規(guī)則。以下是它們?nèi)绾谓鉀Q一些首要問(wèn)題的:
面部識(shí)別
這是最具爭(zhēng)議的人工智能類別之一,受到民權(quán)組織的嚴(yán)厲批評(píng)。歐盟的《人工智能法案》把面部識(shí)別技術(shù)限制在執(zhí)法部門偵破恐怖主義等嚴(yán)重犯罪時(shí)使用。但美國(guó)總統(tǒng)喬·拜登的行政命令更為靈活,指示聯(lián)邦機(jī)構(gòu)在新系統(tǒng)推出時(shí)對(duì)其進(jìn)行評(píng)估。
版權(quán)
另一個(gè)熱點(diǎn)問(wèn)題是,作家和藝術(shù)家在美國(guó)法院提起了一系列訴訟,聲稱數(shù)家公司在未經(jīng)他們同意的情況下使用其內(nèi)容來(lái)訓(xùn)練算法。歐盟將要求各大公司披露它們使用的數(shù)據(jù),而拜登的命令則指示美國(guó)專利局(U.S. Patent Office)研究這個(gè)問(wèn)題并作報(bào)告。
深度偽造
全球監(jiān)管機(jī)構(gòu)在這一問(wèn)題上基本達(dá)成一致。歐盟和拜登都希望打擊人工智能生成的虛假圖像(或稱深度偽造圖像)的泛濫,并要求各大公司在虛假或合成內(nèi)容上添加水印,以便用戶能夠辨別圖片的真?zhèn)?。(?cái)富中文網(wǎng))
譯者:Zhy