近年來，隨著人工智能技術(shù)不斷取得迭代式發(fā)展，國際社會與各國政府也在加速推進對人工智能技術(shù)加以有效監(jiān)管的探索。在這一過程中，如何通過多方對話協(xié)調(diào)，最終實現(xiàn)具有包容性的全球人工智能技術(shù)治理框架，或?qū)⒃诤艽蟪潭壬蠜Q定，這項技術(shù)會增進人類福祉與團結(jié)，還是不幸與之相反。

　　一

　　當(dāng)?shù)貢r間5月21日，“人工智能首爾峰會”在韓國首爾開幕。此次峰會作為去年11月在英國召開的全球人工智能安全峰會的后續(xù)會議，由韓國與英國共同主辦，以“安全、創(chuàng)新、包容”為主題。

　　聯(lián)合國秘書長古特雷斯在峰會開幕式上表示，自去年英國布萊切利峰會召開以來，“我們看到了改變生活的技術(shù)進步，也看到了威脅生命的新風(fēng)險”。他認(rèn)為，需要就人工智能問題制定普適的防護措施，并定期開展對話。

　　有媒體指出，在去年的英國會議召開期間，人工智能技術(shù)還主要以單模態(tài)生成式人工智能（如文本、視頻）為代表，風(fēng)險與安全方面的關(guān)注點也聚焦在單模態(tài)內(nèi)容方面。而此后短短數(shù)月間，多模態(tài)生成式人工智能已經(jīng)成為行業(yè)發(fā)展的新重點，這令其生成內(nèi)容的真?zhèn)胃�難以鑒別，人工智能技術(shù)的風(fēng)險，也變得更加難以預(yù)測和難以控制。

　　在21日的線上峰會之后，與會各方發(fā)布人工智能《首爾宣言》，呼吁加強國際人工智能治理合作以及治理框架之間的互操作性，支持啟動首個國際人工智能安全研究所網(wǎng)絡(luò)，促使國家間形成對人工智能安全的共同理解，并在研究、標(biāo)準(zhǔn)和測試方面進行協(xié)調(diào)。

　　同日，包括微軟、亞馬遜、OpenAI等科技巨頭在內(nèi)的16家全球領(lǐng)先的人工智能科技公司，在峰會期間作出“前沿人工智能安全承諾”，將努力確保其最先進的人工智能模型的安全性，并實施負(fù)責(zé)任的治理，實現(xiàn)公開透明。

　　根據(jù)這項協(xié)議，一旦發(fā)生利用人工智能技術(shù)實施自動網(wǎng)絡(luò)攻擊等極端情況，且無法保證降低其風(fēng)險，這些企業(yè)將打開“緊急停止開關(guān)”，叫停人工智能模型的開發(fā)與部署進程。

　　二

　　就在首爾峰會召開的同日，歐洲理事會批準(zhǔn)了歐盟《人工智能法案》，這是世界上首部對人工智能進行全面監(jiān)管的法案。

　　該法案由歐盟委員會在2021年提出，經(jīng)過多輪談判和協(xié)商后，歐洲議會于今年3月13日批準(zhǔn)該法案。在獲得歐洲理事會批準(zhǔn)后，該法案還需經(jīng)歐洲議會和歐洲理事會主席簽署，于近日在歐盟官方公報上公布，并在公布20天后生效。

　　歐盟發(fā)布信息的顯示，《人工智能法案》采用基于風(fēng)險的方法，對不同風(fēng)險等級的人工智能系統(tǒng)實施分類監(jiān)管。風(fēng)險分為四類，風(fēng)險等級越高，管控越嚴(yán)格。

　　此外，歐盟的《人工智能法案》規(guī)定“適用于區(qū)域外”，這意味著在歐洲開展業(yè)務(wù)的各國企業(yè)都必須遵守該法案。

　　歐盟的目標(biāo)是，在2026年內(nèi)全面施行《人工智能法案》。不過，風(fēng)險級別最高的“禁止”條款預(yù)計率先于2024年底啟動適用。

　　除了本次通過的法案之外，此前歐盟在人工智能監(jiān)管領(lǐng)域還推出了一系列相關(guān)或配套的法律措施。例如，歐盟通過的《人工智能框架公約》，提出了一個涵蓋人工智能系統(tǒng)全生命周期的監(jiān)管法律框架；此外，歐盟還制定了《人工智能契約》，旨在幫助企業(yè)為剛剛通過的《人工智能法案》實施做好準(zhǔn)備。

　　有分析人士指出，從《通用數(shù)據(jù)保護條例》（GDPR）到《數(shù)字服務(wù)法案》《數(shù)字市場法案》，再到《人工智能法案》，歐盟在數(shù)字經(jīng)濟監(jiān)管上的創(chuàng)新不僅僅體現(xiàn)在具體的監(jiān)管措施，其規(guī)則輸出的“布魯塞爾效應(yīng)”也愈發(fā)凸顯，其嚴(yán)格的人工智能監(jiān)管模式或?qū)�對全球人工智能發(fā)展與應(yīng)用產(chǎn)生深遠(yuǎn)影響。

　　三

　　自2022年11月ChatGPT橫空出世以來，各類人工智能技術(shù)進入應(yīng)用爆發(fā)階段。從文生文，到文生圖（諸如 Midjourney），再到文生視頻（Sora大模型），乃至文生音樂（Suno V3大模型），人工智能產(chǎn)業(yè)發(fā)展已顯現(xiàn)出無限想象空間。

　　咨詢機構(gòu)麥肯錫預(yù)計，人工智能技術(shù)將給全球經(jīng)濟帶來超過7.9萬億美元價值，到2030年之前，如果生成式人工智能技術(shù)應(yīng)用于各行業(yè)，每年總經(jīng)濟效益高達(dá)6.1萬億美元至7.9萬億美元。

　　然而，就在首爾人工智能安全峰會召開之際，《科學(xué)》雜志發(fā)表了一篇由全球25位人工智能領(lǐng)域科學(xué)家撰寫的專家共識論文。文章認(rèn)為，當(dāng)今全球在保護人類免受人工智能技術(shù)可能滋生的風(fēng)險方面做得還不夠。文章建議，對于未來異常強大的人工智能系統(tǒng)，全球各國政府必須準(zhǔn)備好在監(jiān)管方面發(fā)揮帶頭作用。

　　更早些時候，一份由30多個國家的專家支持的全球人工智能安全報告顯示，如果人工智能技術(shù)的應(yīng)用得不到有效監(jiān)管，勞動力市場遭受大規(guī)模沖擊，利用人工智能技術(shù)實施的黑客攻擊或生物攻擊，以及社會對人工智能失去控制等風(fēng)險可能會出現(xiàn)。

　　在人工智能技術(shù)提速發(fā)展，以及與之相伴的越來越多的安全預(yù)警面前，全球人工智能技術(shù)監(jiān)管與治理體系的完善，也愈加成為迫在眉睫的嚴(yán)肅課題。

　　今年5月30日至31日，負(fù)責(zé)信息通信事務(wù)的聯(lián)合國專門機構(gòu)國際電信聯(lián)盟，將主辦人工智能向善峰會，邀請各國相關(guān)領(lǐng)域的領(lǐng)軍人物共商今后人工智能善治之道；今年9月，聯(lián)合國未來峰會也計劃通過《全球數(shù)字契約》作為峰會成果之一。