薛瀾 王凈宇
[摘要]人工智能發(fā)展已經(jīng)進(jìn)入大模型時(shí)代。在基礎(chǔ)研發(fā)加速推進(jìn)、產(chǎn)業(yè)應(yīng)用加速落地的前沿趨勢下，人工智能正負(fù)兩方面的外部性不斷釋放，在產(chǎn)生巨大經(jīng)濟(jì)社會(huì)發(fā)展收益的同時(shí)，也從內(nèi)生風(fēng)險(xiǎn)、應(yīng)用風(fēng)險(xiǎn)、經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)等多個(gè)維度對(duì)個(gè)體、國家乃至人類帶來不容忽視的安全威脅。在此背景下，技術(shù)發(fā)展和治理不同步、監(jiān)管者和被監(jiān)管者信息不對(duì)稱、風(fēng)險(xiǎn)防范成本和效益不對(duì)等、機(jī)制復(fù)合體治理不協(xié)調(diào)、地緣政治環(huán)境不穩(wěn)定等人工智能治理面臨的難點(diǎn)和挑戰(zhàn)進(jìn)一步暴露。對(duì)此，亟須從加大安全投入、健全監(jiān)管制度、鼓勵(lì)自我規(guī)制、加強(qiáng)國際治理合作等方面完善人工智能治理體系，更好應(yīng)對(duì)人工智能快速發(fā)展帶來的風(fēng)險(xiǎn)挑戰(zhàn)。
[關(guān)鍵詞]人工智能；前沿趨勢；風(fēng)險(xiǎn)挑戰(zhàn)；治理路徑
[中圖分類號(hào)]D63 [文獻(xiàn)標(biāo)識(shí)碼] A [文章編號(hào)] 1674-7453（2024）08-0004-10
2023年前后，以ChatGPT、Sora等為代表的大模型取得突破性發(fā)展，新一輪人工智能革命正在興起、人工智能接近“技術(shù)奇點(diǎn)”的討論空前激烈。[1]眾多研究者認(rèn)為，隨著大模型時(shí)代通用人工智能逐漸可能甚至即將成為現(xiàn)實(shí)，人工智能能力和自主性的大幅提高將進(jìn)一步放大其技術(shù)外部性，在給世界帶來巨大機(jī)遇的同時(shí)，也帶來了難以預(yù)知的各種風(fēng)險(xiǎn)和復(fù)雜挑戰(zhàn)。但是目前，世界各國對(duì)前沿人工智能造成的潛在風(fēng)險(xiǎn)回應(yīng)不足，相關(guān)的治理舉措相對(duì)于人工智能技術(shù)的快速發(fā)展存在滯后性。[2]正因?yàn)槿绱�，黨的二十屆三中全會(huì)審議通過的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》強(qiáng)調(diào)，完善推動(dòng)新一代信息技術(shù)、人工智能等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系，引導(dǎo)新興產(chǎn)業(yè)健康有序發(fā)展，提出了“完善生成式人工智能發(fā)展和管理機(jī)制”“建立人工智能安全監(jiān)管制度”兩項(xiàng)具體要求。[3]
在此背景下，研究大模型等人工智能發(fā)展的前沿趨勢、治理挑戰(zhàn)與應(yīng)對(duì)策略，對(duì)中國完善人工智能治理體系和監(jiān)管制度、確保人工智能“智能向善”具有重要的理論和現(xiàn)實(shí)意義。本文基于“發(fā)展趨勢—收益風(fēng)險(xiǎn)—治理挑戰(zhàn)—治理對(duì)策”的邏輯思路，結(jié)合人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用的最新進(jìn)展，分析前沿人工智能帶來的發(fā)展收益、安全風(fēng)險(xiǎn)和治理難點(diǎn)，最終提出加強(qiáng)人工智能治理的對(duì)策建議。
一、人工智能發(fā)展的前沿趨勢
自1956年美國達(dá)特茅斯會(huì)議正式提出人工智能概念以來，人工智能發(fā)展幾經(jīng)起落。直到21世紀(jì)人類進(jìn)入互聯(lián)網(wǎng)和大數(shù)據(jù)時(shí)代，計(jì)算機(jī)的計(jì)算和存儲(chǔ)能力大幅提升，萬物互聯(lián)和傳感技術(shù)的發(fā)展提供了豐富的數(shù)據(jù)資源，從大數(shù)據(jù)中自動(dòng)獲取知識(shí)的機(jī)器學(xué)習(xí)成為新一代人工智能的主要機(jī)制和技術(shù)驅(qū)動(dòng)力，人工智能由此進(jìn)入了新的快速發(fā)展期。[4]特別是近年來依靠先進(jìn)算法、整合多模態(tài)大數(shù)據(jù)、匯聚大量算力的大模型取得重要突破，在掀起新一輪人工智能發(fā)展熱潮的同時(shí)，不斷推動(dòng)人工智能邁向通用化的發(fā)展新階段。有研究認(rèn)為，迄今為止人工智能經(jīng)歷了兩個(gè)最重要的發(fā)展階段，其中之一就是當(dāng)前以ChatGPT為最新標(biāo)志，基于大數(shù)據(jù)的大模型時(shí)代。[5]在此背景下，人工智能發(fā)展進(jìn)一步提速，呈現(xiàn)出基礎(chǔ)研發(fā)加速推進(jìn)、產(chǎn)業(yè)應(yīng)用加速落地的整體趨勢。
�。ㄒ唬┤斯ぶ悄芑A(chǔ)研發(fā)加速推進(jìn)
基礎(chǔ)研究是科技創(chuàng)新的源頭和先導(dǎo)。從研究文獻(xiàn)、申請(qǐng)專利、開源項(xiàng)目等多個(gè)維度來看，人工智能領(lǐng)域的基礎(chǔ)研發(fā)速度不斷加快，奠定了當(dāng)前人工智能發(fā)展熱潮的重要基礎(chǔ)。
第一，人工智能研究文獻(xiàn)數(shù)量保持增長，機(jī)器學(xué)習(xí)異軍突起。學(xué)術(shù)期刊、著作、會(huì)議論文等多種形式的文獻(xiàn)發(fā)表數(shù)量是衡量不同領(lǐng)域基礎(chǔ)研究發(fā)展情況的重要指標(biāo)。根據(jù)斯坦福大學(xué)《2024年人工智能指數(shù)報(bào)告》，全球人工智能相關(guān)文獻(xiàn)的年度發(fā)表數(shù)量自2010年起保持增長態(tài)勢，2016年后更是進(jìn)入了快速增長階段，并于2021年和2022年達(dá)到了24萬篇以上的峰值。在各細(xì)分領(lǐng)域中，機(jī)器學(xué)習(xí)相關(guān)文獻(xiàn)發(fā)表數(shù)量于2016年后在人工智能研究中的占比快速上升，截至2022年已經(jīng)占到人工智能發(fā)表總數(shù)的三分之一左右，構(gòu)成了推動(dòng)本輪人工智能發(fā)展高潮的核心力量。[6]
第二，人工智能專利數(shù)量激增，中國在全球人工智能創(chuàng)新中發(fā)揮重要作用。相較于文獻(xiàn)數(shù)量，人工智能領(lǐng)域?qū)＠暾?qǐng)數(shù)量的快速增長期出現(xiàn)更晚，但爆發(fā)力更強(qiáng)。斯坦福大學(xué)《2024年人工智能指數(shù)報(bào)告》顯示，全球人工智能領(lǐng)域?qū)＠暾?qǐng)和授予數(shù)量在2010至2017年間保持穩(wěn)定，2018年后開始爆炸性增長。截至2022年，全球人工智能領(lǐng)域年度授權(quán)專利數(shù)量已經(jīng)突破6.2萬件，達(dá)到2018年的7倍以上。從國別比較的角度來看，中、美兩國在人工智能專利數(shù)量上占據(jù)絕對(duì)優(yōu)勢，中國自2013年以來更是一直高居全球榜首，2022年授權(quán)專利數(shù)量占到全球總量的61.13%，為全球人工智能技術(shù)的發(fā)展貢獻(xiàn)了重要力量。
第三，人工智能開源項(xiàng)目逐年遞增，2023年迎來快速爆發(fā)。開源是指將源代碼、設(shè)計(jì)文檔或其他創(chuàng)作內(nèi)容開放共享的技術(shù)開發(fā)和發(fā)行模式，歷經(jīng)40多年的發(fā)展，開源作為軟件行業(yè)創(chuàng)新引擎的地位不斷增強(qiáng)，已成為當(dāng)前極為重要的科技創(chuàng)新渠道。[7]人工智能領(lǐng)域開源項(xiàng)目的開發(fā)和開源生態(tài)的完善極大地推動(dòng)了全球人工智能的技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展。根據(jù)全球最大的開源社區(qū)GitHub統(tǒng)計(jì)，2011年至2023年的13年間，該平臺(tái)上的人工智能開源項(xiàng)目由845個(gè)增長至181萬個(gè)，增長超過2100倍。僅2023年一年，該平臺(tái)上就新增了近70萬個(gè)人工智能開源項(xiàng)目，點(diǎn)贊數(shù)量更是突破1220萬，達(dá)到了2022年的3倍以上。[8]
�。ǘ┤斯ぶ悄墚a(chǎn)業(yè)應(yīng)用加速落地
受益于人工智能基礎(chǔ)研發(fā)的推進(jìn)和技術(shù)范式的變革，產(chǎn)業(yè)界成為推動(dòng)人工智能發(fā)展的主要力量，人工智能應(yīng)用場景不斷豐富、產(chǎn)業(yè)生態(tài)日趨成熟，產(chǎn)業(yè)應(yīng)用的落地速度不斷加快。
第一， 產(chǎn)業(yè)界成為推動(dòng)人工智能發(fā)展的主要力量，技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用的聯(lián)系空前緊密。隨著大模型成為引領(lǐng)本輪人工智能革命的技術(shù)范式，擁有更多數(shù)據(jù)和算力資源的產(chǎn)業(yè)界逐漸超越學(xué)術(shù)界成為推動(dòng)人工智能發(fā)展的“主角”。根據(jù)Bommasani（2023）等學(xué)者統(tǒng)計(jì)，在2023年全球發(fā)布的149個(gè)人工智能基礎(chǔ)模型中，有72.5%來自產(chǎn)業(yè)界，僅有18.8%由學(xué)術(shù)界單獨(dú)完成。[9]EPOCH公司的統(tǒng)計(jì)進(jìn)一步顯示，產(chǎn)業(yè)界主導(dǎo)或參與訓(xùn)練的大模型在參數(shù)和算力使用等方面自2014年起開始逐漸超越學(xué)界，至2023年已經(jīng)形成絕對(duì)優(yōu)勢。[10]在此背景下，人工智能領(lǐng)域的產(chǎn)學(xué)研邊界不斷弱化，產(chǎn)業(yè)界主導(dǎo)的技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用正在充分互動(dòng)、深度融合，人工智能從技術(shù)研發(fā)到實(shí)際應(yīng)用的時(shí)間大大縮短。
第二， 人工智能技術(shù)性能大幅提高，產(chǎn)業(yè)應(yīng)用場景不斷豐富。得益于大模型、多模態(tài)等技術(shù)的快速發(fā)展，人工智能系統(tǒng)的技術(shù)能力在近5年大幅提高。根據(jù)斯坦福大學(xué)《2024年人工智能指數(shù)報(bào)告》，截至2023年底，人工智能已經(jīng)在圖像分類、基礎(chǔ)閱讀理解、自然語言推理、多語言理解、視覺推理等方面的標(biāo)準(zhǔn)化測試中超越或接近人類表現(xiàn)，僅在視覺常識(shí)推理、高級(jí)數(shù)學(xué)問題等方面暫時(shí)落后人類。隨著人工智能的技術(shù)表現(xiàn)在越來越多的領(lǐng)域超越人類，其應(yīng)用場景從傳統(tǒng)單一化的數(shù)據(jù)分析轉(zhuǎn)向更為廣泛的內(nèi)容創(chuàng)造，正在工業(yè)、醫(yī)療、金融、教育、電商、交通等諸多領(lǐng)域加速落地。
第三， 人工智能商業(yè)模式日趨多元，產(chǎn)業(yè)生態(tài)逐漸成熟。商業(yè)模式關(guān)乎技術(shù)創(chuàng)新能否完成從價(jià)值創(chuàng)造到價(jià)值實(shí)現(xiàn)的閉環(huán)。目前，在人工智能應(yīng)用場景不斷豐富、賦能能力不斷增強(qiáng)的背景下，以“模型即服務(wù)”（Model as a Service, MaaS）為主的人工智能產(chǎn)業(yè)生態(tài)逐漸成熟。在此模式下，人工智能供給側(cè)正在出現(xiàn)大模型廠商打造通用大模型底座和行業(yè)大模型、各類企業(yè)或個(gè)人小模型充分競爭的基礎(chǔ)業(yè)態(tài)。產(chǎn)業(yè)生態(tài)中基礎(chǔ)層的大模型廠商、中間層的中小科技企業(yè)、應(yīng)用層的傳統(tǒng)企業(yè)各司其職，正在不斷推動(dòng)人工智能產(chǎn)業(yè)應(yīng)用加速落地。
二、人工智能發(fā)展帶來的收益與風(fēng)險(xiǎn)
在基礎(chǔ)研發(fā)加速推進(jìn)、產(chǎn)業(yè)應(yīng)用加速落地的前沿趨勢下，人工智能正負(fù)兩方面的外部性不斷釋放，在產(chǎn)生巨大經(jīng)濟(jì)社會(huì)發(fā)展收益的同時(shí)，也帶來了一系列安全風(fēng)險(xiǎn)。
�。ㄒ唬┤斯ぶ悄軒淼陌l(fā)展收益
早在2018年，習(xí)近平總書記就在致世界人工智能大會(huì)的賀信中指出，新一代人工智能在全球范圍內(nèi)蓬勃興起，為經(jīng)濟(jì)社會(huì)發(fā)展注入了新動(dòng)能。[11]人工智能作為重要的前沿引領(lǐng)技術(shù)和顛覆性技術(shù)，其發(fā)展不僅可以帶來相關(guān)核心產(chǎn)業(yè)的巨大經(jīng)濟(jì)收益，還可以通過賦能千行萬業(yè)催生新產(chǎn)業(yè)、新模式、新動(dòng)能，助力解決可持續(xù)發(fā)展等人類共同面對(duì)的重要問題。
第一， 人工智能核心產(chǎn)業(yè)發(fā)展帶來巨大的經(jīng)濟(jì)收益。人工智能復(fù)雜的產(chǎn)業(yè)鏈環(huán)節(jié)和極高的技術(shù)附加值賦予了相關(guān)核心產(chǎn)業(yè)巨大的市場前景。以中國為例，工業(yè)和信息化部統(tǒng)計(jì)，截至2023年，中國人工智能核心產(chǎn)業(yè)規(guī)模已經(jīng)突破5000億元，企業(yè)數(shù)量超4500家。[12]按照國務(wù)院《新一代人工智能發(fā)展規(guī)劃》中的設(shè)計(jì)，到2030年，中國人工智能核心產(chǎn)業(yè)規(guī)模將超過1萬億元。[13]在可見的將來，人工智能核心產(chǎn)業(yè)將在國民經(jīng)濟(jì)中扮演越來越重要的角色。
第二，人工智能發(fā)展賦能千行百業(yè)。人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動(dòng)性很強(qiáng)的“頭雁”效應(yīng)。[14]早在2017年，中國就在《新一代人工智能發(fā)展規(guī)劃》中明確提出，人工智能將進(jìn)一步釋放歷次科技革命和產(chǎn)業(yè)變革積蓄的巨大能量，并創(chuàng)造新的強(qiáng)大引擎，重構(gòu)生產(chǎn)、分配、交換、消費(fèi)等經(jīng)濟(jì)活動(dòng)各環(huán)節(jié)，形成從宏觀到微觀各領(lǐng)域的智能化新需求，催生新技術(shù)、新產(chǎn)品、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式，引發(fā)經(jīng)濟(jì)結(jié)構(gòu)重大變革，深刻改變?nèi)祟惿a(chǎn)生活方式和思維模式，實(shí)現(xiàn)社會(huì)生產(chǎn)力的整體躍升�；谶@一判斷，《新一代人工智能發(fā)展規(guī)劃》明確提出了到2025年推動(dòng)新一代人工智能帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過5萬億元、2030年帶動(dòng)相關(guān)產(chǎn)業(yè)規(guī)模超過10萬億元的發(fā)展目標(biāo)。[15]結(jié)合人工智能發(fā)展的前沿趨勢來看，以大模型和生成式為代表的新型人工智能已經(jīng)初步具備通用性、涌現(xiàn)性等特征，在智能交互、決策輔助、智能建模等方面不斷取得突破性進(jìn)展，賦能帶動(dòng)作用進(jìn)一步加強(qiáng)。[16]在此背景下，中國于2024年推動(dòng)開展“人工智能+”行動(dòng)，旨在促進(jìn)人工智能與實(shí)體經(jīng)濟(jì)深度融合，以人工智能高質(zhì)量發(fā)展和高水平應(yīng)用培育經(jīng)濟(jì)發(fā)展新動(dòng)能。受到技術(shù)創(chuàng)新加速和政策扶持力度加大的雙重影響，人工智能帶動(dòng)的產(chǎn)業(yè)規(guī)模極有可能超過《新一代人工智能發(fā)展規(guī)劃》設(shè)定的發(fā)展目標(biāo)，對(duì)社會(huì)經(jīng)濟(jì)發(fā)展產(chǎn)生更為強(qiáng)大的推動(dòng)作用。
第三，人工智能為可持續(xù)發(fā)展提供新的解決思路�？沙掷m(xù)發(fā)展是破解當(dāng)前全球性問題的“金鑰匙”。[17]人工智能帶來的發(fā)展收益不只體現(xiàn)在經(jīng)濟(jì)效益方面，也體現(xiàn)在可助力人類解決可持續(xù)發(fā)展難題方面。根據(jù)《自然》雜志有關(guān)論文測算，在聯(lián)合國提出的無貧窮、零饑餓、性別平等、清潔能源、應(yīng)對(duì)氣候變化等17個(gè)可持續(xù)發(fā)展目標(biāo)的169個(gè)細(xì)分項(xiàng)目中，人工智能可以對(duì)其中134個(gè)產(chǎn)生積極作用，占比達(dá)到79%。例如，人工智能可以幫助人類整合多重形態(tài)的可再生能源，將電力需求與光能、風(fēng)能相匹配，持續(xù)改善全球能源利用效率；通過大規(guī)模數(shù)據(jù)分析幫助人類設(shè)計(jì)最優(yōu)化的環(huán)境保護(hù)行動(dòng)方案；可參與氣候變化影響的建模工作，增強(qiáng)人類應(yīng)對(duì)氣候變化的預(yù)警和治理能力……[18]不僅僅是學(xué)術(shù)界，產(chǎn)業(yè)界、政府部門和非政府組織也都在關(guān)注人工智能在可持續(xù)發(fā)展問題上可能發(fā)揮的重要作用。中國在《全球人工智能治理倡議》中就專門提出，積極支持以人工智能助力可持續(xù)發(fā)展，應(yīng)對(duì)氣候變化、生物多樣性保護(hù)等全球性挑戰(zhàn)，充分闡釋了人工智能協(xié)助人類推動(dòng)可持續(xù)發(fā)展的巨大潛力。
�。ǘ┤斯ぶ悄軒淼陌踩L(fēng)險(xiǎn)
鑒于人工智能技術(shù)巨大的影響力和外部性，人工智能發(fā)展在帶來各種發(fā)展收益的同時(shí)，也會(huì)帶來難以忽視的安全風(fēng)險(xiǎn)。對(duì)此，有學(xué)者基于技術(shù)邏輯將人工智能帶來的風(fēng)險(xiǎn)劃分為“技術(shù)失控風(fēng)險(xiǎn)”“技術(shù)非正當(dāng)使用風(fēng)險(xiǎn)”和“技術(shù)社會(huì)效應(yīng)風(fēng)險(xiǎn)”三類。[19]也有學(xué)者從分類治理的視角出發(fā)，將人工智能風(fēng)險(xiǎn)劃分為人工智能技術(shù)、產(chǎn)品或服務(wù)本身的“技術(shù)風(fēng)險(xiǎn)”和人工智能應(yīng)用過程中的關(guān)聯(lián)系統(tǒng)、環(huán)境及行為主體所產(chǎn)生的“業(yè)態(tài)風(fēng)險(xiǎn)”。[20]雖然不同領(lǐng)域的研究者基于各自研究視角對(duì)人工智能風(fēng)險(xiǎn)的分類方式有所不同，但總體上基本認(rèn)同人工智能發(fā)展將從技術(shù)本身、技術(shù)使用、社會(huì)影響各個(gè)維度對(duì)個(gè)體、國家乃至人類帶來不容忽視的安全威脅。
第一， 人工智能技術(shù)本身可能產(chǎn)生技術(shù)幻覺、算法歧視甚至技術(shù)失控等內(nèi)生風(fēng)險(xiǎn)。其一，人工智能產(chǎn)生不準(zhǔn)確或誤導(dǎo)性輸出的技術(shù)幻覺風(fēng)險(xiǎn)。既有研究認(rèn)為，當(dāng)前的大模型尚不具備判斷真假的機(jī)制和“知不知”的能力，其內(nèi)容輸出更接近于“重構(gòu)資訊”，在不可能窮盡所有代表性數(shù)據(jù)的情況下，無法確保輸出內(nèi)容的真實(shí)性。[21]加之訓(xùn)練數(shù)據(jù)過度擬合、上下文理解有限、模型架構(gòu)缺陷等技術(shù)問題的影響，人工智能在實(shí)際應(yīng)用過程中可能輸出錯(cuò)誤信息的技術(shù)幻覺問題很難在短時(shí)間內(nèi)得到解決，從而對(duì)內(nèi)容真實(shí)性要求較高的應(yīng)用場景構(gòu)成風(fēng)險(xiǎn)挑戰(zhàn)。其二，人工智能的算法歧視風(fēng)險(xiǎn)。目前，以深度學(xué)習(xí)等算法為代表的機(jī)器學(xué)習(xí)是人工智能領(lǐng)域主流的技術(shù)范式。這種算法基于“大數(shù)據(jù)集”進(jìn)行自我訓(xùn)練、自我學(xué)習(xí)最終形成“規(guī)則集”的過程，實(shí)質(zhì)上是對(duì)于過往人類社會(huì)模式特征的總結(jié)并將其用于對(duì)未來社會(huì)的感知與決策，不可避免地會(huì)復(fù)制并延續(xù)當(dāng)前社會(huì)的既有格局與特征。[22]受制于人和數(shù)據(jù)天然偏見的結(jié)構(gòu)性不平等，人工智能的技術(shù)發(fā)展階段和發(fā)展路徑?jīng)Q定了其在歧視面前近乎不設(shè)防的虛弱狀態(tài)。[23]人工智能難以消除的算法歧視又會(huì)進(jìn)一步放大使用者的偏見和沖突。其三，人工智能技術(shù)失控風(fēng)險(xiǎn)。以大模型、生成式為代表的新型人工智能需要通過機(jī)器學(xué)習(xí)特別是神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行訓(xùn)練，相關(guān)技術(shù)透明性和可解釋性不足的特性導(dǎo)致人工智能發(fā)生和涌現(xiàn)產(chǎn)生的機(jī)理目前仍是“黑箱”，[24]無論是用戶還是研發(fā)者都不能完全控制大模型的行為。在此背景下，一旦產(chǎn)生自我保護(hù)、自我發(fā)展意識(shí)的未來人工智能系統(tǒng)脫離人類控制，很有可能對(duì)人類生存構(gòu)成威脅。
第二， 人工智能技術(shù)的大規(guī)模普及可能產(chǎn)生誤用、濫用、惡用等應(yīng)用風(fēng)險(xiǎn)。人工智能作為一種重要的通用性、基礎(chǔ)性工具，一旦遭到誤用、濫用，極有可能造成數(shù)據(jù)泄露、深度偽造、恐怖主義、技術(shù)軍事化等風(fēng)險(xiǎn)。其一，數(shù)據(jù)隱私和信息安全風(fēng)險(xiǎn)。人工智能海量的訓(xùn)練數(shù)據(jù)往往包含用戶的隱私信息，在辦公、醫(yī)療、教育、交通等領(lǐng)域的垂直應(yīng)用更是涉及大量敏感數(shù)據(jù)，如果相關(guān)信息被錯(cuò)誤或惡意調(diào)用，將對(duì)信息安全構(gòu)成嚴(yán)重威脅。其二，深度偽造和低成本造假風(fēng)險(xiǎn)。當(dāng)前的人工智能技術(shù)可以利用多種神經(jīng)網(wǎng)絡(luò)模型實(shí)現(xiàn)文本、圖像、音頻、視頻等內(nèi)容的篡改、偽造和自動(dòng)生成，產(chǎn)生以假亂真的效果。雖然這種深度偽造技術(shù)在教育、娛樂等領(lǐng)域釋放了巨大的應(yīng)用潛力，但也顯著降低了造假成本，導(dǎo)致利用深度偽造技術(shù)仿冒他人身份實(shí)施違法犯罪行為的現(xiàn)象越來越常見。[25]其三，恐怖主義風(fēng)險(xiǎn)。人工智能技術(shù)的發(fā)展和普及客觀上增強(qiáng)了恐怖組織在不對(duì)稱沖突中的實(shí)力、降低了恐怖分子實(shí)施恐怖襲擊的成本，恐怖組織和極端勢力很可能利用人工智能技術(shù)擴(kuò)大行動(dòng)范圍，甚至更新恐怖主義的形態(tài)。[26]其四，技術(shù)軍事化風(fēng)險(xiǎn)。人工智能是軍事變革的潛在推動(dòng)者和力量倍增器，以致命性自主武器系統(tǒng)為代表的軍用人工智能技術(shù)的發(fā)展將嚴(yán)重沖擊既有的國際軍備控制體系，引發(fā)新一輪全球性軍備競賽，從而對(duì)全球戰(zhàn)略穩(wěn)定構(gòu)成嚴(yán)峻挑戰(zhàn)。[27]
第三，人工智能技術(shù)變革的顛覆性影響引發(fā)勞動(dòng)力結(jié)構(gòu)調(diào)整、社會(huì)不平等加劇等經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)。其一，對(duì)勞動(dòng)力市場造成沖擊。有研究認(rèn)為，人工智能不同于以往歷次科技革命和產(chǎn)業(yè)變革中的技術(shù)創(chuàng)新，其發(fā)展不僅可以拓展人類的生產(chǎn)能力、取代簡單重復(fù)性的常規(guī)工作，還可以通過學(xué)習(xí)執(zhí)行越來越多的認(rèn)知性工作，在一定程度上超越人類改造世界的工具和手段的范疇，具有以全新方式替代人類勞動(dòng)的潛質(zhì)。[28]相關(guān)研究表明，在人工智能通過替代效應(yīng)、創(chuàng)造效應(yīng)和生產(chǎn)率效應(yīng)影響勞動(dòng)力需求和工資水平的過程中，替代效應(yīng)暫時(shí)占據(jù)主導(dǎo)地位。其二，加劇社會(huì)不平等。從市場結(jié)構(gòu)的角度看，人工智能通過改變市場與行業(yè)結(jié)構(gòu)降低了勞動(dòng)收入份額；從技能結(jié)構(gòu)的角度看，人工智能通過推動(dòng)就業(yè)極化拉大了高收入群體和中低收入群體之間的收入差距�？傮w來看，人工智能技術(shù)進(jìn)步具有擴(kuò)大收入不平等的張力，在缺少有效公共政策的情況下將導(dǎo)致就業(yè)率下降、就業(yè)與工資極化、收入與財(cái)富不平等加劇等一系列問題，從而造成嚴(yán)重的社會(huì)不公平現(xiàn)象。[29]除此之外，還有研究者認(rèn)為，人工智能將改變?nèi)祟惿鐣?huì)的發(fā)展進(jìn)程，重新建構(gòu)和形塑人與自然、人與技術(shù)以及個(gè)體與國家、個(gè)體與社會(huì)的關(guān)系，[30]在推動(dòng)社會(huì)形態(tài)演變的過程中還有可能對(duì)經(jīng)濟(jì)安全和社會(huì)穩(wěn)定產(chǎn)生一系列目前難以預(yù)知的沖突與風(fēng)險(xiǎn)。
三、人工智能治理的難點(diǎn)與挑戰(zhàn)
人工智能的快速發(fā)展蘊(yùn)含巨大的發(fā)展機(jī)遇，也涉及一系列不容忽視的安全風(fēng)險(xiǎn)。對(duì)此，《新一代人工智能發(fā)展規(guī)劃》提出,要在大力發(fā)展人工智能的同時(shí)高度重視可能帶來的安全風(fēng)險(xiǎn)挑戰(zhàn)，確保人工智能安全、可靠、可控發(fā)展，為人工智能治理描繪了高標(biāo)準(zhǔn)、前瞻性的治理藍(lán)圖�！吨泄仓醒腙P(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》在進(jìn)一步全面深化改革的原則中同樣強(qiáng)調(diào)，堅(jiān)持系統(tǒng)觀念，處理好發(fā)展和安全等重大關(guān)系。[31]綜合人工智能發(fā)展的前沿趨勢及其產(chǎn)生的收益風(fēng)險(xiǎn)來看，目前主要存在以下五個(gè)方面的治理難點(diǎn)與挑戰(zhàn)。
�。ㄒ唬┘夹g(shù)發(fā)展和技術(shù)治理不同步
在人工智能基礎(chǔ)研發(fā)、產(chǎn)業(yè)應(yīng)用共同加速的背景下，人工智能發(fā)展同時(shí)具有快速迭代和不可預(yù)測的特征，對(duì)治理系統(tǒng)與技術(shù)系統(tǒng)的同步演進(jìn)提出了巨大挑戰(zhàn)。
其一，人工智能技術(shù)的迭代速度超出人類預(yù)期，現(xiàn)有治理系統(tǒng)的演進(jìn)速度難以追上技術(shù)系統(tǒng)的發(fā)展步伐。在技術(shù)創(chuàng)新規(guī)律方面，摩爾定律是預(yù)測計(jì)算機(jī)處理能力的經(jīng)典標(biāo)準(zhǔn)，但人工智能尤其是通用人工智能系統(tǒng)的進(jìn)化和迭代速度遠(yuǎn)遠(yuǎn)超出這一定律。在此背景下，如何克服社會(huì)、經(jīng)濟(jì)、法律等治理系統(tǒng)演進(jìn)的高昂成本，根據(jù)人工智能的發(fā)展情況及時(shí)完成治理體系的快速反應(yīng)、協(xié)同共振，是人工智能治理的重要挑戰(zhàn)。
其二，人工智能技術(shù)的智能涌現(xiàn)具有不可預(yù)測性，治理系統(tǒng)很難準(zhǔn)確預(yù)判人工智能的發(fā)展及其復(fù)雜的經(jīng)濟(jì)社會(huì)影響。一方面，與傳統(tǒng)技術(shù)變革相比，以大模型為代表的人工智能初步具備了自我創(chuàng)造、超強(qiáng)學(xué)習(xí)、超級(jí)進(jìn)化的特性，這一技術(shù)潛力導(dǎo)致人工智能技術(shù)的發(fā)展方向和突破節(jié)點(diǎn)難以預(yù)測。另一方面，未來通用人工智能、世界模型、實(shí)體智能等技術(shù)的發(fā)展可能引發(fā)社會(huì)經(jīng)濟(jì)結(jié)構(gòu)整體性、顛覆性變革，治理系統(tǒng)很難及時(shí)識(shí)別人工智能發(fā)展?jié)撛诘�、難以預(yù)知的沖突和風(fēng)險(xiǎn)，并提前針對(duì)相關(guān)風(fēng)險(xiǎn)做好準(zhǔn)備。
（二）監(jiān)管者和被監(jiān)管者信息不對(duì)稱
在當(dāng)前人工智能發(fā)展的前沿趨勢中，技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用的聯(lián)系空前緊密，產(chǎn)業(yè)界已經(jīng)成為推動(dòng)人工智能發(fā)展的主要力量，監(jiān)管者和被監(jiān)管者之間不斷擴(kuò)大的信息盲區(qū)構(gòu)成了人工智能治理的又一難點(diǎn)。
其一，監(jiān)管者很難準(zhǔn)確掌握技術(shù)發(fā)展的實(shí)時(shí)動(dòng)態(tài)。一般來說，政府作為監(jiān)管主體，在識(shí)別治理對(duì)象及其風(fēng)險(xiǎn)、權(quán)衡治理目標(biāo)、選擇治理工具時(shí)需要掌握技術(shù)創(chuàng)新和應(yīng)用的最新動(dòng)態(tài)；而被監(jiān)管者作為一線創(chuàng)新者和應(yīng)用者，對(duì)技術(shù)發(fā)展和技術(shù)風(fēng)險(xiǎn)問題具有天然的信息優(yōu)勢，雙方需要通過合適的“委托—代理”結(jié)構(gòu)設(shè)計(jì)來緩解信息不對(duì)稱問題。[32]但是人工智能創(chuàng)新應(yīng)用內(nèi)在邏輯的復(fù)雜性“黑箱”進(jìn)一步擴(kuò)大了雙方的信息差距，甚至有可能造成“共同無知”的新局面，從而放大了監(jiān)管者和被監(jiān)管者之間信息溝通、合作治理的難度。
其二，被監(jiān)管者很難明確監(jiān)管者的治理目標(biāo)。傳統(tǒng)技術(shù)系統(tǒng)自身的運(yùn)作邏輯、功能性能、應(yīng)用場景比較清晰，引致風(fēng)險(xiǎn)的原因及需要實(shí)現(xiàn)的治理目標(biāo)往往也較為明確。但是人工智能發(fā)展的快速迭代和不可預(yù)測性導(dǎo)致監(jiān)管者需要不斷探索、權(quán)衡、調(diào)整治理目標(biāo)和治理機(jī)制。在此背景下，被監(jiān)管者需要及時(shí)了解政府規(guī)制關(guān)切的最新變化，適應(yīng)人工智能時(shí)代治理要求的難度也在加大。
�。ㄈ╋L(fēng)險(xiǎn)防范成本和效益不對(duì)等
人工智能基礎(chǔ)性、通用性的技術(shù)特征在釋放巨大發(fā)展?jié)摿Φ耐瑫r(shí)大幅提高了風(fēng)險(xiǎn)防范成本，如何克服風(fēng)險(xiǎn)防范成本和效益的不對(duì)等，尋求發(fā)展和安全之間的最佳平衡，也是人工智能治理的難點(diǎn)所在。
正如前文所述，人工智能對(duì)人類社會(huì)的影響具有顛覆性，如果遭到誤用、濫用、惡用，可能引發(fā)社會(huì)、經(jīng)濟(jì)、軍事等領(lǐng)域的重大安全威脅，一旦脫離人類控制甚至還有可能對(duì)人類生存構(gòu)成威脅。如果不加以監(jiān)管和治理，這些切實(shí)存在的安全風(fēng)險(xiǎn)可能造成不可逆的嚴(yán)重后果。但另一方面，不同于需要大量基礎(chǔ)設(shè)施投入、物理可見性較強(qiáng)的傳統(tǒng)公共危險(xiǎn)源，人工智能的通用性和易得性使其潛在風(fēng)險(xiǎn)幾乎無處不在，極大提高了風(fēng)險(xiǎn)防范的社會(huì)成本。要全面防范人工智能帶來的安全風(fēng)險(xiǎn)需要耗費(fèi)大量的公共資源，甚至以部分犧牲人工智能發(fā)展為代價(jià)。如何在高昂的風(fēng)險(xiǎn)防范成本、巨大的潛在風(fēng)險(xiǎn)損失、不斷提升的風(fēng)險(xiǎn)概率之間權(quán)衡，是監(jiān)管者必須面對(duì)的重要考驗(yàn)。
�。ㄋ模C(jī)制復(fù)合體治理不協(xié)調(diào)
人工智能治理是涉及法律法規(guī)、行業(yè)標(biāo)準(zhǔn)、國際協(xié)調(diào)的復(fù)雜系統(tǒng)，需要不同國家、國際組織、相關(guān)企業(yè)的共同參與。如何在機(jī)制復(fù)合體的復(fù)雜框架下實(shí)現(xiàn)國際治理協(xié)調(diào)，是人工智能治理亟待解決的重要問題。
理論上，機(jī)制復(fù)合體是指在一定問題領(lǐng)域或一定地理范圍內(nèi)多種國際規(guī)則或國際行為體同時(shí)起到規(guī)范或治理作用的機(jī)制集合，具有治理主體多元、治理層次豐富、治理機(jī)制靈活、治理手段多樣等特征。[33]目前，以聯(lián)合國為代表的國際組織、以七國集團(tuán)為代表的多邊合作機(jī)制、以中美為代表的人工智能大國、以微軟和谷歌等為代表的跨國企業(yè)等各類國際行為體都在深度參與人工智能治理。這些參與主體在治理理念、關(guān)注議題、治理偏好、治理能力上存在差異，導(dǎo)致人工智能國際治理呈現(xiàn)嵌套、重疊、平行的碎片化局面，存在合理性、公平性、有效性等一系列治理赤字。[34]在此背景下，如何協(xié)調(diào)這些相互重疊、不同層次、不同訴求的參與主體，建立受到廣泛認(rèn)可的人工智能全球治理機(jī)制復(fù)合體，是人工智能治理的重要挑戰(zhàn)。
（五）地緣政治環(huán)境不穩(wěn)定
人工智能作為顛覆性的前沿技術(shù)，是大國博弈的關(guān)鍵領(lǐng)域。在當(dāng)前大國戰(zhàn)略競爭的地緣政治環(huán)境下，人工智能治理問題將變得更加復(fù)雜。
一方面，人工智能國際治理需要掌握前沿技術(shù)的大國建立溝通協(xié)調(diào)機(jī)制，通過信息交換和自我控制在國際治理體系中發(fā)揮更為積極的作用。[35]但另一方面，人工智能擁有從經(jīng)濟(jì)、軍事等多個(gè)維度影響國家力量對(duì)比，甚至引發(fā)新一輪大國興衰的巨大潛力。[36]大國戰(zhàn)略競爭的地緣政治環(huán)境導(dǎo)致大國協(xié)調(diào)變得更加困難，部分國家甚至以意識(shí)形態(tài)劃線或構(gòu)建排他性集團(tuán)，惡意阻撓他國人工智能發(fā)展，利用技術(shù)壟斷和單邊強(qiáng)制措施制造發(fā)展壁壘，惡意阻斷全球人工智能供應(yīng)鏈，不但阻礙全球人工智能發(fā)展，對(duì)人工智能治理也產(chǎn)生了負(fù)面影響。
四、人工智能的治理建議
2018年至今，習(xí)近平總書記多次強(qiáng)調(diào)要重視人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視風(fēng)險(xiǎn)防范，[37]為中國推動(dòng)人工智能創(chuàng)新發(fā)展和風(fēng)險(xiǎn)防范指明了方向。從2017年《新一代人工智能發(fā)展規(guī)劃》提出“加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展”的戰(zhàn)略要求，到2019年國家人工智能治理專家委員會(huì)推出8項(xiàng)具體的人工智能治理原則，再到2020年后一系列法律法規(guī)、管理辦法、指導(dǎo)意見、國際倡議的密集發(fā)布，中國的人工智能治理機(jī)制不斷完善，具有多元主體、多維共治、多種工具、敏捷協(xié)同特征的中國特色人工智能治理體系初見雛形。2024年7月，《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現(xiàn)代化的決定》提出“完善生成式人工智能發(fā)展和管理機(jī)制”“建立人工智能安全監(jiān)管制度”兩項(xiàng)具體要求，進(jìn)一步明確了下一階段人工智能的發(fā)展和治理方向。[38]結(jié)合人工智能發(fā)展的前沿趨勢、收益風(fēng)險(xiǎn)、治理難點(diǎn)來看，中國可以在當(dāng)前治理機(jī)制的基礎(chǔ)上，從以下幾個(gè)方面進(jìn)一步完善人工智能治理體系、建立人工智能安全監(jiān)管制度，更好應(yīng)對(duì)人工智能快速發(fā)展帶來的風(fēng)險(xiǎn)挑戰(zhàn)。
第一，加大人工智能安全領(lǐng)域的研發(fā)投入，加快人工智能安全治理能力建設(shè)。為了確保人工智能系統(tǒng)安全、可靠、可控，要對(duì)人工智能模型進(jìn)行嚴(yán)格的能力評(píng)估、對(duì)齊訓(xùn)練和紅線測試，并對(duì)各類潛在風(fēng)險(xiǎn)進(jìn)行及時(shí)的評(píng)估、追蹤、識(shí)別、防范和響應(yīng)，這些工作都需要大量的技術(shù)儲(chǔ)備和研發(fā)投入。但是目前，產(chǎn)業(yè)界和學(xué)術(shù)界過多關(guān)注提高人工智能系統(tǒng)能力的科技創(chuàng)新，對(duì)于人工智能安全和治理領(lǐng)域的研究相對(duì)不足。針對(duì)這一現(xiàn)象，包括三位圖靈獎(jiǎng)得主、一位諾貝爾獎(jiǎng)得主及姚期智、薛瀾等中國學(xué)者在內(nèi)的15位專家在《科學(xué)》（Science）雜志聯(lián)名發(fā)聲，呼吁至少將研發(fā)預(yù)算的三分之一投入人工智能安全研究。[39]對(duì)此，中國可以在建立未來產(chǎn)業(yè)投入增長機(jī)制的過程中通過提高研發(fā)費(fèi)用加計(jì)扣除比例等方式鼓勵(lì)和要求大型科技公司在生成式等前沿人工智能技術(shù)開發(fā)中圍繞風(fēng)險(xiǎn)防范問題提高研發(fā)投入；在建立科技發(fā)展、國家戰(zhàn)略需求牽引的學(xué)科設(shè)置調(diào)整機(jī)制和人才培養(yǎng)模式中重點(diǎn)加強(qiáng)人工智能安全和治理領(lǐng)域的人才培養(yǎng)，為人工智能安全監(jiān)管和穩(wěn)定發(fā)展提供人力基礎(chǔ)。
第二，建立審慎包容、分級(jí)分類的人工智能安全監(jiān)管制度，通過敏捷治理擺脫治理困境。如前所述，黨的二十屆三中全會(huì)將確保人工智能安全列入推進(jìn)國家安全體系和能力現(xiàn)代化的重要工作。鑒于人工智能的發(fā)展趨勢和技術(shù)特性，當(dāng)下很難確定其演變、用途、風(fēng)險(xiǎn)、回報(bào)，因而難以提前明確監(jiān)管對(duì)象和監(jiān)管內(nèi)容，相關(guān)治理只能在監(jiān)管互動(dòng)中前行。[40] 在此過程中，政府監(jiān)管部門可以采用敏捷治理的基本理念，推動(dòng)人工智能技術(shù)發(fā)展的利益相關(guān)方形成持續(xù)性的共同學(xué)習(xí)和探索機(jī)制，根據(jù)前沿人工發(fā)展及其帶來的收益風(fēng)險(xiǎn)及時(shí)調(diào)整治理對(duì)象和內(nèi)容，采用分級(jí)分類、監(jiān)管沙盒等方式，通過治理結(jié)構(gòu)、治理策略、治理工具的靈活創(chuàng)新克服人工智能治理和監(jiān)管的難點(diǎn)挑戰(zhàn)。
第三，重視企業(yè)科技創(chuàng)新主體地位，鼓勵(lì)行業(yè)和企業(yè)層面的自我規(guī)制。面對(duì)人工智能技術(shù)的快速迭代，政府部門一方面可以通過制定隨模型能力變強(qiáng)而更加嚴(yán)格的安全標(biāo)準(zhǔn)，要求企業(yè)對(duì)人工智能系統(tǒng)造成的可預(yù)防傷害承擔(dān)責(zé)任等措施加強(qiáng)外部規(guī)制。另一方面，產(chǎn)業(yè)界作為當(dāng)前人工智能科技創(chuàng)新最重要的推動(dòng)力量，也需要在人工智能的治理和監(jiān)管框架中發(fā)揮重要作用。對(duì)此，政府部門可以在外部監(jiān)督的基礎(chǔ)上，激勵(lì)引導(dǎo)行業(yè)組織和經(jīng)營主體發(fā)揮自律作用，通過行業(yè)標(biāo)準(zhǔn)、企業(yè)規(guī)范等被監(jiān)管者內(nèi)部的自我規(guī)制緩解人工智能領(lǐng)域日益突出的發(fā)展治理同步性問題和外部規(guī)制信息不對(duì)稱問題。
第四，依托多邊平臺(tái)，參與、引領(lǐng)人工智能全球治理。人工智能治理具有極強(qiáng)的外部性，攸關(guān)全人類命運(yùn)，是世界各國亟須共同應(yīng)對(duì)的重要挑戰(zhàn)，積極參與人工智能全球治理是中國引導(dǎo)人工智能健康有序發(fā)展的基礎(chǔ)和前提。面對(duì)協(xié)調(diào)機(jī)制復(fù)合體的治理難題，中國可以重點(diǎn)選擇在聯(lián)合國框架內(nèi)加強(qiáng)人工智能治理協(xié)作和標(biāo)準(zhǔn)塑造，以能力建設(shè)為抓手推動(dòng)構(gòu)建開放、公正、有效、具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
第五，完善雙邊對(duì)話機(jī)制，加強(qiáng)與主要人工智能大國的政策溝通。作為引領(lǐng)全球人工智能發(fā)展和治理的主要大國，主要人工智能大國的競合關(guān)系不僅事關(guān)雙邊關(guān)系大局，還會(huì)對(duì)全球人工智能治理成效甚至人類命運(yùn)產(chǎn)生重要影響。面對(duì)大國競爭等地緣政治因素干擾，中國可以基于中美元首舊金山會(huì)晤共識(shí)，在保持中美政府間人工智能對(duì)話的同時(shí)，積極推動(dòng)中美科學(xué)界、產(chǎn)業(yè)界之間的二軌對(duì)話，圍繞設(shè)置安全紅線、防范極端風(fēng)險(xiǎn)、推進(jìn)全球治理等雙方共同關(guān)切的問題加強(qiáng)對(duì)話、管控分歧、拓展合作，努力在大國戰(zhàn)略競爭的背景下實(shí)現(xiàn)人工智能發(fā)展和治理領(lǐng)域的大國協(xié)調(diào)。
[參考文獻(xiàn)]
[1]韓永輝,張帆,彭嘉成.秩序重構(gòu):人工智能沖擊下的全球經(jīng)濟(jì)治理[J].世界經(jīng)濟(jì)與政治,2023(1).
[2]Bengio Y,Yao A,Xue L,et al.Managing Extreme AI Risks Amid Rapid Progress[J].Science,2024(5).
[3][31][38]中共中央關(guān)于進(jìn)一步全面深化改革 推進(jìn)中國式現(xiàn)代化的決定[EB/OL].中國政府網(wǎng),https://www.gov.cn/zhengce/202407/content_6963770.htm.
[4]郭毅可.論人工智能歷史、現(xiàn)狀與未來發(fā)展戰(zhàn)略[J].人民論壇·學(xué)術(shù)前沿,2021(23).
[5]王天恩.人工智能通用化及其實(shí)現(xiàn)途徑[J].中國社會(huì)科學(xué),2024(3).
[6]Nestor Maslej et al.The AI Index 2024 Annual Report[EB/OL].AI Index Steering Committee,Institute for Human-Centered AI,https://aiindex.stanford.edu/wp-content/uploads/2024/05/HAI_AI-Index-Report-2024.pdf.
[7]隆云滔,王曉明,顧榮,包云崗.國際開源發(fā)展經(jīng)驗(yàn)及其對(duì)我國開源創(chuàng)新體系建設(shè)的啟示[J].中國科學(xué)院院刊,2021(12).
[8]Nestor Maslejet al.The AI Index 2024 Annual Report[EB/OL].AI Index Steering Committee,Institute for Human-Centered AI,https://aiindex.stanford.edu/wp-content/uploads/2024/05/HAI_AI-Index-Report-2024.pdf.
[9]Bommasani et al. The Foundation Model Transparency Index[J/OL].ArXiv Preprint ArXiv:2310.12941,2023(10).
[10]Parameter, Compute and Data Trends in Machine Learning[EB/OL].Epoch AI,https://epochai.org/blog/announcing-updated-pcd-database.
[11]習(xí)近平致信祝賀二〇一八世界人工智能大會(huì)開幕強(qiáng)調(diào) 共享數(shù)字經(jīng)濟(jì)發(fā)展機(jī)遇 共同推動(dòng)人工智能造福人類[N].人民日?qǐng)?bào),2018-09-18.
[12]賽迪智庫人工智能產(chǎn)業(yè)形勢分析課題組.2024年我國人工智能產(chǎn)業(yè)展望[J].軟件和集成電路,2024(1).
[13][15]國務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知(國發(fā)〔2017〕35號(hào))[EB/OL].中國政府網(wǎng),https://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.
[14]習(xí)近平在中共中央政治局第九次集體學(xué)習(xí)時(shí)強(qiáng)調(diào) 加強(qiáng)領(lǐng)導(dǎo)做好規(guī)劃明確任務(wù)夯實(shí)基礎(chǔ) 推動(dòng)我國新一代人工智能健康發(fā)展[N].人民日?qǐng)?bào),2018-11-01.
[16]段雨晨.以人工智能賦能高質(zhì)量發(fā)展[J].紅旗文稿,2024(7).
[17]習(xí)近平.堅(jiān)持可持續(xù)發(fā)展 共創(chuàng)繁榮美好世界——在第二十三屆圣彼得堡國際經(jīng)濟(jì)論壇全會(huì)上的致辭[N].人民日?qǐng)?bào),2019-06-07.
[18]Vinuesa R,Azizpour Het al.The Role of Artificial Intelligence in Achieving the Sustainable Development Goals[J].Nature Communications,2020(1).
[19]陳小平.人工智能:技術(shù)條件、風(fēng)險(xiǎn)分析和創(chuàng)新模式升級(jí)[J].科學(xué)與社會(huì),2021(2).
[20]薛瀾,賈開,趙靜.人工智能敏捷治理實(shí)踐:分類監(jiān)管思路與政策工具箱構(gòu)建[J].中國行政管理,2024(3).
[21]陳小平.大模型關(guān)聯(lián)度預(yù)測的形式化和語義解釋研究[J].智能系統(tǒng)學(xué)報(bào),2023(4).
[22]賈開.人工智能與算法治理研究[J].中國行政管理,2019(1).
[23]李成.人工智能歧視的法律治理[J].中國法學(xué),2021(2).
[24]張海柱.行動(dòng)者網(wǎng)絡(luò)理論視域下的算法黑箱與風(fēng)險(xiǎn)治理[J].科學(xué)學(xué)研究,2023(9).
[25]龍俊,王天禹.人工智能深度偽造技術(shù)的法律風(fēng)險(xiǎn)防控[J].行政管理改革,2024(3).
[26]謝磊.人工智能時(shí)代的恐怖主義:挑戰(zhàn)與應(yīng)對(duì)[J].和平與發(fā)展,2021(2).
[27]張煌,杜雁蕓.人工智能軍事化發(fā)展態(tài)勢及其安全影響[J].外交評(píng)論(外交學(xué)院學(xué)報(bào)),2022(3).
[28]李磊,王小霞,包群.機(jī)器人的就業(yè)效應(yīng)：機(jī)制與中國經(jīng)驗(yàn)[J].管理世界,2021(9).
[29]陳斌開,徐翔.人工智能與社會(huì)公平:國際經(jīng)驗(yàn)、影響機(jī)制與公共政策[J].國際經(jīng)濟(jì)評(píng)論,2024(3).
[30]侯利文,李亞璇.人工智能發(fā)展限度與社會(huì)可能[J].科技進(jìn)步與對(duì)策,2021(9).
[32]賈開,趙靜,傅宏宇.應(yīng)對(duì)不確定性挑戰(zhàn):算法敏捷治理的理論界定[J].圖書情報(bào)知識(shí),2023(1).
[33]KarenAlter,Kal Raustiala.The Rise of International Regime Complexity[J].Annual Review of Law and Social Science,2018(1).
[34]賈開,俞晗之,薛瀾.人工智能全球治理新階段的特征、赤字與改革方向[J].國際論壇,2024(3).
[35]高奇琦.從大國協(xié)調(diào)到全球性機(jī)制:人工智能大模型全球治理路徑探析[J].當(dāng)代世界,2024(5).
[36]傅瑩.人工智能對(duì)國際關(guān)系的影響初析[J].國際政治科學(xué),2019(1).
[37]中共中央政治局召開會(huì)議 分析研究當(dāng)前經(jīng)濟(jì)形勢和經(jīng)濟(jì)工作 中共中央總書記習(xí)近平主持會(huì)議[EB/OL].中國政府網(wǎng),https://www.gov.cn/yaowen/2023-04/28/content_5753652.htm.
[39]Bengio Y,Yao A,Xue Let al.Managing Extreme AI Risks Amid Rapid Progress[J].Science,2024(5).
[40]薛瀾,趙靜.人工智能國際治理:基于技術(shù)特性與議題屬性的分析[J].國際經(jīng)濟(jì)評(píng)論,2024(3).
--------------------------------------------------------------------------------
[基金項(xiàng)目]中國科技創(chuàng)新2030重大專項(xiàng)“新一代人工智能風(fēng)險(xiǎn)防范與治理手段研究”（2023ZD0121700）。
[作者簡介] 薛瀾，清華大學(xué)蘇世民書院院長，清華大學(xué)人工智能國際治理研究院院長，清華大學(xué)公共管理學(xué)院教授；王凈宇，清華大學(xué)“水木學(xué)者”博士后，清華大學(xué)人工智能國際治理研究院助理研究員。
