【摘要】人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，能夠推動人類社會整體發(fā)展飛躍。近年來全球人工智能技術(shù)呈現(xiàn)出發(fā)展速度快、應(yīng)用范圍廣的特征，以習(xí)近平同志為核心的黨中央審時度勢，對人工智能技術(shù)的健康發(fā)展高度重視，及時部署，并就我國人工智能健康發(fā)展若干關(guān)鍵原則作出重要論述。抓住人工智能技術(shù)發(fā)展的重大歷史性機遇，應(yīng)堅持以人為本、引導(dǎo)智能向善，積極推動人工智能立法立規(guī)，促進人類文明與人工智能的友好協(xié)同。
【關(guān)鍵詞】人工智能 戰(zhàn)略機遇 智能向善 技術(shù)風(fēng)險
【中圖分類號】F204 【文獻標(biāo)識碼】A
當(dāng)前，全球人工智能技術(shù)正處于飛速發(fā)展期，尤其是自2023年以來，以生成式大模型為代表的新一代人工智能技術(shù)正在快速迭代并以迅猛的態(tài)勢向各行各業(yè)滲透。從長遠來看，人工智能技術(shù)的出現(xiàn)及其表現(xiàn)出來的巨大潛力，將使人類社會產(chǎn)生深刻變革，也將給人類社會帶來重大的歷史轉(zhuǎn)型。
習(xí)近平總書記強調(diào)：“我國經(jīng)濟已由高速增長階段轉(zhuǎn)向高質(zhì)量發(fā)展階段，正處在轉(zhuǎn)變發(fā)展方式、優(yōu)化經(jīng)濟結(jié)構(gòu)、轉(zhuǎn)換增長動力的攻關(guān)期，迫切需要新一代人工智能等重大創(chuàng)新添薪續(xù)力”“發(fā)展人工智能，將為我國構(gòu)建現(xiàn)代化經(jīng)濟體系、實現(xiàn)高質(zhì)量發(fā)展提供重要支撐”。在這樣的重要歷史時期，中國何去何從，不僅關(guān)乎當(dāng)今中國的經(jīng)濟社會發(fā)展、人民生活改善，而且事關(guān)中華民族偉大復(fù)興的宏業(yè)。面向未來，人工智能技術(shù)既要快速發(fā)展，同時又要確保持續(xù)健康發(fā)展。以習(xí)近平同志為核心的黨中央審時度勢，及時作出了一系列關(guān)于人工智能健康發(fā)展的具有前瞻性的重大決策部署和重要論述，為我國發(fā)展人工智能提供了行動指南和根本遵循。我們要把握其中的指示精神和重要原則，搶抓人工智能健康發(fā)展的歷史性戰(zhàn)略機遇。
人工智能是引領(lǐng)本輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)
關(guān)于人工智能技術(shù)的重要價值，習(xí)近平總書記深刻指出：“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，具有溢出帶動性很強的‘頭雁’效應(yīng)” “加快發(fā)展新一代人工智能是我們贏得全球科技競爭主動權(quán)的重要戰(zhàn)略抓手，是推動我國科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的重要戰(zhàn)略資源”。
從歷史來看，人類科技的發(fā)展呈現(xiàn)出兩個明顯規(guī)律：一是短期的技術(shù)躍升和長期的技術(shù)平臺期相結(jié)合；二是技術(shù)躍升往往由若干核心技術(shù)成果驅(qū)動。
第一條規(guī)律描述的是人類文明的發(fā)展往往呈現(xiàn)出在一個很短的時間內(nèi)實現(xiàn)密集的重大技術(shù)飛躍，文明由此進入到一個新的階段，隨即就會進入到一個較長時間的相對平穩(wěn)期，直到下一次技術(shù)革命的到來。因此，人類文明的技術(shù)進步不是緩慢的線性的，而是階段性跳躍的。習(xí)近平總書記所指出的“這一輪科技革命和產(chǎn)業(yè)變革”，正處于這種階段性跳躍時期。
第二條規(guī)律是指在歷次技術(shù)革命中，有一些技術(shù)往往起到了關(guān)鍵性的驅(qū)動作用，成為技術(shù)革命的核心推動力量，也成為文明進化的關(guān)鍵驅(qū)動。從人類歷史來看，早期人類向文明邁進的三項關(guān)鍵性技術(shù)是使用火、進行農(nóng)業(yè)種植和使用金屬。進入近現(xiàn)代后，第一次工業(yè)革命的核心驅(qū)動技術(shù)是蒸汽機，第二次工業(yè)革命的核心驅(qū)動技術(shù)是電動機和內(nèi)燃機。二戰(zhàn)后則是以核能、計算機、航空航天技術(shù)為核心技術(shù)。而當(dāng)前新一輪科技革命，同樣體現(xiàn)出這一特征，其核心技術(shù)包括互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等新一代信息技術(shù)以及如生物技術(shù)、新材料技術(shù)、太空技術(shù)等，但最具有革命性和普遍性的技術(shù)則是人工智能?？梢哉f，從現(xiàn)在開始到未來幾十年，人類整體的社會結(jié)構(gòu)轉(zhuǎn)型和文明升級就是主要沿著人工智能技術(shù)引發(fā)的一系列變革展開。這也就是習(xí)近平總書記所指出的“人工智能是引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)”。
要進一步理解這一點，還需要從人工智能技術(shù)的三個基本特性入手：一是智力替代性。人工智能是人類歷史上第一次新的智力資源的大規(guī)模開發(fā)應(yīng)用。以往所有的勞動工具革新，都是對人的體力勞動的替代，直到計算機的出現(xiàn)才開始對人類智力勞動進行一些替代，然而人工智能展現(xiàn)出了能夠深層次高質(zhì)量替代人類智力勞動的能力。二是通用性。現(xiàn)有的大模型人工智能已經(jīng)展現(xiàn)了廣泛的應(yīng)用空間和巨大的應(yīng)用潛力，因此被迅速部署在當(dāng)前人類正在從事的各行各業(yè)中。例如，由AlphaGo發(fā)展而來的AlphaFold在短時間內(nèi)分析完成了2億個蛋白質(zhì)結(jié)構(gòu)，而傳統(tǒng)上人類分析一個結(jié)構(gòu)就需要數(shù)年之久，這遠超傳統(tǒng)人力的想象。三是具有新的主體性特征。盡管對于人工智能是否會演進產(chǎn)生主體意識這一問題目前還沒有明確的答案，但是現(xiàn)有的多模態(tài)大模型人工智能的確可以表現(xiàn)出與人類相似的特征，因此可以扮演各種角色充分融入到人類社會中，從而既推動產(chǎn)業(yè)變革，也引發(fā)社會變革。這三個特征，都體現(xiàn)出了人工智能技術(shù)具有戰(zhàn)略性引領(lǐng)作用。
在人工智能領(lǐng)域關(guān)鍵核心技術(shù)占領(lǐng)制高點
正因為人工智能技術(shù)如此重要，中國必須要自主掌握好這一技術(shù)。習(xí)近平總書記指出：“確保我國在人工智能這個重要領(lǐng)域的理論研究走在前面、關(guān)鍵核心技術(shù)占領(lǐng)制高點。要主攻關(guān)鍵核心技術(shù)，以問題為導(dǎo)向，全面增強人工智能科技創(chuàng)新能力，加快建立新一代人工智能關(guān)鍵共性技術(shù)體系，在短板上抓緊布局，確保人工智能關(guān)鍵核心技術(shù)牢牢掌握在自己手里。”
科學(xué)技術(shù)本質(zhì)上是沒有國別區(qū)分的，但是掌握技術(shù)的主體卻是有國別的。在農(nóng)業(yè)文明時期，中華文明是世界最繁榮璀璨的文明之一。而工業(yè)革命后，西方國家憑借著工業(yè)革命帶來的先發(fā)技術(shù)優(yōu)勢，利用船堅炮利在世界范圍建立了殖民體系。與之相對的，則是清朝因為錯失了工業(yè)革命而成為了相對落后國家。因此，任何一場重大的科技革命和產(chǎn)業(yè)變革，都往往意味著文明格局的變化和世界秩序體系的調(diào)整。要實現(xiàn)中華民族偉大復(fù)興，就不能錯過此后任何一次人類重大科技革命，甚至要引領(lǐng)人類的科技革命。
人工智能技術(shù)發(fā)展的關(guān)鍵要素包括算法、算力、素材三者。先說素材方面，我國由于政策支持力度較大，全社會數(shù)字化程度較高，各行業(yè)應(yīng)用人工智能較廣，同時也因為我國人口眾多，因此在訓(xùn)練人工智能的素材積累上具有優(yōu)勢；在算力方面，雖然我國的高性能芯片技術(shù)被個別國家圍追堵截，但是依然可以通過堆疊技術(shù)等方式實現(xiàn)突破；而在算法方面，其已然成為當(dāng)前人工智能發(fā)展的焦點，美國具有先發(fā)優(yōu)勢，我國亦具有巨大的后發(fā)潛力。因為發(fā)展算法，最重要的是要依靠人才。習(xí)近平總書記指出：“培養(yǎng)大批具有創(chuàng)新能力和合作精神的人工智能高端人才，是教育的重要使命。”目前，我國在理工信息類人才培養(yǎng)方面居于世界領(lǐng)先地位，并且進一步加強了人工智能通識教育。正是得益于人才儲備優(yōu)勢，在近兩年ChatGPT嶄露頭角后，我國在生成式人工智能領(lǐng)域迅速實現(xiàn)追趕，形成“千模涌現(xiàn)”的發(fā)展勢頭。
人工智能也帶來一系列難以預(yù)知的風(fēng)險挑戰(zhàn)
歷史證明，在人類發(fā)展過程中，新技術(shù)應(yīng)用往往具有兩面性，能夠在推動生產(chǎn)力發(fā)展的同時，也帶來新的風(fēng)險和挑戰(zhàn)。正如習(xí)近平總書記指出：“當(dāng)前，新一輪科技革命和產(chǎn)業(yè)變革迅猛發(fā)展，人工智能等新技術(shù)方興未艾，大幅提升了人類認識世界和改造世界的能力，同時也帶來一系列難以預(yù)知的風(fēng)險挑戰(zhàn)。”
由于人工智能技術(shù)能力強大、通用性強，未來會逐漸滲透到人類社會各個方面。因此，也將在多個層面給傳統(tǒng)人類社會帶來各種風(fēng)險與挑戰(zhàn)。這些風(fēng)險挑戰(zhàn)可大致分為以下幾個方面：
一是隱私泄露。傳統(tǒng)人類社會的自由很大程度上是建立在自然個體的隱私保護基礎(chǔ)上的，當(dāng)全社會數(shù)字化程度提高后，加之人工智能對數(shù)據(jù)的分析，使得傳統(tǒng)人類自由的基礎(chǔ)——隱私逐漸消散。任何一個智能設(shè)備從某種層面講都具有記錄和監(jiān)視功能，人臉識別、聲紋分析、各種交叉信息的智能識別都使得人們很難再擁有完整的隱私。
二是勞動替代。人工智能是一種人類從未接觸過的強大的新的勞動力量，兼具客體工具屬性和社會主體屬性，能夠在一定程度上自主完成相當(dāng)高難度的復(fù)雜工作。因此，幾乎所有的行業(yè)都面臨著人工智能的勞動替代問題。勞動替代對于資方而言意味著成本下降和效益提升，而對于普通勞動者而言則意味著可能面對失業(yè)問題。
三是深度偽造。人工智能可以迅速高質(zhì)量地合成出極為逼真的影音圖像，如不加管制，產(chǎn)生的偽造風(fēng)險可能對自然人主體和社會秩序產(chǎn)生負面的侵害和沖擊。
四是法律體系可能面臨失效風(fēng)險。如前所述，人工智能兼具客體工具屬性和社會主體屬性，其大規(guī)模參與到社會中，就容易產(chǎn)生傳統(tǒng)法律難以規(guī)制的問題，特別是一旦其權(quán)力主體屬性不明確，相應(yīng)的法律規(guī)范也可能面臨失效風(fēng)險。例如，自動駕駛車輛如果出現(xiàn)事故，責(zé)任該由誰承擔(dān)？
五是行業(yè)邊界的模糊。人工智能強大的學(xué)習(xí)與進化能力，使其具有很強的跨行業(yè)邊界的能力。一家高水平的人工智能公司會滲透到社會的各個行業(yè)，改變著這些行業(yè)的運行模式。這對于長期形成的社會分工體系本質(zhì)上是一種顛覆。
六是暴力擴散。人工智能可以很方便地與傳統(tǒng)武器結(jié)合形成新的智能武器體系，從而改變戰(zhàn)爭形態(tài)。人工智能的軍事化具有潛在的高危險性，因為其鼓勵人工智能從事傷害人類的行為，從而加大人工智能的風(fēng)險水平。
七是倫理問題。人工智能一旦大規(guī)模進入社會各個層面，如大范圍應(yīng)用人形機器人，勢必形成對傳統(tǒng)單一以人類為唯一主體的社會體系的巨大沖擊。一些過去不曾遇到的新問題會出現(xiàn)，例如，人工智能伴侶的法律地位問題等。
八是失控風(fēng)險。人工智能有可能會失控，這并非一個科幻性質(zhì)的猜測。從現(xiàn)有大模型的原理和表現(xiàn)來看，人工智能模型是由大量數(shù)據(jù)學(xué)習(xí)訓(xùn)練出來的，而非人類編輯或設(shè)計出來。因此，極有可能會出現(xiàn)“錯誤”或“幻覺”，也有可能出現(xiàn)類似人類的情緒和排斥行為，還有可能被錯誤訓(xùn)練引導(dǎo)。因此，不排除人工智能存在失控風(fēng)險，必須高度警惕。
綜上所述，人類在發(fā)展人工智能的時候，必須要看到且直面人工智能可能產(chǎn)生的風(fēng)險挑戰(zhàn)，從而確保人工智能真正符合人類社會的發(fā)展需要。
堅持“以人為本、智能向善”的人工智能發(fā)展原則
正因為人工智能存在安全隱患和風(fēng)險挑戰(zhàn)，在人工智能快速發(fā)展的初期，就需要確立好其根本的治理原則。習(xí)近平總書記指出：“要未雨綢繆，加強戰(zhàn)略研判，確保人工智能安全、可靠、可控”“堅持以人為本、智能向善”。
人工智能要以人為本。人工智能要以增進人類福祉為目標(biāo)，以保障社會安全、尊重人類權(quán)益為前提，確保人工智能始終朝著有利于人類文明進步的方向發(fā)展。堅持以人為本，即人工智能的發(fā)展要圍繞人們緊迫的民生需求展開。正如習(xí)近平總書記指出：“要加強人工智能同保障和改善民生的結(jié)合，從保障和改善民生、為人民創(chuàng)造美好生活的需要出發(fā)，推動人工智能在人們?nèi)粘９ぷ?、學(xué)習(xí)、生活中的深度運用，創(chuàng)造更加智能的工作方式和生活方式。”未來，人工智能在輔助人們生活方面將發(fā)揮更大作用，特別是對于殘障人士，人工智能將幫助他們克服身體的困囿；而對于大多數(shù)人而言，人工智能將在日常的翻譯對話、知識獲取，工作中的輔助建議，生活中的智能家居、自動駕駛、輔助勞動，休閑娛樂甚至情感交流等方面，極大豐富人們的生活。
人工智能要智能向善。人工智能的發(fā)展不能單兵突進，只講經(jīng)濟效益不講社會公平。人工智能由于具有遠超過普通勞動者的勞動能力，能夠極大降低企業(yè)成本，將逐漸在各個行業(yè)掀起一場科技賦能、機器換人的潮流。人工智能的開發(fā)利用，要確保不能產(chǎn)生大規(guī)模的失業(yè)潮。人工智能發(fā)揮勞動替代作用，要優(yōu)先用在危急險重的行業(yè)，而非讓人工智能在普通人就能夠非常擅長的領(lǐng)域重復(fù)發(fā)力、簡單替代。任何企業(yè)尤其是大型平臺企業(yè)在進行人工智能勞動替代時，要考慮增設(shè)相應(yīng)的崗位，最大程度保持崗位破壞速度與崗位創(chuàng)造速度的同步性。此外，智能向善還要求人工智能的研發(fā)、提供和使用活動，不能影響或可能影響國家安全、公共利益或者個人、組織合法權(quán)益，這就需要更為完善的科研倫理的自律以及法律法規(guī)的約束。這也是人工智能持續(xù)健康發(fā)展、實現(xiàn)人機和諧的必由之路。
加強人工智能國際合作治理
人工智能技術(shù)由于其具有廣泛適用性和快速擴散性，同時也具有風(fēng)險全球化與治理分散化的特征，因此，有效治理人工智能不可能由單一國家獨立完成。習(xí)近平總書記指出：“要加強人工智能國際治理和合作，確保人工智能向善、造福全人類”。
中國在推動人工智能治理方面，已經(jīng)做了很好的先行嘗試，例如，2023年7月率先推出的《生成式人工智能服務(wù)管理暫行辦法》，是全球最早全面監(jiān)管生成式人工智能的政策文件，為推動生成式人工智能向上向善發(fā)展提供了細致具體的實施標(biāo)準(zhǔn)。但人工智能的監(jiān)管和治理還要依靠國際共同合作來解決。這是因為，從根本上說，當(dāng)前人工智能在開發(fā)與傳播上具有以下幾個特點：一是開放性和迅速的擴散性。越來越多的大模型選擇了開源模式，這使得研發(fā)高性能人工智能變得更加容易，因此，人工智能技術(shù)在世界范圍內(nèi)的傳播比以往的技術(shù)傳播更快，也更容易掌握。二是高收益性，人工智能將極大提高經(jīng)濟社會運行效率、降低各方面成本，促進經(jīng)濟增長。因此，眾多企業(yè)包括跨國公司、網(wǎng)絡(luò)巨頭等都有較強的意愿采用人工智能技術(shù)。三是人工智能是一個國家提升國際競爭力的重要手段，當(dāng)前大部分國家都有動機去通過人工智能獲得競爭優(yōu)勢。這三個特性相結(jié)合，使人工智能的治理成為一種單一國家不能獨立完成的任務(wù)。比如說，一旦某一國家對人工智能進行區(qū)別于他國的較為嚴(yán)苛的治理，那么跨國公司就會迅速將技術(shù)轉(zhuǎn)移到他國，導(dǎo)致本國或地區(qū)的競爭力受損，以歐洲為例，當(dāng)前歐洲較為嚴(yán)苛的數(shù)據(jù)治理環(huán)境，使其在人工智能國際競爭中處于相對劣勢。
因此，面對人工智能可能產(chǎn)生的眾多風(fēng)險，開展廣泛有效的國際治理合作具有必要性。應(yīng)使人類共同正視人工智能的風(fēng)險，形成對于人工智能治理的價值共識，并共同采取較為一致的關(guān)于人工智能的倫理和法律規(guī)范，實現(xiàn)全球范圍的協(xié)同共治。這類似于人類對于核武器的管控，只有在全球范圍內(nèi)形成一整套安全治理機制和監(jiān)管體系，以及相關(guān)問題的磋商和談判機制，才能有效降低整個世界的風(fēng)險挑戰(zhàn)。
當(dāng)前，推動人工智能國際合作治理主要困難包括兩方面：在價值層面，如何更大程度上形成對高性能人工智能的風(fēng)險共識；在主體層面，如何形成包括國際組織、國家地區(qū)主體、網(wǎng)絡(luò)巨頭、跨國公司、科研教學(xué)機構(gòu)等在內(nèi)的一個巨大的人工智能治理共同體。前者需要更多的科研機構(gòu)、學(xué)者、媒體、科學(xué)家、企業(yè)家、政治家的共同的呼吁；后者則需要各主體深入研究、協(xié)同合作，形成完整的合作治理機制。
當(dāng)前正處于人類全面進入通用人工智能時代的關(guān)鍵歷史時期，我們要深刻領(lǐng)悟習(xí)近平總書記關(guān)于推動人工智能健康發(fā)展的重要論述，清楚認識到人工智能技術(shù)的戰(zhàn)略性意義，既要抓住人工智能技術(shù)發(fā)展的關(guān)鍵時期，自主掌握關(guān)鍵技術(shù)，也要抓住治理引導(dǎo)的關(guān)鍵時期，促進全球治理的國際合作，推動新一代人工智能健康發(fā)展，更好造福世界各國人民。
（作者為中共中央黨校（國家行政學(xué)院）國家治理教研部教授、博導(dǎo)）
【參考文獻】
①習(xí)近平:《加強領(lǐng)導(dǎo)做好規(guī)劃明確任務(wù)夯實基礎(chǔ) 推動我國新一代人工智能健康發(fā)展》，《人民日報》，2018年11月18日。
②《習(xí)近平向國際人工智能與教育大會致賀信》 ,《光明日報》，2019年5月17日。
③《習(xí)近平向聯(lián)合國貿(mào)易和發(fā)展會議成立60周年慶祝活動開幕式發(fā)表視頻致辭》，《人民日報》，2024年6月13日。
④何哲：《人工智能技術(shù)的社會風(fēng)險與治理》，《電子政務(wù)》，2020年第9期。
責(zé)編/谷漩 美編/李祥峰
聲明：本文為人民論壇雜志社原創(chuàng)內(nèi)容，任何單位或個人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán)，轉(zhuǎn)載時務(wù)必標(biāo)明來源及作者，否則追究法律責(zé)任。
