中國網(wǎng)/中國發(fā)展門戶網(wǎng)訊 當(dāng)前，數(shù)字技術(shù)已經(jīng)融入社會(huì)發(fā)展的方方面面，截至2022年底，我國的數(shù)字經(jīng)濟(jì)規(guī)模達(dá)到50.2萬億人民幣，占國內(nèi)生產(chǎn)總值（GDP）比重提升至41.5%，這標(biāo)志著我國國民經(jīng)濟(jì)和社會(huì)發(fā)展進(jìn)入了數(shù)字化時(shí)代。隨著大數(shù)據(jù)、深度學(xué)習(xí)等人工智能技術(shù)的飛速發(fā)展，以計(jì)算機(jī)、信息、通信等為代表的數(shù)字技術(shù)開始逐步轉(zhuǎn)變?yōu)橐韵乱淮ヂ?lián)網(wǎng)、生成式人工智能、虛擬現(xiàn)實(shí)、數(shù)字孿生等為主的數(shù)智技術(shù)。數(shù)據(jù)與智能逐漸成為推動(dòng)社會(huì)進(jìn)步的核心要素，成為經(jīng)濟(jì)社會(huì)發(fā)展的新動(dòng)力，以及政府和社會(huì)治理的新焦點(diǎn)。當(dāng)下，以ChatGPT為代表的生成式人工智能正在通過大模型賦能引發(fā)新一輪智能化浪潮，部分學(xué)者認(rèn)為新一代人工智能的奇點(diǎn)即將到來。然而，在推動(dòng)技術(shù)進(jìn)步的同時(shí)，數(shù)智技術(shù)的發(fā)展也給國家安全體系帶來了前所未有的挑戰(zhàn)。黨的二十大報(bào)告對(duì)推進(jìn)國家安全體系和能力現(xiàn)代化、堅(jiān)決維護(hù)國家安全和社會(huì)穩(wěn)定作出戰(zhàn)略部署，提出以新安全格局保障新發(fā)展格局。在社會(huì)形態(tài)發(fā)生深刻變革的當(dāng)下，統(tǒng)籌發(fā)展與安全無疑是一項(xiàng)復(fù)雜的系統(tǒng)工程。隨著數(shù)智技術(shù)從多層次的時(shí)空尺度上與社會(huì)、經(jīng)濟(jì)系統(tǒng)的各個(gè)功能結(jié)構(gòu)模塊產(chǎn)生深度耦合，其引發(fā)了數(shù)據(jù)濫用、算法歧視、就業(yè)市場(chǎng)波動(dòng)等一系列復(fù)雜的社會(huì)安全治理問題。面對(duì)這些困難與挑戰(zhàn)，深入剖析數(shù)據(jù)安全與隱私泄露、算法歧視與不公平性、技術(shù)壁壘與數(shù)字鴻溝、虛假消息與信息操縱等數(shù)智化發(fā)展風(fēng)險(xiǎn)的內(nèi)在機(jī)理，全面理解統(tǒng)籌發(fā)展和安全的深刻內(nèi)涵，推進(jìn)在經(jīng)濟(jì)、社會(huì)、文化等各個(gè)重點(diǎn)領(lǐng)域的數(shù)智安全新格局建設(shè)，對(duì)保障新發(fā)展格局至關(guān)重要。本文基于總體國家安全觀，從新發(fā)展格局的國際和國內(nèi)新特點(diǎn)出發(fā)，用微觀與宏觀視角剖析了新格局下的數(shù)智安全風(fēng)險(xiǎn)，提出了構(gòu)建數(shù)智安全新格局的整體框架，并討論了數(shù)智安全新格局和新發(fā)展格局的辯證關(guān)系，對(duì)數(shù)智時(shí)代的發(fā)展與安全的協(xié)同提出政策建議。

新發(fā)展格局的特點(diǎn)

在全面建成小康社會(huì)之后，我國開啟了全面建設(shè)社會(huì)主義現(xiàn)代化國家的新征程，形成了新的發(fā)展格局。與此同時(shí)，在數(shù)智技術(shù)的推動(dòng)下，不斷深刻變化的國際、國內(nèi)形勢(shì)也給當(dāng)前中國經(jīng)濟(jì)社會(huì)發(fā)展帶來了新的挑戰(zhàn)。因此，理解當(dāng)前國際和國內(nèi)形勢(shì)之下中國新發(fā)展格局所呈現(xiàn)出來的新特點(diǎn)，是構(gòu)建數(shù)智安全新格局的重要前提。

國際視角

工業(yè)革命后，資本主義現(xiàn)代化模式極大地推動(dòng)了生產(chǎn)力的進(jìn)步和生活方式的變革。然而，資本主義固有的矛盾也在不斷將整個(gè)人類的現(xiàn)代化進(jìn)程推向高度物化和不平衡的困境中。相比之下，中國式現(xiàn)代化道路通過構(gòu)建人類命運(yùn)共同體，將本國與世界的現(xiàn)代化發(fā)展聯(lián)系起來，是人類發(fā)展模式的創(chuàng)新，將深刻地影響世界現(xiàn)代化進(jìn)程。

國際上逆全球化趨勢(shì)加劇，過去幾十年形成的全球分工協(xié)作局面正在遭到破壞。俄烏沖突、巴以沖突改變著地緣政治局勢(shì)，給世界前景帶來巨大的不確定性。自2017年以來，美國對(duì)我國實(shí)施多輪制裁，我國亦提出反制措施，雙方政治、經(jīng)貿(mào)和安全往來遭遇困難。這些因素從技術(shù)、資金、市場(chǎng)等多個(gè)角度給我國的外部發(fā)展環(huán)境帶來了嚴(yán)峻的挑戰(zhàn)。

新冠疫情引發(fā)需求下降、生產(chǎn)萎縮、貿(mào)易受阻、物流中斷、失業(yè)激增，全球經(jīng)濟(jì)陷入衰退的巨大風(fēng)險(xiǎn)之中。為了應(yīng)對(duì)疫情，美國的大規(guī)模財(cái)政刺激政策加劇了全球通脹，導(dǎo)致美聯(lián)儲(chǔ)開啟加息模式，全球資金流動(dòng)性收緊，進(jìn)而增加中國企業(yè)和政府的外部融資成本。高強(qiáng)度的供給側(cè)沖擊直接體現(xiàn)在全球多個(gè)國家出現(xiàn)的大面積企業(yè)停工停產(chǎn)、職工失業(yè)、產(chǎn)業(yè)鏈和供應(yīng)鏈大范圍中斷。2023年8月的調(diào)查數(shù)據(jù)顯示：在新冠疫情的影響下，全球失業(yè)人數(shù)從2019年的1.92億人飆升到了2020年的2.35億人。盡管該指標(biāo)在2022年逐步恢復(fù)到了2.05億人，但依然相較疫情前增加了近1300萬的失業(yè)人口，且預(yù)計(jì)2023年還有回升的趨勢(shì)。

國內(nèi)視角

國內(nèi)經(jīng)濟(jì)由高速增長轉(zhuǎn)向高質(zhì)量發(fā)展。黨的十九大報(bào)告指出，我國社會(huì)主要矛盾已經(jīng)轉(zhuǎn)化為人民日益增長的美好生活需要和不平衡不充分的發(fā)展之間的矛盾。新時(shí)代下，經(jīng)濟(jì)發(fā)展需要從追求數(shù)量轉(zhuǎn)向追求更高的質(zhì)量。在供給端，高質(zhì)量發(fā)展意味著企業(yè)需要進(jìn)行產(chǎn)業(yè)體系結(jié)構(gòu)優(yōu)化，以創(chuàng)新動(dòng)力實(shí)現(xiàn)可持續(xù)發(fā)展。但這也會(huì)使企業(yè)在轉(zhuǎn)型過程中面臨陣痛和較大的運(yùn)營壓力。在需求端，高質(zhì)量發(fā)展是更平衡、更公平的發(fā)展，要求健全分配制度，減小城鄉(xiāng)差距、貧富差距，提升人民幸福感。

疫情后國內(nèi)經(jīng)濟(jì)亟待重回正軌。新冠疫情后，疊加錯(cuò)綜復(fù)雜的國際環(huán)境，民眾的動(dòng)機(jī)從追求利潤最大化轉(zhuǎn)為追求負(fù)債最小化，對(duì)經(jīng)濟(jì)社會(huì)發(fā)展重回正軌的期盼無比強(qiáng)烈。在這一階段，保障經(jīng)濟(jì)平穩(wěn)發(fā)展，對(duì)于民眾生活與社會(huì)和諧至關(guān)重要。

新發(fā)展格局下的數(shù)智安全風(fēng)險(xiǎn)

作為當(dāng)前先進(jìn)生產(chǎn)力的代表，數(shù)智技術(shù)在新發(fā)展格局中扮演著極其重要的角色。因此，進(jìn)一步推進(jìn)數(shù)智技術(shù)安全可控的發(fā)展對(duì)促進(jìn)經(jīng)濟(jì)社會(huì)的平穩(wěn)、高質(zhì)量發(fā)展就顯得尤為重要。基于總體國家安全觀的理念，筆者將數(shù)智安全所涉及的風(fēng)險(xiǎn)分為微觀的技術(shù)安全、個(gè)人安全，以及宏觀的經(jīng)濟(jì)安全、社會(huì)安全、文化安全等5個(gè)范疇（圖1）。其中，微觀安全問題可能隨著系統(tǒng)規(guī)模的擴(kuò)大涌現(xiàn)為宏觀問題，也可能在傳播和反饋的作用下引發(fā)級(jí)聯(lián)反應(yīng)，在短時(shí)間內(nèi)影響到系統(tǒng)的各個(gè)方面。

技術(shù)安全

基礎(chǔ)設(shè)施安全。數(shù)智技術(shù)的運(yùn)行需要依賴大量諸如服務(wù)器、數(shù)據(jù)中心和物聯(lián)網(wǎng)設(shè)備等基礎(chǔ)設(shè)施。如果數(shù)據(jù)基礎(chǔ)設(shè)施發(fā)生故障、被攻擊或遭受災(zāi)難，可能導(dǎo)致業(yè)務(wù)中斷、數(shù)據(jù)丟失、服務(wù)不可用，進(jìn)而帶來巨大的經(jīng)濟(jì)損失，甚至影響社會(huì)的穩(wěn)定和安全。例如，2022年12月18日，阿里云香港數(shù)據(jù)中心發(fā)生大規(guī)模服務(wù)中斷事件，直接導(dǎo)致澳門金融管理局、眾多本地外賣平臺(tái)及《澳門日?qǐng)?bào)》等傳媒應(yīng)用程序無法使用，對(duì)澳門社會(huì)層面的平穩(wěn)運(yùn)行產(chǎn)生了重大影響。

數(shù)據(jù)安全。隨著科技的發(fā)展和人類社會(huì)數(shù)據(jù)量的增加，數(shù)據(jù)的安全性及泄露風(fēng)險(xiǎn)也越來越受到人們的重視。2005—2022年，美國的數(shù)據(jù)泄露事件的數(shù)目整體呈上升趨勢(shì)，僅2022年就有1802起（圖2）。在數(shù)據(jù)存儲(chǔ)過程中，黑客攻擊或員工疏忽等可能導(dǎo)致客戶個(gè)人信息、財(cái)務(wù)記錄等敏感數(shù)據(jù)泄露。在數(shù)據(jù)使用過程中，員工或其他有權(quán)限訪問數(shù)據(jù)的人可能會(huì)濫用其權(quán)力，將出售敏感數(shù)據(jù)給競(jìng)爭(zhēng)對(duì)手或非法使用數(shù)據(jù)。2018年，英國的劍橋分析公司在未經(jīng)授權(quán)的情況下將數(shù)百萬Facebook（臉書）用戶的個(gè)人信息用于選民行為分析和推廣活動(dòng)，使得2家公司都面臨了嚴(yán)厲的輿論壓力、法律調(diào)查和監(jiān)管限制。同年，劍橋分析公司宣布破產(chǎn)。

模型安全。隨著深度學(xué)習(xí)成為人工智能模型的主流，深度神經(jīng)網(wǎng)絡(luò)的黑盒性所帶來的安全問題逐漸成為人們關(guān)注的焦點(diǎn)之一。另外，在ChatGPT等大規(guī)模語言模型快速席卷眾多行業(yè)和深入人們生活的同時(shí)，由其產(chǎn)生的錯(cuò)誤信息也給這項(xiàng)技術(shù)帶來了巨大的安全隱患。深度學(xué)習(xí)模型容易受到對(duì)抗樣本的攻擊。這些特殊設(shè)計(jì)的輸入數(shù)據(jù)可以欺騙模型并導(dǎo)致錯(cuò)誤的輸出結(jié)果，在自動(dòng)駕駛汽車、醫(yī)學(xué)診斷等場(chǎng)景中造成嚴(yán)重?fù)p失。大規(guī)模語言模型存在偏見問題。訓(xùn)練方法和數(shù)據(jù)集的局限性可能導(dǎo)致模型對(duì)某些人群或事物表現(xiàn)出不公正或不均衡的行為或決策結(jié)果。大規(guī)模語言模型存在幻覺問題。在當(dāng)前大模型生成的文本中，依然存在看似合理但實(shí)際上是虛構(gòu)或錯(cuò)誤的信息，這很可能導(dǎo)致使用者產(chǎn)生錯(cuò)誤的認(rèn)知。

個(gè)人安全

隱私安全。隱私安全指的是個(gè)體隱私數(shù)據(jù)泄露時(shí)，對(duì)其社會(huì)生活的危害。泄露的敏感信息（如身份證號(hào)、銀行賬號(hào)等）可能導(dǎo)致身份被盜竊、欺詐活動(dòng)，并帶來經(jīng)濟(jì)損失。另外，個(gè)人信息泄露可能導(dǎo)致謠言、侮辱、騷擾等不良行為，造成精神壓力和社交困擾。比如，家庭信息泄露可能導(dǎo)致敲詐勒索和人身安全的威脅。針對(duì)英國成年人的調(diào)查顯示，21%的人擔(dān)心隱私數(shù)據(jù)被公司傳遞給第三方，16%的人擔(dān)心成為詐騙對(duì)象，只有9%的人認(rèn)為沒有必要擔(dān)心（圖3）。同樣，在一項(xiàng)2022年針對(duì)中國網(wǎng)民的調(diào)查中，也有31%的人經(jīng)常拒絕網(wǎng)站的cookie（瀏覽活動(dòng)記錄）請(qǐng)求，25.5%的人表示擔(dān)心科技公司使用自己網(wǎng)上數(shù)據(jù)的方式（圖4）。

心智安全。隨著數(shù)智技術(shù)的發(fā)展，人們的精神狀態(tài)也可能受到環(huán)境和技術(shù)的影響。例如，社交媒體的過度使用可能導(dǎo)致時(shí)間浪費(fèi)、社交孤立感、焦慮和抑郁等問題；信息過載和注意力分散可能導(dǎo)致注意力不集中、記憶力減退和思維混亂；網(wǎng)絡(luò)上的匿名性和廣泛傳播渠道使得欺凌和騷擾行為更加便捷，給受害者帶來心理傷害和自尊問題。此外，數(shù)智技術(shù)還可能造成對(duì)人類主體價(jià)值、能力、交往方式的異化，剝奪人的選擇權(quán)利，削弱人的能力，以及引發(fā)精神危機(jī)和喪失人類尊嚴(yán)，同時(shí)也會(huì)帶來認(rèn)知極化和各種社交問題。

經(jīng)濟(jì)安全

技術(shù)穩(wěn)定風(fēng)險(xiǎn)。隨著數(shù)智技術(shù)深入各個(gè)經(jīng)濟(jì)領(lǐng)域，其微觀的技術(shù)安全問題可能引發(fā)宏觀經(jīng)濟(jì)系統(tǒng)的風(fēng)險(xiǎn)。無論是金融領(lǐng)域的區(qū)塊鏈、智能風(fēng)控模型，還是制造領(lǐng)域的供應(yīng)鏈管理系統(tǒng)出現(xiàn)故障或是受到攻擊，都可能會(huì)引發(fā)級(jí)聯(lián)反應(yīng)，導(dǎo)致整個(gè)交易系統(tǒng)或供應(yīng)鏈系統(tǒng)的癱瘓，進(jìn)而帶來巨大的經(jīng)濟(jì)損失。

技術(shù)壟斷風(fēng)險(xiǎn)。當(dāng)少數(shù)大型科技公司壟斷了某個(gè)智能技術(shù)市場(chǎng)時(shí)，可能削弱其他創(chuàng)業(yè)者和小型企業(yè)的競(jìng)爭(zhēng)力，抑制行業(yè)的創(chuàng)新力，阻礙市場(chǎng)的發(fā)展和進(jìn)步。此外，壟斷企業(yè)所控制的大量用戶數(shù)據(jù)可能侵犯?jìng)€(gè)人隱私權(quán)，而公眾則缺乏相應(yīng)的監(jiān)督和干預(yù)手段。

發(fā)展失衡風(fēng)險(xiǎn)。在數(shù)智化浪潮中，如果某些地區(qū)、群體或行業(yè)沒有抓住先發(fā)機(jī)遇，就很可能由于缺乏技術(shù)能力和資源而滯后于其他地區(qū)。研究報(bào)告顯示，中國東部地區(qū)的數(shù)字經(jīng)濟(jì)發(fā)展水平明顯領(lǐng)先于中部、西部、東北部，出現(xiàn)了明顯的不平衡特征。這種數(shù)智技術(shù)的不平衡發(fā)展與資源、財(cái)富、機(jī)會(huì)的不平衡分配，可能造成經(jīng)濟(jì)波動(dòng)、失業(yè)率上升、人口流失、貧富差距擴(kuò)大等問題，影響社會(huì)穩(wěn)定和諧。

系統(tǒng)性失業(yè)風(fēng)險(xiǎn)。數(shù)智技術(shù)的自動(dòng)化能力使得許多傳統(tǒng)勞動(dòng)任務(wù)被機(jī)器和軟件取代，進(jìn)而導(dǎo)致制造業(yè)、零售業(yè)、在線客服、金融服務(wù)業(yè)、物流行業(yè)等傳統(tǒng)崗位的大規(guī)模失業(yè)風(fēng)險(xiǎn)。盡管機(jī)器學(xué)習(xí)工程師、大語言模型的Prompt（提示）工程師等新興崗位需求會(huì)增加，但技術(shù)轉(zhuǎn)型過程中工人技能與人力市場(chǎng)需求不匹配和滯后的問題依然可能引起就業(yè)市場(chǎng)的階段性陣痛。

社會(huì)安全

虛假信息風(fēng)險(xiǎn)。互聯(lián)網(wǎng)和社交媒體的普及極大地提高了人們的每天接收到虛假信息的風(fēng)險(xiǎn)。深度偽造技術(shù)（Deepfake）等可以生成高度逼真的換臉圖片或視頻，然后用于制造政治謠言、虛假新聞或網(wǎng)絡(luò)欺詐。另外，惡意用戶可用ChatGPT等生成式人工智能自動(dòng)產(chǎn)生大量虛假文本，然后通過機(jī)器人賬號(hào)等手段，用于誤導(dǎo)網(wǎng)絡(luò)社區(qū)中用戶的價(jià)值觀。2020年，美國康奈爾大學(xué)科學(xué)聯(lián)盟的一項(xiàng)研究顯示全球英語媒體發(fā)布的3800余萬篇關(guān)于疫情的文章中，就有超過110萬篇文章包含虛假信息。

虛擬社交風(fēng)險(xiǎn)。隨著數(shù)智技術(shù)深刻重塑當(dāng)代人的社交方式，社交媒體、即時(shí)通信工具等平臺(tái)使得人們?cè)谔摂M空間中隨時(shí)隨地與家人、朋友，甚至全球范圍內(nèi)的陌生人進(jìn)行交流和互動(dòng)。然而，過度的虛擬社交除了容易讓人沉迷、浪費(fèi)精力，也可能導(dǎo)致人們面對(duì)面的社交互動(dòng)減少，從而加劇現(xiàn)實(shí)中的社交孤獨(dú)感。同時(shí)，一些別有用心的人可以在網(wǎng)絡(luò)上輕易地隱藏自己的真實(shí)身份和發(fā)布虛假信息，進(jìn)而引起誤導(dǎo)、欺騙等問題，給他人帶來心理上的傷害。

網(wǎng)絡(luò)暴力和霸凌。數(shù)智技術(shù)也極大地降低了網(wǎng)絡(luò)社交中使用辱罵、惡意評(píng)論、威脅和歧視性言論等暴力行為的門檻。惡意用戶可能通過公開或非法手段獲取、發(fā)布或散布他人的住址、照片等私人信息，將照片進(jìn)行篡改甚至淫穢化處理并傳播，以侮辱他人。這些行為可能會(huì)導(dǎo)致被霸凌對(duì)象出現(xiàn)自卑、焦慮、抑郁、自殺傾向等心理問題，也可能讓他們?cè)谖磥淼谋磉_(dá)過程中選擇自我審查或沉默，陷入惡性循環(huán)。2021年1月的一項(xiàng)針對(duì)2251位美國成年人的調(diào)查發(fā)現(xiàn)，41%的受調(diào)查用戶都親身經(jīng)歷過某種形式的網(wǎng)絡(luò)騷擾（圖5）。中國社會(huì)科學(xué)院發(fā)布的《2019年中國社會(huì)形勢(shì)分析與預(yù)測(cè)》（社會(huì)藍(lán)皮書）顯示：中國青少年在上網(wǎng)過程中遇到過暴力辱罵信息的比例為28.89%。其中，暴力辱罵以“網(wǎng)絡(luò)嘲笑和諷刺”“辱罵或者用帶有侮辱性的詞匯”居多，分別為74.71%、77.01%；其次為“惡意圖片或者動(dòng)態(tài)圖”（53.87%）和“語言或者文字上的恐嚇”（45.49%）。

文化安全

消費(fèi)主義。在市場(chǎng)經(jīng)濟(jì)高度發(fā)達(dá)的社會(huì)，“消費(fèi)主義”指的是個(gè)人通過購買商品和服務(wù)來追求滿足感與幸福感的思維方式和態(tài)度。基于數(shù)智技術(shù)的各種便捷購物平臺(tái)及廣告推銷算法在降低消費(fèi)門檻的同時(shí)，使得人們的消費(fèi)決策更容易被操縱和影響，過度關(guān)注個(gè)人欲望和即時(shí)滿足，陷入過度消費(fèi)的陷阱。在這種文化慣性的驅(qū)使下，社會(huì)資源容易被浪費(fèi)，個(gè)人的幸福感也在永恒的“賺錢—花錢—賺錢”循環(huán)中消磨殆盡。有研究針對(duì)中國年輕人的消費(fèi)狀態(tài)和主觀幸福感進(jìn)行了問卷調(diào)查，結(jié)果表明：消費(fèi)主義對(duì)出生于1995—2009年的年輕一代的主觀幸福感具有顯著的抑制作用。

文化碎片化。數(shù)智化的推薦系統(tǒng)、個(gè)性化定制技術(shù)在提高信息搜索效率的同時(shí)，也導(dǎo)致個(gè)體往往只接受同質(zhì)化、片面的信息和觀點(diǎn)，從而形成所謂的“信息繭房”。“繭房”中的個(gè)體反復(fù)強(qiáng)化自己的認(rèn)知，排斥其他觀點(diǎn)，形成大量的同質(zhì)化小型網(wǎng)絡(luò)社區(qū)，產(chǎn)生了大量的亞文化。當(dāng)不同文化背景的個(gè)體在網(wǎng)上碰撞，尤其是涉及言論自由、社會(huì)道德、宗教信仰等敏感話題時(shí)，就可能引發(fā)文化沖突和對(duì)立，加劇社會(huì)的緊張程度。

文化虛無主義。在新興的流行文化、工業(yè)文化、現(xiàn)代科學(xué)實(shí)用主義的影響和沖擊下，許多傳統(tǒng)文化的生存空間受到了擠占，進(jìn)而產(chǎn)生了文化虛無主義的現(xiàn)象。文化是國家、民族凝聚力的根基。盲目否定自己的文化、歷史，會(huì)極大地降低人們的集體認(rèn)同感，進(jìn)而影響意識(shí)形態(tài)的穩(wěn)定性。在數(shù)智技術(shù)不斷加速文化演進(jìn)的今天，如何在時(shí)代的潮流中站穩(wěn)精神的腳跟，防范文化虛無主義，成為了一個(gè)重要命題。

構(gòu)建數(shù)智安全新格局

黨的二十大報(bào)告中強(qiáng)調(diào)：“國家安全是民族復(fù)興的根基，社會(huì)穩(wěn)定是國家強(qiáng)盛的前提”。因此，面對(duì)數(shù)智時(shí)代下的各種安全風(fēng)險(xiǎn)，運(yùn)用系統(tǒng)觀念構(gòu)建數(shù)智安全新格局（圖6），是保障國家經(jīng)濟(jì)社會(huì)健康發(fā)展和社會(huì)平穩(wěn)運(yùn)行的必要舉措。

提高數(shù)智技術(shù)本身的安全

面對(duì)數(shù)智技術(shù)帶來的挑戰(zhàn)，我們不能盲目拒絕技術(shù)進(jìn)步，而應(yīng)該嘗試提高技術(shù)本身的安全性。

加密算法和區(qū)塊鏈可以保護(hù)信息安全。在信息傳輸過程中，可以使用DEA（數(shù)據(jù)加密算法）、RSA等對(duì)稱或非對(duì)稱加密算法，以及新興的基于量子

糾纏的通信方式降低數(shù)據(jù)非法訪問、篡改、竊取的風(fēng)險(xiǎn)。區(qū)塊鏈技術(shù)的去中心化和不可篡改性提高了數(shù)字金融交易的可靠性，有助于防范系統(tǒng)性的技術(shù)穩(wěn)定風(fēng)險(xiǎn)。

聯(lián)邦學(xué)習(xí)可以保護(hù)數(shù)據(jù)隱私。對(duì)于機(jī)器學(xué)習(xí)數(shù)據(jù)的安全，聯(lián)邦學(xué)習(xí)技術(shù)提出在多個(gè)本地分布式訓(xùn)練模型，然后將參數(shù)在中央服務(wù)器聚合，以此保障本地?cái)?shù)據(jù)的隱私性。

對(duì)抗魯棒技術(shù)可以提高深度學(xué)習(xí)模型的可靠性。針對(duì)深度學(xué)習(xí)模型的對(duì)抗樣本風(fēng)險(xiǎn)，對(duì)抗魯棒技術(shù)通過將對(duì)抗樣本加入訓(xùn)練過程或者設(shè)計(jì)檢測(cè)對(duì)抗樣本的機(jī)制，使模型能正確處理被擾動(dòng)過的對(duì)抗樣本。

優(yōu)化訓(xùn)練過程可以緩解大模型的偏見和幻覺問題。通過在訓(xùn)練過程中人為平衡數(shù)據(jù)集分布，引入公平性約束或額外優(yōu)化目標(biāo)，我們能夠引導(dǎo)大規(guī)模語言模型生成更安全、可靠、多樣化的內(nèi)容，從而避免由于偏見或虛假內(nèi)容引起的文化沖突。

利用數(shù)智技術(shù)保障數(shù)智安全

與此同時(shí)，也可以運(yùn)用某些數(shù)智技術(shù)來解決公共問題、促進(jìn)個(gè)人發(fā)展，降低數(shù)智技術(shù)帶來的經(jīng)濟(jì)、社會(huì)、文化風(fēng)險(xiǎn)。

數(shù)字媒體宣傳技術(shù)可以幫助公眾更好地適應(yīng)數(shù)智時(shí)代的新變化。例如，相關(guān)部門或公益組織可以通過社交媒體分享隱私泄露的實(shí)際案例，提高人們的隱私安全意識(shí)；通過在推薦系統(tǒng)中引入混合推薦策略，平臺(tái)能讓用戶接觸到更加多樣、異質(zhì)的內(nèi)容，從而打破“信息繭房”，優(yōu)化社區(qū)氛圍；通過創(chuàng)作更優(yōu)質(zhì)的文化作品并加大宣傳力度，國家可以促進(jìn)優(yōu)秀文化和先進(jìn)文化的形成，保障傳統(tǒng)文化的生存空間，減輕文化虛無主義的危害。

社會(huì)計(jì)算技術(shù)提供了一種自動(dòng)化防范數(shù)智化風(fēng)險(xiǎn)的方案。謠言檢測(cè)算法可以識(shí)別出社交媒體上的虛假信息，幫助平臺(tái)和相關(guān)部門組織謠言的傳播，加強(qiáng)社會(huì)信任和共識(shí)；文本情感識(shí)別技術(shù)可以幫助網(wǎng)絡(luò)社區(qū)管理者及時(shí)發(fā)現(xiàn)用戶的情緒波動(dòng)，降低發(fā)生網(wǎng)絡(luò)暴力事件的可能性，對(duì)需要幫助的人提供及時(shí)的心理干預(yù)；欺詐檢測(cè)算法可以及時(shí)檢測(cè)潛在的詐騙風(fēng)險(xiǎn)，提醒被欺詐者或者幫助警方調(diào)查分析。

數(shù)智服務(wù)技術(shù)能促進(jìn)社會(huì)公平和健康可持續(xù)發(fā)展。數(shù)字政府、智慧城市、智慧教育等數(shù)智技術(shù)大幅提高了公共服務(wù)的效率，促進(jìn)了社會(huì)的公平分配，也能在一定程度上改善地區(qū)間數(shù)智經(jīng)濟(jì)發(fā)展不平衡的問題。

制定數(shù)智安全法律法規(guī)和政策

相關(guān)法律為數(shù)智安全提供法理基礎(chǔ)。法律法規(guī)是維護(hù)社會(huì)秩序與穩(wěn)定、保障公民權(quán)利與自由、推進(jìn)社會(huì)公正與平等、保障社會(huì)安全與公共利益、保障經(jīng)濟(jì)社會(huì)發(fā)展的必要工具，也是推動(dòng)數(shù)智安全建設(shè)的重要手段。在國際上，《歐盟通用數(shù)據(jù)保護(hù)條例》（GDPR）針對(duì)歐盟成員國的個(gè)人數(shù)據(jù)保護(hù)和隱私進(jìn)行了細(xì)化的規(guī)定，包括對(duì)數(shù)據(jù)主體的知情權(quán)、同意權(quán)等。許多國際組織和行業(yè)協(xié)會(huì)也正在積極制定適用于人工智能的倫理準(zhǔn)則和行為規(guī)范，如聯(lián)合國教科文組織（UNESCO）的《人工智能倫理問題建議書》等。在國內(nèi)，2021年通過的《中華人民共和國個(gè)人信息保護(hù)法》明確了對(duì)個(gè)人信息的處理原則、個(gè)人在信息處理活動(dòng)中的權(quán)利和個(gè)人信息處理者的義務(wù)，并對(duì)個(gè)人信息的收集、使用、存儲(chǔ)和傳輸?shù)刃袨樘岢雒鞔_規(guī)定，禁止“大數(shù)據(jù)殺熟”規(guī)范自動(dòng)化決策，同時(shí)加強(qiáng)了相關(guān)機(jī)構(gòu)的監(jiān)管和處罰。

社會(huì)政策為數(shù)智安全提供實(shí)踐支持。針對(duì)數(shù)智化浪潮中個(gè)體層面的心智健康問題和社會(huì)層面的發(fā)展失衡、系統(tǒng)性失業(yè)問題，政府可以通過相關(guān)的政策來保證社會(huì)轉(zhuǎn)變過程的平穩(wěn)過渡。一方面，政府可以增加心理健康服務(wù)的投入、建立心理健康熱線、開設(shè)心理咨詢中心，幫助人們應(yīng)對(duì)智能化浪潮帶來的心理壓力和問題。另一方面，政府可以通過財(cái)政資金的傾斜、給予優(yōu)惠政策、創(chuàng)立人才培養(yǎng)基地等方法，鼓勵(lì)相對(duì)落后地區(qū)加大數(shù)字和智能化發(fā)展的投入，進(jìn)而縮小地區(qū)之間的發(fā)展差距。對(duì)于失業(yè)人員，政府可以加大對(duì)技能培訓(xùn)的投資力度，或者提供更多的創(chuàng)業(yè)支持政策，幫助他們順應(yīng)智能化時(shí)代的新需求。

以數(shù)智安全新格局保障新發(fā)展格局

安全是發(fā)展的前提，發(fā)展是安全的保障。黨的二十大報(bào)告中強(qiáng)調(diào)：“以新安全格局保障新發(fā)展格局”。在數(shù)智技術(shù)推動(dòng)發(fā)展的時(shí)代，需要把握好數(shù)智安全與經(jīng)濟(jì)社會(huì)發(fā)展之間的辯證關(guān)系，以數(shù)智安全新格局保障新發(fā)展格局。

數(shù)智安全新格局作為新發(fā)展格局的保障

數(shù)智安全新格局促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展的機(jī)理可以從保障穩(wěn)定、刺激創(chuàng)新、加速生產(chǎn)、增強(qiáng)韌性4個(gè)維度進(jìn)行闡述。

保障穩(wěn)定。數(shù)智安全新格局保障了社會(huì)和經(jīng)濟(jì)系統(tǒng)的長期平穩(wěn)運(yùn)行，有助于國家的長遠(yuǎn)發(fā)展和民眾生活的安寧和諧。

激發(fā)創(chuàng)新。數(shù)智安全的需求能激發(fā)創(chuàng)新發(fā)展能動(dòng)性，增強(qiáng)公眾和企業(yè)對(duì)政府推動(dòng)創(chuàng)新的信任，促進(jìn)多主體參與數(shù)智化建設(shè)，提高市場(chǎng)活力。

加速生產(chǎn)。數(shù)智安全的需求有助于提高全要素生產(chǎn)率增速，通過數(shù)智化轉(zhuǎn)型改造基礎(chǔ)核心行業(yè)和領(lǐng)域，從而推動(dòng)整個(gè)國民經(jīng)濟(jì)生產(chǎn)網(wǎng)絡(luò)的發(fā)展。

增強(qiáng)韌性。安全的數(shù)智技術(shù)為增強(qiáng)產(chǎn)業(yè)鏈韌性提供數(shù)據(jù)、技術(shù)和基礎(chǔ)設(shè)施支撐，充分利用數(shù)據(jù)的乘數(shù)效應(yīng)，提升產(chǎn)業(yè)鏈的動(dòng)態(tài)了解和風(fēng)險(xiǎn)應(yīng)對(duì)能力。同時(shí)，數(shù)智安全新格局的構(gòu)建還推動(dòng)了信息通信網(wǎng)絡(luò)和算力基礎(chǔ)設(shè)施的發(fā)展，為產(chǎn)業(yè)的互聯(lián)網(wǎng)和數(shù)字化轉(zhuǎn)型提供堅(jiān)實(shí)基礎(chǔ)，確保產(chǎn)業(yè)鏈的自主可控性。

新發(fā)展格局作為數(shù)智安全新格局的目的

發(fā)展和安全是一體之兩翼、驅(qū)動(dòng)之雙輪，二者相輔相成、不可偏廢。技術(shù)的進(jìn)步和經(jīng)濟(jì)社會(huì)的發(fā)展為數(shù)智安全的建設(shè)提供了物質(zhì)基礎(chǔ)和手段。

國家需要在安全和創(chuàng)新之間找到平衡。過于強(qiáng)調(diào)安全可能抑制創(chuàng)新、限制發(fā)展，并帶來不良后果。此外，過度關(guān)注安全還可能導(dǎo)致資源過度集中在數(shù)智安全領(lǐng)域，從而減少在其他領(lǐng)域的投資，進(jìn)而限制經(jīng)濟(jì)的全面發(fā)展。因此，在有限的資源下，國家需要根據(jù)風(fēng)險(xiǎn)評(píng)估和優(yōu)先級(jí)確定資源的分配。

國家需要?jiǎng)討B(tài)調(diào)整平衡，制定科學(xué)合理的安全策略。在實(shí)踐中，完全消除復(fù)雜的社會(huì)系統(tǒng)中所有安全隱患是不現(xiàn)實(shí)的。因此，在保證基本安全的前提下，國家需要?jiǎng)討B(tài)調(diào)整安全和創(chuàng)新之間的平衡，建立靈活的安全策略和資源分配機(jī)制，以面對(duì)各種復(fù)雜的形勢(shì)，提升整個(gè)社會(huì)系統(tǒng)的穩(wěn)健性。

數(shù)智安全和經(jīng)濟(jì)社會(huì)發(fā)展之間螺旋式的協(xié)同演進(jìn)關(guān)系

通過實(shí)現(xiàn)數(shù)智安全新格局與新發(fā)展格局的均衡，安全與發(fā)展可以形成一種螺旋式的協(xié)同演進(jìn)關(guān)系模式。數(shù)智安全的發(fā)展需要建立在穩(wěn)定的經(jīng)濟(jì)與社會(huì)環(huán)境之上，而經(jīng)濟(jì)和社會(huì)的發(fā)展也需要數(shù)智技術(shù)的支持和保障。在科技與創(chuàng)新的推動(dòng)下，數(shù)智技術(shù)的進(jìn)步可以為社會(huì)提供更多的安全保障，如提高技術(shù)本身的安全和促進(jìn)個(gè)人發(fā)展等；同時(shí)，也為經(jīng)濟(jì)發(fā)展提供了新的機(jī)會(huì)，推動(dòng)產(chǎn)業(yè)升級(jí)和創(chuàng)新。在實(shí)現(xiàn)這一目標(biāo)的過程中，需要關(guān)注安全和發(fā)展的平衡，避免過度偏重于其中一方而忽視了另一方的重要性。只有通過均衡發(fā)展，數(shù)智安全新格局和新發(fā)展格局才能實(shí)現(xiàn)互相促進(jìn)和共同進(jìn)步的良性循環(huán)。

結(jié)論與展望

在數(shù)智技術(shù)的推動(dòng)下，國際的環(huán)境和國內(nèi)的社會(huì)都在經(jīng)歷深刻的結(jié)構(gòu)與功能變化，治理的復(fù)雜度也遠(yuǎn)遠(yuǎn)超出傳統(tǒng)的發(fā)展與安全理論的范疇。針對(duì)數(shù)智技術(shù)所帶來的新風(fēng)險(xiǎn)，從技術(shù)、文化、法律、政策等多角度構(gòu)造數(shù)智安全新格局，對(duì)于國家經(jīng)濟(jì)穩(wěn)定發(fā)展具有重要意義。在機(jī)遇與挑戰(zhàn)并存的數(shù)智時(shí)代，安全和發(fā)展應(yīng)當(dāng)被視為一個(gè)整體。只有正確地平衡、協(xié)調(diào)安全與發(fā)展的關(guān)系，才能實(shí)現(xiàn)數(shù)智時(shí)代經(jīng)濟(jì)與社會(huì)的長期繁榮與穩(wěn)定。

（作者：楊曉光，中國科學(xué)院數(shù)學(xué)與系統(tǒng)科學(xué)研究院 中國科學(xué)院大學(xué)經(jīng)濟(jì)與管理學(xué)院；吳楊、張興偉，中國科學(xué)院自動(dòng)化研究所；鄭曉龍，中國科學(xué)院大學(xué)人工智能學(xué)院 中國科學(xué)院自動(dòng)化研究所。《中國科學(xué)院院刊》供稿）