中國網/中國發展門戶網訊 當前，數字技術已經融入社會發展的方方面面，截至2022年底，我國的數字經濟規模達到50.2萬億人民幣，占國內生產總值（GDP）比重提升至41.5%，這標志著我國國民經濟和社會發展進入了數字化時代。隨著大數據、深度學習等人工智能技術的飛速發展，以計算機、信息、通信等為代表的數字技術開始逐步轉變為以下一代互聯網、生成式人工智能、虛擬現實、數字孿生等為主的數智技術。數據與智能逐漸成為推動社會進步的核心要素，成為經濟社會發展的新動力，以及政府和社會治理的新焦點。當下，以ChatGPT為代表的生成式人工智能正在通過大模型賦能引發新一輪智能化浪潮，部分學者認為新一代人工智能的奇點即將到來。然而，在推動技術進步的同時，數智技術的發展也給國家安全體系帶來了前所未有的挑戰。黨的二十大報告對推進國家安全體系和能力現代化、堅決維護國家安全和社會穩定作出戰略部署，提出以新安全格局保障新發展格局。在社會形態發生深刻變革的當下，統籌發展與安全無疑是一項復雜的系統工程。隨著數智技術從多層次的時空尺度上與社會、經濟系統的各個功能結構模塊產生深度耦合，其引發了數據濫用、算法歧視、就業市場波動等一系列復雜的社會安全治理問題。面對這些困難與挑戰，深入剖析數據安全與隱私泄露、算法歧視與不公平性、技術壁壘與數字鴻溝、虛假消息與信息操縱等數智化發展風險的內在機理，全面理解統籌發展和安全的深刻內涵，推進在經濟、社會、文化等各個重點領域的數智安全新格局建設，對保障新發展格局至關重要。本文基于總體國家安全觀，從新發展格局的國際和國內新特點出發，用微觀與宏觀視角剖析了新格局下的數智安全風險，提出了構建數智安全新格局的整體框架，并討論了數智安全新格局和新發展格局的辯證關系，對數智時代的發展與安全的協同提出政策建議。

新發展格局的特點

在全面建成小康社會之后，我國開啟了全面建設社會主義現代化國家的新征程，形成了新的發展格局。與此同時，在數智技術的推動下，不斷深刻變化的國際、國內形勢也給當前中國經濟社會發展帶來了新的挑戰。因此，理解當前國際和國內形勢之下中國新發展格局所呈現出來的新特點，是構建數智安全新格局的重要前提。

國際視角

工業革命后，資本主義現代化模式極大地推動了生產力的進步和生活方式的變革。然而，資本主義固有的矛盾也在不斷將整個人類的現代化進程推向高度物化和不平衡的困境中。相比之下，中國式現代化道路通過構建人類命運共同體，將本國與世界的現代化發展聯系起來，是人類發展模式的創新，將深刻地影響世界現代化進程。

國際上逆全球化趨勢加劇，過去幾十年形成的全球分工協作局面正在遭到破壞。俄烏沖突、巴以沖突改變著地緣政治局勢，給世界前景帶來巨大的不確定性。自2017年以來，美國對我國實施多輪制裁，我國亦提出反制措施，雙方政治、經貿和安全往來遭遇困難。這些因素從技術、資金、市場等多個角度給我國的外部發展環境帶來了嚴峻的挑戰。

新冠疫情引發需求下降、生產萎縮、貿易受阻、物流中斷、失業激增，全球經濟陷入衰退的巨大風險之中。為了應對疫情，美國的大規模財政刺激政策加劇了全球通脹，導致美聯儲開啟加息模式，全球資金流動性收緊，進而增加中國企業和政府的外部融資成本。高強度的供給側沖擊直接體現在全球多個國家出現的大面積企業停工停產、職工失業、產業鏈和供應鏈大范圍中斷。2023年8月的調查數據顯示：在新冠疫情的影響下，全球失業人數從2019年的1.92億人飆升到了2020年的2.35億人。盡管該指標在2022年逐步恢復到了2.05億人，但依然相較疫情前增加了近1300萬的失業人口，且預計2023年還有回升的趨勢。

國內視角

國內經濟由高速增長轉向高質量發展。黨的十九大報告指出，我國社會主要矛盾已經轉化為人民日益增長的美好生活需要和不平衡不充分的發展之間的矛盾。新時代下，經濟發展需要從追求數量轉向追求更高的質量。在供給端，高質量發展意味著企業需要進行產業體系結構優化，以創新動力實現可持續發展。但這也會使企業在轉型過程中面臨陣痛和較大的運營壓力。在需求端，高質量發展是更平衡、更公平的發展，要求健全分配制度，減小城鄉差距、貧富差距，提升人民幸福感。

疫情后國內經濟亟待重回正軌。新冠疫情后，疊加錯綜復雜的國際環境，民眾的動機從追求利潤最大化轉為追求負債最小化，對經濟社會發展重回正軌的期盼無比強烈。在這一階段，保障經濟平穩發展，對于民眾生活與社會和諧至關重要。

新發展格局下的數智安全風險

作為當前先進生產力的代表，數智技術在新發展格局中扮演著極其重要的角色。因此，進一步推進數智技術安全可控的發展對促進經濟社會的平穩、高質量發展就顯得尤為重要。基于總體國家安全觀的理念，筆者將數智安全所涉及的風險分為微觀的技術安全、個人安全，以及宏觀的經濟安全、社會安全、文化安全等5個范疇（圖1）。其中，微觀安全問題可能隨著系統規模的擴大涌現為宏觀問題，也可能在傳播和反饋的作用下引發級聯反應，在短時間內影響到系統的各個方面。

技術安全

基礎設施安全。數智技術的運行需要依賴大量諸如服務器、數據中心和物聯網設備等基礎設施。如果數據基礎設施發生故障、被攻擊或遭受災難，可能導致業務中斷、數據丟失、服務不可用，進而帶來巨大的經濟損失，甚至影響社會的穩定和安全。例如，2022年12月18日，阿里云香港數據中心發生大規模服務中斷事件，直接導致澳門金融管理局、眾多本地外賣平臺及《澳門日報》等傳媒應用程序無法使用，對澳門社會層面的平穩運行產生了重大影響。

數據安全。隨著科技的發展和人類社會數據量的增加，數據的安全性及泄露風險也越來越受到人們的重視。2005—2022年，美國的數據泄露事件的數目整體呈上升趨勢，僅2022年就有1802起（圖2）。在數據存儲過程中，黑客攻擊或員工疏忽等可能導致客戶個人信息、財務記錄等敏感數據泄露。在數據使用過程中，員工或其他有權限訪問數據的人可能會濫用其權力，將出售敏感數據給競爭對手或非法使用數據。2018年，英國的劍橋分析公司在未經授權的情況下將數百萬Facebook（臉書）用戶的個人信息用于選民行為分析和推廣活動，使得2家公司都面臨了嚴厲的輿論壓力、法律調查和監管限制。同年，劍橋分析公司宣布破產。

模型安全。隨著深度學習成為人工智能模型的主流，深度神經網絡的黑盒性所帶來的安全問題逐漸成為人們關注的焦點之一。另外，在ChatGPT等大規模語言模型快速席卷眾多行業和深入人們生活的同時，由其產生的錯誤信息也給這項技術帶來了巨大的安全隱患。深度學習模型容易受到對抗樣本的攻擊。這些特殊設計的輸入數據可以欺騙模型并導致錯誤的輸出結果，在自動駕駛汽車、醫學診斷等場景中造成嚴重損失。大規模語言模型存在偏見問題。訓練方法和數據集的局限性可能導致模型對某些人群或事物表現出不公正或不均衡的行為或決策結果。大規模語言模型存在幻覺問題。在當前大模型生成的文本中，依然存在看似合理但實際上是虛構或錯誤的信息，這很可能導致使用者產生錯誤的認知。

個人安全

隱私安全。隱私安全指的是個體隱私數據泄露時，對其社會生活的危害。泄露的敏感信息（如身份證號、銀行賬號等）可能導致身份被盜竊、欺詐活動，并帶來經濟損失。另外，個人信息泄露可能導致謠言、侮辱、騷擾等不良行為，造成精神壓力和社交困擾。比如，家庭信息泄露可能導致敲詐勒索和人身安全的威脅。針對英國成年人的調查顯示，21%的人擔心隱私數據被公司傳遞給第三方，16%的人擔心成為詐騙對象，只有9%的人認為沒有必要擔心（圖3）。同樣，在一項2022年針對中國網民的調查中，也有31%的人經常拒絕網站的cookie（瀏覽活動記錄）請求，25.5%的人表示擔心科技公司使用自己網上數據的方式（圖4）。

心智安全。隨著數智技術的發展，人們的精神狀態也可能受到環境和技術的影響。例如，社交媒體的過度使用可能導致時間浪費、社交孤立感、焦慮和抑郁等問題；信息過載和注意力分散可能導致注意力不集中、記憶力減退和思維混亂；網絡上的匿名性和廣泛傳播渠道使得欺凌和騷擾行為更加便捷，給受害者帶來心理傷害和自尊問題。此外，數智技術還可能造成對人類主體價值、能力、交往方式的異化，剝奪人的選擇權利，削弱人的能力，以及引發精神危機和喪失人類尊嚴，同時也會帶來認知極化和各種社交問題。

經濟安全

技術穩定風險。隨著數智技術深入各個經濟領域，其微觀的技術安全問題可能引發宏觀經濟系統的風險。無論是金融領域的區塊鏈、智能風控模型，還是制造領域的供應鏈管理系統出現故障或是受到攻擊，都可能會引發級聯反應，導致整個交易系統或供應鏈系統的癱瘓，進而帶來巨大的經濟損失。

技術壟斷風險。當少數大型科技公司壟斷了某個智能技術市場時，可能削弱其他創業者和小型企業的競爭力，抑制行業的創新力，阻礙市場的發展和進步。此外，壟斷企業所控制的大量用戶數據可能侵犯個人隱私權，而公眾則缺乏相應的監督和干預手段。

發展失衡風險。在數智化浪潮中，如果某些地區、群體或行業沒有抓住先發機遇，就很可能由于缺乏技術能力和資源而滯后于其他地區。研究報告顯示，中國東部地區的數字經濟發展水平明顯領先于中部、西部、東北部，出現了明顯的不平衡特征。這種數智技術的不平衡發展與資源、財富、機會的不平衡分配，可能造成經濟波動、失業率上升、人口流失、貧富差距擴大等問題，影響社會穩定和諧。

系統性失業風險。數智技術的自動化能力使得許多傳統勞動任務被機器和軟件取代，進而導致制造業、零售業、在線客服、金融服務業、物流行業等傳統崗位的大規模失業風險。盡管機器學習工程師、大語言模型的Prompt（提示）工程師等新興崗位需求會增加，但技術轉型過程中工人技能與人力市場需求不匹配和滯后的問題依然可能引起就業市場的階段性陣痛。

社會安全

虛假信息風險。互聯網和社交媒體的普及極大地提高了人們的每天接收到虛假信息的風險。深度偽造技術（Deepfake）等可以生成高度逼真的換臉圖片或視頻，然后用于制造政治謠言、虛假新聞或網絡欺詐。另外，惡意用戶可用ChatGPT等生成式人工智能自動產生大量虛假文本，然后通過機器人賬號等手段，用于誤導網絡社區中用戶的價值觀。2020年，美國康奈爾大學科學聯盟的一項研究顯示全球英語媒體發布的3800余萬篇關于疫情的文章中，就有超過110萬篇文章包含虛假信息。

虛擬社交風險。隨著數智技術深刻重塑當代人的社交方式，社交媒體、即時通信工具等平臺使得人們在虛擬空間中隨時隨地與家人、朋友，甚至全球范圍內的陌生人進行交流和互動。然而，過度的虛擬社交除了容易讓人沉迷、浪費精力，也可能導致人們面對面的社交互動減少，從而加劇現實中的社交孤獨感。同時，一些別有用心的人可以在網絡上輕易地隱藏自己的真實身份和發布虛假信息，進而引起誤導、欺騙等問題，給他人帶來心理上的傷害。

網絡暴力和霸凌。數智技術也極大地降低了網絡社交中使用辱罵、惡意評論、威脅和歧視性言論等暴力行為的門檻。惡意用戶可能通過公開或非法手段獲取、發布或散布他人的住址、照片等私人信息，將照片進行篡改甚至淫穢化處理并傳播，以侮辱他人。這些行為可能會導致被霸凌對象出現自卑、焦慮、抑郁、自殺傾向等心理問題，也可能讓他們在未來的表達過程中選擇自我審查或沉默，陷入惡性循環。2021年1月的一項針對2251位美國成年人的調查發現，41%的受調查用戶都親身經歷過某種形式的網絡騷擾（圖5）。中國社會科學院發布的《2019年中國社會形勢分析與預測》（社會藍皮書）顯示：中國青少年在上網過程中遇到過暴力辱罵信息的比例為28.89%。其中，暴力辱罵以“網絡嘲笑和諷刺”“辱罵或者用帶有侮辱性的詞匯”居多，分別為74.71%、77.01%；其次為“惡意圖片或者動態圖”（53.87%）和“語言或者文字上的恐嚇”（45.49%）。

文化安全

消費主義。在市場經濟高度發達的社會，“消費主義”指的是個人通過購買商品和服務來追求滿足感與幸福感的思維方式和態度。基于數智技術的各種便捷購物平臺及廣告推銷算法在降低消費門檻的同時，使得人們的消費決策更容易被操縱和影響，過度關注個人欲望和即時滿足，陷入過度消費的陷阱。在這種文化慣性的驅使下，社會資源容易被浪費，個人的幸福感也在永恒的“賺錢—花錢—賺錢”循環中消磨殆盡。有研究針對中國年輕人的消費狀態和主觀幸福感進行了問卷調查，結果表明：消費主義對出生于1995—2009年的年輕一代的主觀幸福感具有顯著的抑制作用。

文化碎片化。數智化的推薦系統、個性化定制技術在提高信息搜索效率的同時，也導致個體往往只接受同質化、片面的信息和觀點，從而形成所謂的“信息繭房”。“繭房”中的個體反復強化自己的認知，排斥其他觀點，形成大量的同質化小型網絡社區，產生了大量的亞文化。當不同文化背景的個體在網上碰撞，尤其是涉及言論自由、社會道德、宗教信仰等敏感話題時，就可能引發文化沖突和對立，加劇社會的緊張程度。

文化虛無主義。在新興的流行文化、工業文化、現代科學實用主義的影響和沖擊下，許多傳統文化的生存空間受到了擠占，進而產生了文化虛無主義的現象。文化是國家、民族凝聚力的根基。盲目否定自己的文化、歷史，會極大地降低人們的集體認同感，進而影響意識形態的穩定性。在數智技術不斷加速文化演進的今天，如何在時代的潮流中站穩精神的腳跟，防范文化虛無主義，成為了一個重要命題。

構建數智安全新格局

黨的二十大報告中強調：“國家安全是民族復興的根基，社會穩定是國家強盛的前提”。因此，面對數智時代下的各種安全風險，運用系統觀念構建數智安全新格局（圖6），是保障國家經濟社會健康發展和社會平穩運行的必要舉措。

提高數智技術本身的安全

面對數智技術帶來的挑戰，我們不能盲目拒絕技術進步，而應該嘗試提高技術本身的安全性。

加密算法和區塊鏈可以保護信息安全。在信息傳輸過程中，可以使用DEA（數據加密算法）、RSA等對稱或非對稱加密算法，以及新興的基于量子

糾纏的通信方式降低數據非法訪問、篡改、竊取的風險。區塊鏈技術的去中心化和不可篡改性提高了數字金融交易的可靠性，有助于防范系統性的技術穩定風險。

聯邦學習可以保護數據隱私。對于機器學習數據的安全，聯邦學習技術提出在多個本地分布式訓練模型，然后將參數在中央服務器聚合，以此保障本地數據的隱私性。

對抗魯棒技術可以提高深度學習模型的可靠性。針對深度學習模型的對抗樣本風險，對抗魯棒技術通過將對抗樣本加入訓練過程或者設計檢測對抗樣本的機制，使模型能正確處理被擾動過的對抗樣本。

優化訓練過程可以緩解大模型的偏見和幻覺問題。通過在訓練過程中人為平衡數據集分布，引入公平性約束或額外優化目標，我們能夠引導大規模語言模型生成更安全、可靠、多樣化的內容，從而避免由于偏見或虛假內容引起的文化沖突。

利用數智技術保障數智安全

與此同時，也可以運用某些數智技術來解決公共問題、促進個人發展，降低數智技術帶來的經濟、社會、文化風險。

數字媒體宣傳技術可以幫助公眾更好地適應數智時代的新變化。例如，相關部門或公益組織可以通過社交媒體分享隱私泄露的實際案例，提高人們的隱私安全意識；通過在推薦系統中引入混合推薦策略，平臺能讓用戶接觸到更加多樣、異質的內容，從而打破“信息繭房”，優化社區氛圍；通過創作更優質的文化作品并加大宣傳力度，國家可以促進優秀文化和先進文化的形成，保障傳統文化的生存空間，減輕文化虛無主義的危害。

社會計算技術提供了一種自動化防范數智化風險的方案。謠言檢測算法可以識別出社交媒體上的虛假信息，幫助平臺和相關部門組織謠言的傳播，加強社會信任和共識；文本情感識別技術可以幫助網絡社區管理者及時發現用戶的情緒波動，降低發生網絡暴力事件的可能性，對需要幫助的人提供及時的心理干預；欺詐檢測算法可以及時檢測潛在的詐騙風險，提醒被欺詐者或者幫助警方調查分析。

數智服務技術能促進社會公平和健康可持續發展。數字政府、智慧城市、智慧教育等數智技術大幅提高了公共服務的效率，促進了社會的公平分配，也能在一定程度上改善地區間數智經濟發展不平衡的問題。

制定數智安全法律法規和政策

相關法律為數智安全提供法理基礎。法律法規是維護社會秩序與穩定、保障公民權利與自由、推進社會公正與平等、保障社會安全與公共利益、保障經濟社會發展的必要工具，也是推動數智安全建設的重要手段。在國際上，《歐盟通用數據保護條例》（GDPR）針對歐盟成員國的個人數據保護和隱私進行了細化的規定，包括對數據主體的知情權、同意權等。許多國際組織和行業協會也正在積極制定適用于人工智能的倫理準則和行為規范，如聯合國教科文組織（UNESCO）的《人工智能倫理問題建議書》等。在國內，2021年通過的《中華人民共和國個人信息保護法》明確了對個人信息的處理原則、個人在信息處理活動中的權利和個人信息處理者的義務，并對個人信息的收集、使用、存儲和傳輸等行為提出明確規定，禁止“大數據殺熟”規范自動化決策，同時加強了相關機構的監管和處罰。

社會政策為數智安全提供實踐支持。針對數智化浪潮中個體層面的心智健康問題和社會層面的發展失衡、系統性失業問題，政府可以通過相關的政策來保證社會轉變過程的平穩過渡。一方面，政府可以增加心理健康服務的投入、建立心理健康熱線、開設心理咨詢中心，幫助人們應對智能化浪潮帶來的心理壓力和問題。另一方面，政府可以通過財政資金的傾斜、給予優惠政策、創立人才培養基地等方法，鼓勵相對落后地區加大數字和智能化發展的投入，進而縮小地區之間的發展差距。對于失業人員，政府可以加大對技能培訓的投資力度，或者提供更多的創業支持政策，幫助他們順應智能化時代的新需求。

以數智安全新格局保障新發展格局

安全是發展的前提，發展是安全的保障。黨的二十大報告中強調：“以新安全格局保障新發展格局”。在數智技術推動發展的時代，需要把握好數智安全與經濟社會發展之間的辯證關系，以數智安全新格局保障新發展格局。

數智安全新格局作為新發展格局的保障

數智安全新格局促進經濟社會發展的機理可以從保障穩定、刺激創新、加速生產、增強韌性4個維度進行闡述。

保障穩定。數智安全新格局保障了社會和經濟系統的長期平穩運行，有助于國家的長遠發展和民眾生活的安寧和諧。

激發創新。數智安全的需求能激發創新發展能動性，增強公眾和企業對政府推動創新的信任，促進多主體參與數智化建設，提高市場活力。

加速生產。數智安全的需求有助于提高全要素生產率增速，通過數智化轉型改造基礎核心行業和領域，從而推動整個國民經濟生產網絡的發展。

增強韌性。安全的數智技術為增強產業鏈韌性提供數據、技術和基礎設施支撐，充分利用數據的乘數效應，提升產業鏈的動態了解和風險應對能力。同時，數智安全新格局的構建還推動了信息通信網絡和算力基礎設施的發展，為產業的互聯網和數字化轉型提供堅實基礎，確保產業鏈的自主可控性。

新發展格局作為數智安全新格局的目的

發展和安全是一體之兩翼、驅動之雙輪，二者相輔相成、不可偏廢。技術的進步和經濟社會的發展為數智安全的建設提供了物質基礎和手段。

國家需要在安全和創新之間找到平衡。過于強調安全可能抑制創新、限制發展，并帶來不良后果。此外，過度關注安全還可能導致資源過度集中在數智安全領域，從而減少在其他領域的投資，進而限制經濟的全面發展。因此，在有限的資源下，國家需要根據風險評估和優先級確定資源的分配。

國家需要動態調整平衡，制定科學合理的安全策略。在實踐中，完全消除復雜的社會系統中所有安全隱患是不現實的。因此，在保證基本安全的前提下，國家需要動態調整安全和創新之間的平衡，建立靈活的安全策略和資源分配機制，以面對各種復雜的形勢，提升整個社會系統的穩健性。

數智安全和經濟社會發展之間螺旋式的協同演進關系

通過實現數智安全新格局與新發展格局的均衡，安全與發展可以形成一種螺旋式的協同演進關系模式。數智安全的發展需要建立在穩定的經濟與社會環境之上，而經濟和社會的發展也需要數智技術的支持和保障。在科技與創新的推動下，數智技術的進步可以為社會提供更多的安全保障，如提高技術本身的安全和促進個人發展等；同時，也為經濟發展提供了新的機會，推動產業升級和創新。在實現這一目標的過程中，需要關注安全和發展的平衡，避免過度偏重于其中一方而忽視了另一方的重要性。只有通過均衡發展，數智安全新格局和新發展格局才能實現互相促進和共同進步的良性循環。

結論與展望

在數智技術的推動下，國際的環境和國內的社會都在經歷深刻的結構與功能變化，治理的復雜度也遠遠超出傳統的發展與安全理論的范疇。針對數智技術所帶來的新風險，從技術、文化、法律、政策等多角度構造數智安全新格局，對于國家經濟穩定發展具有重要意義。在機遇與挑戰并存的數智時代，安全和發展應當被視為一個整體。只有正確地平衡、協調安全與發展的關系，才能實現數智時代經濟與社會的長期繁榮與穩定。

（作者：楊曉光，中國科學院數學與系統科學研究院 中國科學院大學經濟與管理學院；吳楊、張興偉，中國科學院自動化研究所；鄭曉龍，中國科學院大學人工智能學院 中國科學院自動化研究所；編審：金婷；《中國科學院院刊》供稿）