8月28日，由國(guó)家數據局主辦(bàn)、貴州省人民(mín)政府承辦(bàn)的2024中(zhōng)國(guó)國(guó)際大數據産(chǎn)業博覽會在貴陽開幕。作(zuò)為(wèi)本屆數博會的重要活動之一，由中(zhōng)國(guó)國(guó)際大數據産(chǎn)業博覽會執委會主辦(bàn)、中(zhōng)國(guó)互聯網協會承辦(bàn)、貴州省互聯網協會協辦(bàn)、貴陽經濟技(jì )術開發區(qū)管理(lǐ)委員會為(wèi)責任單位的“數據安(ān)全”交流活動于8月28日在貴陽舉辦(bàn)，活動以“健全數據安(ān)全治理(lǐ)體(tǐ)系，增強網絡安(ān)全防護能(néng)力”為(wèi)主題，邀請政府部門領導、業界專家學(xué)者、企業代表同台獻智，共謀數據安(ān)全高質(zhì)量發展之路。

貴州省副省長(cháng)、省公(gōng)安(ān)廳廳長(cháng)賈利軍，國(guó)家數據局黨組成員、副局長(cháng)沈竹林，工(gōng)業和信息化部網絡安(ān)全管理(lǐ)局相關負責人發表緻辭，中(zhōng)國(guó)工(gōng)程院院士、中(zhōng)國(guó)互聯網協會專家咨詢委員會主任邬賀铨作(zuò)主旨報告。深圳數據交易所總經理(lǐ)古亮，微博COO、新(xīn)浪移動CEO、新(xīn)浪AI媒體(tǐ)研究院院長(cháng)王巍，上海觀安(ān)信息技(jì )術股份有(yǒu)限公(gōng)司創始人、董事長(cháng)張照龍，貴州理(lǐ)工(gōng)學(xué)院副院長(cháng)李少波，聯通數字科(kē)技(jì )有(yǒu)限公(gōng)司高級副總裁兼數據智能(néng)事業部總經理(lǐ)宋雨倫，360數字安(ān)全集團總裁胡振泉，亞信安(ān)全CTO兼高級副總裁陳奮，螞蟻集團數據平台與服務(wù)部總經理(lǐ)、螞蟻集團大模型數據負責人張榮華參加活動并參與對話環節。

賈利軍在緻辭中(zhōng)指出，随着數據成為(wèi)新(xīn)的生産(chǎn)要素和戰略資源，數據安(ān)全風險與挑戰也随之而來，構建完善的數據安(ān)全治理(lǐ)體(tǐ)系，提升網絡安(ān)全防護能(néng)力，已成為(wèi)不可(kě)回避的責任與使命。他(tā)提出三點倡議：一是堅持創新(xīn)驅動，加大數據安(ān)全領域的技(jì )術研發力度，推動區(qū)塊鏈、AI等前沿技(jì )術的深度融合與創新(xīn)應用(yòng)，不斷提升數據安(ān)全防護的技(jì )術水平。二是堅持共建共享，打破信息壁壘，彌合智能(néng)鴻溝，共享資源成果，共同構建數據安(ān)全治理(lǐ)的良好生态，進一步激發數據安(ān)全領域的創新(xīn)活力。三是堅持打牢基礎，強化人才培養力度，輸送更多(duō)高素質(zhì)、專業化的優秀人才，為(wèi)數據安(ān)全事業的持續發展提供堅實的人才保障。

沈竹林在緻辭中(zhōng)指出，保障數據安(ān)全是激發數據要素價值的内在要求，越是推動發展，越要守住安(ān)全的底線(xiàn)。他(tā)強調，要探索保障動态安(ān)全，提升治理(lǐ)效能(néng)。要探索新(xīn)型治理(lǐ)模式，包容創新(xīn)發展。要推動高水平開放，深化合作(zuò)共赢。他(tā)表示，國(guó)家數據局成立以來，高度重視統籌發展和安(ān)全，制定數據安(ān)全治理(lǐ)政策，協同推動數據流動基礎設施，推動構建有(yǒu)利于數據開發利用(yòng)安(ān)全保障機制，我們願與各方一道，從治理(lǐ)規則、機制、能(néng)力等方面協同發力，共同提升數據安(ān)全的治理(lǐ)水平，打造安(ān)全、開放、包容的創新(xīn)發展環境，為(wèi)推動數字經濟發展保駕護航。

邬賀铨以“AI時代的數據安(ān)全”為(wèi)主題作(zuò)主旨報告。他(tā)指出，生成式大模型基于統計模型和模式識别，局部的上下文(wén)關聯并不等于全局的合理(lǐ)性和符合自然規律的因果性，而且因長(cháng)尾場景數據稀少，臨界狀态訓練缺失，導緻會出現低級錯誤。數據可(kě)能(néng)受到幹擾，AI大模型在訓練時也會受到無意或惡意的誘導，會使AI誤判。關于提高AI可(kě)信性的方法，他(tā)提出，數據質(zhì)量控制，使用(yòng)高質(zhì)量多(duō)樣化的數據訓練，算法優化和模型評估改進，定期審查和測試，有(yǒu)監督學(xué)習建立思維鏈。遷移學(xué)習和反事實數據測試，開展倫理(lǐ)審查，特别是對可(kě)能(néng)産(chǎn)生重大社會影響的應用(yòng)進行事先審批，人工(gōng)幹預與審核，幫助用(yòng)戶理(lǐ)解AI的運作(zuò)方式和潛在風險，用(yòng)戶反饋與持續改進，利用(yòng)區(qū)域截圖、放大縮小(xiǎo)等預處理(lǐ)發現數據被篡改或AI被濫用(yòng)。

會上舉辦(bàn)了《智能(néng)化攻防前沿應用(yòng)分(fēn)析暨大數據安(ān)全靶場行業場景共建共享倡議發布》活動。台建玮分(fēn)享了人工(gōng)智能(néng)賦能(néng)網絡空間脆弱性評估。貴陽經濟技(jì )術開發區(qū)管委會、航天科(kē)工(gōng)十院、貴州能(néng)源集團、廣西科(kē)學(xué)院、雲南雲上雲大數據、重慶信創基地、貴州數安(ān)彙等有(yǒu)關單位領導嘉賓共同發布了《大數據安(ān)全靶場行業場景共建共享倡議》，倡議呼籲更多(duō)的企業一起加入，通過共建、共享的模式，實現大數據安(ān)全靶場更多(duō)行業應用(yòng)創新(xīn)場景落地。

對話互動環節中(zhōng)，深圳數據交易所總經理(lǐ)古亮，微博COO、新(xīn)浪移動CEO、新(xīn)浪AI媒體(tǐ)研究院院長(cháng)王巍，上海觀安(ān)信息技(jì )術股份有(yǒu)限公(gōng)司創始人、董事長(cháng)張照龍，貴州理(lǐ)工(gōng)學(xué)院副院長(cháng)李少波四位嘉賓共同圍繞“促進數據跨境有(yǒu)序安(ān)全流動，推動高水平對外開放合作(zuò)”主題開展交流。聯通數字科(kē)技(jì )有(yǒu)限公(gōng)司高級副總裁兼數據智能(néng)事業部總經理(lǐ)宋雨倫，360數字安(ān)全集團總裁胡振泉，亞信安(ān)全CTO兼高級副總裁陳奮，螞蟻集團數據平台與服務(wù)部總經理(lǐ)、螞蟻集團大模型數據負責人張榮華四位嘉賓共同圍繞“人工(gōng)智能(néng)時代數據安(ān)全風險和應對策略”主題開展對話。

古亮指出，安(ān)全這個課題永遠(yuǎn)是一個攻與防的概念，要不斷的積累和調整安(ān)全的策略，主動探測和識别安(ān)全問題，提升數據安(ān)全高效流通能(néng)力，面向國(guó)家和行業發展的需要，逐步築牢整個數據交易流通的安(ān)全體(tǐ)系。數據跨境作(zuò)為(wèi)促進國(guó)際經貿合作(zuò)的底層基礎，随着“十四五”規劃、“一帶一路”和粵港澳大灣區(qū)建設等政策紅利的逐步釋放，内地與國(guó)際的數據業務(wù)合作(zuò)必将迎來更大的發展空間。

王巍指出，未來幾年的數據跨境流動将呈現三大趨勢：一是數據經濟全球化的進程将不斷提速。二是數據跨境流動可(kě)能(néng)促成新(xīn)的貿易壁壘。“我們可(kě)以看到全球範圍内都在密集出台和調整數據安(ān)全與跨境流動相關的法律法規，基本都是為(wèi)了維護本國(guó)（或地區(qū)）利益”。三是數據安(ān)全作(zuò)為(wèi)數據要素化的基礎保障，它的重要性與技(jì )術水平将在被不斷挑戰的過程中(zhōng)穩步提升。數據跨境流動的安(ān)全、有(yǒu)序和可(kě)控依賴于技(jì )術保障，我們應該保持對于可(kě)信計算、同态加密、聯邦學(xué)習等新(xīn)技(jì )術的研究和應用(yòng)。

張照龍指出，在數字化轉型加速的今天，數據跨境流動的安(ān)全問題已成為(wèi)全球關注的焦點。面對複雜多(duō)變的國(guó)際環境和技(jì )術挑戰，觀安(ān)信息始終緻力于技(jì )術創新(xīn)，特别是在數據跨境安(ān)全領域。最新(xīn)研發的智能(néng)風控系統，通過大數據分(fēn)析以及AI算法，實現了對跨境數據流動的全鏈條監控與智能(néng)預警，該系統不僅能(néng)顯著提升數據傳輸的安(ān)全性，還能(néng)根據運營商(shāng)、政府等不同行業的特定需求，定制化設計數據保護方案，确保每一環節都符合行業安(ān)全标準，助力企業在全球化進程中(zhōng)穩健前行。

李少波指出，未來數據跨境流動正朝着更加安(ān)全、合規的方向發展。通過采用(yòng)數據分(fēn)級分(fēn)類策略，将敏感數據和非敏感數據分(fēn)開處理(lǐ)，并使用(yòng)先進的加密技(jì )術、差分(fēn)隐私技(jì )術，确保敏感數據在跨境傳輸中(zhōng)的安(ān)全性和隐私合規性。通過建立符合國(guó)際标準的法規框架，确保數據在跨境流動中(zhōng)依然受到原始國(guó)家的法律保護，同時與其他(tā)國(guó)家協調制定互認機制，平衡數據主權與數據自由流動之間的關系。作(zuò)為(wèi)高校将為(wèi)社會貢獻科(kē)技(jì )創新(xīn)成果，培養複合型高層次人才，為(wèi)數字經濟的發展提供人才與智力支撐。

宋雨倫指出，中(zhōng)國(guó)聯通自主研發了基于AI大模型技(jì )術的重要數據資産(chǎn)識别平台，實現了重要數據資産(chǎn)的自動化、智能(néng)化識别。針對海量數據、尤其是複雜的非結構化數據的挑戰，以及人工(gōng)審核在準确性、覆蓋度上的局限性，提供了高效解決方案，顯著降低了人力成本，加速了業務(wù)處理(lǐ)流程，并有(yǒu)效減輕了數據洩露的風險隐患。

胡振泉表示，大模型數據安(ān)全風險主要源于兩個方面：一是數據收集和處理(lǐ)階段的不規範操作(zuò)，可(kě)能(néng)導緻隐私數據的洩露；二是大模型的内部機制像一個“黑匣子”，生成的内容難以預測，增加了隐私洩露的可(kě)能(néng)性。要解決這些問題，需要對大模型訓練數據的全生命周期進行嚴格的監控和管理(lǐ)，對數據語料進行更嚴格的智能(néng)治理(lǐ)。其次是“以模制模”，通過構建專用(yòng)的、規模較小(xiǎo)的專業大模型，對大模型的輸入輸出内容進行雙向安(ān)全監測。

陳奮認為(wèi)，大模型是訓練數據中(zhōng)蘊含知識的抽象體(tǐ)現。一方面，數據安(ān)全直接影響模型安(ān)全，建議對訓練數據和微調數據進行數字簽名(míng)和完整性保護，防止被中(zhōng)間人惡意篡改，同時進行異常數據檢測與過濾，最大程度降低數據投毒風險。另一方面，大模型又(yòu)成為(wèi)了數據的新(xīn)型暴露面，模型安(ān)全影響數據安(ān)全，建議将大模型作(zuò)為(wèi)數據的延伸，進行同等程度的分(fēn)類、分(fēn)級安(ān)全防護，對模型的存儲、訪問進行适當的隔離與限制。

張榮華指出，未來十幾年将是大模型硬件普及、模型性能(néng)和泛化能(néng)力持續提升的時期，同時也是生态系統逐漸完善的十幾年。在這一過程中(zhōng)，将會有(yǒu)越來越多(duō)的爆款應用(yòng)誕生，服務(wù)于To B（企業級）和To C（消費者級）的各種場景。張榮華強調，在大模型的數據處理(lǐ)、模型預訓練、模型後訓練以及模型推理(lǐ)等全生命周期中(zhōng)，數據安(ān)全都具(jù)有(yǒu)重要的影響且已成為(wèi)大模型訓練及應用(yòng)領域的關鍵課題，是大模型能(néng)否深入和廣泛應用(yòng)的前置條件。

會議現場

本次活動由中(zhōng)國(guó)互聯網協會副理(lǐ)事長(cháng)黃澄清、中(zhōng)國(guó)互聯網協會副秘書長(cháng)裴玮主持，共500餘人參會，得到了與會嘉賓的一緻好評。中(zhōng)國(guó)互聯網協會将繼續廣泛開展相關活動，為(wèi)推動數據安(ān)全産(chǎn)業高質(zhì)量發展貢獻力量。

來源：中(zhōng)國(guó)互聯網協會