提交需求
*
*

*
*
*
立即提交
點擊”立即提交”,表明我理(lǐ)解并同意 《美創科(kē)技(jì )隐私條款》

logo

    産(chǎn)品與服務(wù)
    解決方案
    技(jì )術支持
    合作(zuò)發展
    關于美創

    申請試用(yòng)
      DeepSeek火爆出圈背後:AI時代如何保護數據隐私,守護信息安(ān)全
      發布時間:2025-02-11 閱讀次數: 796 次


      在數字化浪潮的席卷下,人工(gōng)智能(néng)(AI)技(jì )術正以前所未有(yǒu)的速度改變着我們的生活和工(gōng)作(zuò)方式。從智能(néng)語音助手到聊天機器人,AI工(gōng)具(jù)為(wèi)我們帶來了諸多(duō)便利。這個春節假期DeepSeek的火爆出圈,更讓我們直觀了解到AI工(gōng)具(jù)的廣泛用(yòng)途。然而,Wiz Research團隊近期發現一個屬于DeepSeek的可(kě)公(gōng)開訪問的ClickHouse數據庫,允許訪客全面控制數據庫操作(zuò),包括能(néng)夠訪問内部數據。這讓我們不得不重新(xīn)審視AI背後隐藏的數據隐私風險。


      01

      DeepSeek事件:

      數據安(ān)全的警鍾長(cháng)鳴[1]

      Wiz Research團隊發現了一個與DeepSeek相連的可(kě)公(gōng)開訪問的數據庫,該數據庫包含敏感數據,如聊天曆史記錄、後台數據等敏感信息,并且未設置身份驗證機制或防禦機制,對外敞開。(注:截至本文(wén)發文(wén)之日,該問題已被修複)


      02

      法律視角:

      AI數據隐私的保護現狀


      (一)國(guó)内法律框架


      我國(guó)高度重視數據隐私保護,近年來出台了一系列法律法規,構建了較為(wèi)完善的法律框架。


      《中(zhōng)華人民(mín)共和國(guó)網絡安(ān)全法》:明确規定網絡運營者應當采取技(jì )術措施和其他(tā)必要措施,保障網絡安(ān)全,防止網絡數據洩露或者被竊取、篡改。


      《中(zhōng)華人民(mín)共和國(guó)數據安(ān)全法》:規範數據處理(lǐ)活動,進一步強化數據安(ān)全保護義務(wù),要求數據處理(lǐ)者采取相應的技(jì )術措施和其他(tā)必要措施,保障數據的安(ān)全。


      《中(zhōng)華人民(mín)共和國(guó)個人信息保護法》:這是我國(guó)首部專門針對個人信息保護的法律,明确了個人信息處理(lǐ)者的義務(wù),規定了個人信息主體(tǐ)的權利,包括知情權、同意權、删除權等。


      (二)法律分(fēn)析


      即使DeepSeek已經修複該安(ān)全問題,但該問題也涉及法律風險:


      1.可(kě)能(néng)違反"最小(xiǎo)必要原則"


      允許訪客訪問非必要數據,如同有(yǒu)人拿(ná)着萬能(néng)鑰匙能(néng)打開其他(tā)人家門。


      2.缺失安(ān)全防護措施


      未部署訪問控制、加密審計等基礎防護,相當于把保險櫃鑰匙挂在公(gōng)司大門。

      03

      AI工(gōng)具(jù)應如何守護我們的數據隐私


      以彼之矛,攻彼之盾,我們向各大AI大模型提出了這個問題,收到的答(dá)複如下:

      圖片

      (一)DeepSeek


      1.技(jì )術防護層


      (1)零信任架構

      實施持續身份驗證(如FIDO2/生物(wù)識别),結合設備指紋與行為(wèi)分(fēn)析動态調整權限。例如,ChatGPT通過OAuth 2.0設備授權碼流程限制異常登錄。


      (2)加密技(jì )術深化

      端到端加密(E2EE):确保數據在傳輸、存儲(如AWS S3服務(wù)器端加密)及處理(lǐ)(Intel SGX可(kě)信執行環境)全程加密。


      同态加密:允許在加密數據上直接運算(如IBM同态加密庫),特别适用(yòng)于醫(yī)療等敏感領域模型訓練。


      (3)數據最小(xiǎo)化策略

      采用(yòng)差分(fēn)隐私(如Google的RAPPOR算法)向訓練數據添加統計噪聲,在保證模型精(jīng)度的同時使個體(tǐ)數據不可(kě)追溯。蘋果已在iOS中(zhōng)規模化應用(yòng)該技(jì )術。


      2.管理(lǐ)控制層


      (1)訪問控制矩陣

      實施基于屬性的訪問控制(ABAC),結合時間、地理(lǐ)位置、設備狀态等多(duō)維度策略。如AWS IAM的Condition元素可(kě)實現精(jīng)細控制。


      (2)審計與監控

      部署SIEM系統(如Splunk)實時分(fēn)析日志(zhì),結合UEBA檢測異常行為(wèi)。醫(yī)療AI公(gōng)司Owkin采用(yòng)區(qū)塊鏈技(jì )術實現不可(kě)篡改的操作(zuò)審計追蹤。


      (3)漏洞管理(lǐ)

      建立SRC(安(ān)全應急響應中(zhōng)心),通過模糊測試(如AFL)和靜态代碼分(fēn)析(Checkmarx)持續發現漏洞。參考微軟AI紅隊對GPT-4的對抗測試機制。


      3.合規與倫理(lǐ)層


      (1)隐私設計

      在系統設計階段嵌入隐私影響評估(PIA),如歐盟EDPB發布的AI隐私指南要求的數據流映射。


      (2)跨境數據傳輸

      采用(yòng)數據本地化部署或符合Schrems II判決的數據傳輸機制(如歐盟标準合同條款+補充措施)。Salesforce Einstein AI即采用(yòng)區(qū)域化數據中(zhōng)心策略。


      (3)用(yòng)戶權利保障

      通過API實現《通用(yòng)數據保護條例》(GDPR)規定的數據可(kě)移植性、被遺忘權。例如Twitter的隐私中(zhōng)心提供結構化數據導出功能(néng)。


      圖片

      (二)Kimi


      1.技(jì )術層面


      數據加密:AI工(gōng)具(jù)應采用(yòng)先進的加密技(jì )術,對傳輸和存儲的數據進行加密處理(lǐ),确保即使數據被洩露,攻擊者也無法直接讀取。


      訪問控制:嚴格限制數據訪問權限,采用(yòng)多(duō)因素認證、訪問令牌等技(jì )術,确保隻有(yǒu)經過授權的用(yòng)戶才能(néng)訪問敏感數據。


      數據脫敏:對敏感數據進行脫敏處理(lǐ),使其在不影響正常使用(yòng)的情況下,降低數據洩露的風險。


      2.管理(lǐ)層面


      隐私政策透明化:AI工(gōng)具(jù)應制定清晰、透明的隐私政策,明确告知用(yòng)戶數據的收集、使用(yòng)、存儲和共享方式,并确保用(yòng)戶能(néng)夠輕松理(lǐ)解和同意。


      定期安(ān)全審計:建立定期的安(ān)全審計機制,檢查數據訪問和操作(zuò)記錄,及時發現并處理(lǐ)異常行為(wèi)。


      用(yòng)戶控制權:為(wèi)用(yòng)戶提供豐富的隐私設置選項,允許用(yòng)戶控制自己的數據使用(yòng)方式,并提供用(yòng)戶訪問和删除自己數據的途徑。


      3.法律合規層面


      嚴格遵守法律法規:AI工(gōng)具(jù)的開發者和運營者應嚴格遵守我國(guó)的《網絡安(ān)全法》《數據安(ān)全法》《個人信息保護法》等法律法規,确保數據處理(lǐ)活動的合法性。


      國(guó)際合規:對于跨境數據處理(lǐ)活動,應嚴格遵守相關國(guó)家和地區(qū)的法律法規,如歐盟的GDPR。


      (注:以上内容完全複制AI工(gōng)具(jù)的回答(dá),内容僅供參考)

      04

      作(zuò)為(wèi)用(yòng)戶

      我們該如何保護自己的數據隐私


      在AI吞噬數據的時代,我們的每次點擊都在生成一個個數字腳印,因此我們的每一次點擊都存在隐私洩露的風險。然而,通過謹慎使用(yòng)AI工(gōng)具(jù)、增強個人信息保護意識以及積極維護自身權益,我們可(kě)以在一定程度上保護自己的隐私。


      (一)謹慎使用(yòng)AI工(gōng)具(jù)


      在使用(yòng)AI工(gōng)具(jù)之前,務(wù)必仔細閱讀其隐私政策,了解數據的收集、使用(yòng)和共享方式。優先選擇具(jù)有(yǒu)良好聲譽、明确隐私政策和嚴格安(ān)全措施的AI工(gōng)具(jù)。避免使用(yòng)來路不明或未經驗證的工(gōng)具(jù)。


      (二)增強個人信息保護意識


      在使用(yòng)AI工(gōng)具(jù)時,盡量避免輸入過于敏感的個人信息,如真實姓名(míng)、身份證号、銀行卡号、家庭住址等。


      (三)積極維護自身權益


      及時反饋問題:如果發現AI工(gōng)具(jù)存在數據隐私問題,如未經授權的數據收集或洩露,應及時向相關監管部門反饋。


      依法維權:當自身數據隐私受到侵害時,應依法維護自身權益,要求侵權方承擔法律責任。

      05

      結 語


      在AI時代,數據隐私保護不僅是技(jì )術問題,更是法律問題。AI工(gōng)具(jù)的開發者和運營者應該嚴格遵守法律法規,加強數據安(ān)全管理(lǐ),切實保護用(yòng)戶的隐私權益。同時,也希望廣大用(yòng)戶增強數據隐私保護意識,謹慎使用(yòng)AI工(gōng)具(jù),積極維護自身權益。


      相關信息出處:


      [1]《DeepSeek 數據庫。。。裸奔。。。百萬敏感數據任人取。。。》,深度學(xué)習與NLP,https://mp.weixin.qq.com/s/7Dc9x8iVjrQhDItoLZvE9g

      免費試用(yòng)
      服務(wù)熱線(xiàn)

      馬上咨詢

      400-811-3777

      回到頂部