建站
咨詢
售后
建站咨詢
新聞中心
對于個人電子產(chǎn)品而言，例如手機，平板電腦，便攜式電腦等等，或多或少，都會涉及到隱私計算，那么什么是隱私計算呢？理解隱私計算，先要澄清“隱私”的概念，那么，什么是隱私呢？進而，明確隱私計算分別與隱私和計算之間的關(guān)系，即隱私計算是為了實現(xiàn)個人隱私保護而進行的計算還是在實現(xiàn)了隱私保護的前提下進行的計算？最后，才是隱私計算涉及的技術(shù)和方法。
1. 什么是隱私？
“隱私”一詞在中國最早出現(xiàn)于周朝初年，但在當(dāng)時，它的詞義和現(xiàn)代還有些不同，“隱私”在當(dāng)時的意思是衣服，也就是把私處藏起來的東西。
現(xiàn)在，隱私一般指個人的不愿公開的私事或秘密。隱私由“隱”和“私”兩個字組成，在漢語中，“隱”是隱避、隱藏，在《荀子·王制》中有“故近者不隱其能，遠者不疾其勞”的語句，“隱”即為不公開?！八健笔莻€人的、自己的，在《詩·小雅·大田》有“雨我公田，遂及我私”。在英語中，隱私一詞是“privacy”，在牛津詞典中解釋為獨處、秘密和不受公眾干擾的狀態(tài)，與漢語的意思基本相同。但漢語的“隱私”強調(diào)了隱私的主觀色彩，而英語的“privacy”更注重隱私的客觀性，體現(xiàn)了東西方的文明差異。
一般地，隱私可以分為身體隱私、行為隱私、身份隱私、名譽隱私、肖像隱私、個人收入隱私和個人經(jīng)歷隱私。隱私的主體是自然人，客體是自然人的個人事務(wù)，個人信息和個人領(lǐng)域，目的是指特定個人對其事務(wù)、信息或領(lǐng)域不愿他人探知或干涉。
在IT領(lǐng)域，隱私是一個抽象的概念，不能代替具體事物或人的行為，只是它們所反映出來的信息。也就是說，隱私本質(zhì)上是一種信息，一種屬于私人不愿為他人知曉或干涉的信息。例如電子郵件、即時通信的內(nèi)容等，這些工具本身并不是隱私，只是其中記載并反映出來的信息才是隱私。
2. 什么是隱私保護？
隱私保護原本是個人的行為，是為了提高個體的安全，其根本原因在于隱私數(shù)據(jù)所有權(quán)和使用權(quán)的分離。
例如，對于大多數(shù)人而言，姓名和性別是他們的公共屬性，而且通常愿意揭示它們，不屬于隱私。在某些情況下，個人的年齡，身高和體重可能是隱私數(shù)據(jù)。但是有時同樣要公開，例如看病的時候，一個醫(yī)生需要知道病人身體和精神上的細節(jié)，如果需要會診，這些隱私數(shù)據(jù)還會開放給一組醫(yī)生，醫(yī)生們需要使用這些數(shù)據(jù)對病情進行診斷。
也就是說，個人隱私數(shù)據(jù)可能需要提供給某些群體，所有權(quán)和使用權(quán)產(chǎn)生了分離，所以需要加以保護，以免被不必要的人看到。這些團體可能會有意無意地對個人隱私數(shù)據(jù)進行擴散，甚至?xí)斐蔀E用，進而可能對個人的生活產(chǎn)生不良影響，所以需要隱私保護。
對隱私保護的直觀方式是什么都不透露，但這幾乎是不切實際的。隨著時間的推移，隱私的概念已經(jīng)發(fā)生了演變。有人建議隱私不能進入數(shù)據(jù)庫，即從數(shù)據(jù)庫中無法了解任何關(guān)于個人的信息，也有人強調(diào)，個人的隱私可以被視為“隱藏在人群中”，更一般的看法是，信息收集和傳播應(yīng)適合于確定的場景，并遵守有關(guān)信息傳播的規(guī)范。
那么如何明確隱私保護中的場景？換句話說，隱私保護中的風(fēng)險點都有哪些呢？
3. 隱私保護中的風(fēng)險點
在隱私保護中，大約有3個主要的風(fēng)險點：信息披露，數(shù)據(jù)處理以及隱私與實用性間的矛盾。
這里還是以看病的場景為例。醫(yī)院使用數(shù)據(jù)庫來保存病人的記錄，該數(shù)據(jù)庫由多個表組成，這些表存儲了患者的個人信息、病史和醫(yī)院所需的其他細節(jié)，例如身份證號、姓名、民族、性別、家庭住址、婚姻狀況和診斷出的疾病等。其中包括了個人身份信息和具體事務(wù)的信息，都涉及了隱私數(shù)據(jù)。這些數(shù)據(jù)極為重要，是醫(yī)療服務(wù)的基礎(chǔ)，除了記錄了治療的結(jié)果之外，還能應(yīng)用于研究和提高藥物的效力以及監(jiān)測并限制疾病的傳播等等。然而，未經(jīng)授權(quán)披露醫(yī)療數(shù)據(jù)可能會侵犯患者隱私，而且這種侵犯可能會造成經(jīng)濟、精神和社會影響。例如，一些疾病的披露會嚴(yán)重影響患者過正常生活的能力。個人信息數(shù)據(jù)的泄露，比如信用卡信息，可能導(dǎo)致欺詐性的網(wǎng)上支付。因此，數(shù)據(jù)的安全性和隱私性都至關(guān)重要。
如果隱私提供了一個手機App讓患者填寫個人信息，那么個人信息是安全的嗎？除了關(guān)于病情的信息，為什么還要收集其他信息？誰能接觸到這些數(shù)據(jù)？如果醫(yī)院把這些數(shù)據(jù)分享給第三方呢？
3.1 信息披露風(fēng)險
在任何數(shù)據(jù)集中，個人信息披露都是密切相關(guān)的，可按嚴(yán)重程度排序如下:
關(guān)系資格的披露 << 敏感屬性披露 << 標(biāo)識信息的披露
按照給定的順序，每個都可能包含在另一個信息中。由于風(fēng)險被定義為“披露的可能性”乘以“披露的影響”，那么如果披露確實發(fā)生，這些披露中的任何一個都可能比另外兩個帶來更大的風(fēng)險，這取決于整體情況。
在醫(yī)院的示例中，關(guān)系資格的披露相當(dāng)于公開了一個人是某醫(yī)院的患者，敏感屬性披露相當(dāng)于公開了一個人得了某種的疾病，標(biāo)識信息的披露相當(dāng)于公開了一個人的身份信息。在當(dāng)前新冠信息的披露中，一般不包含標(biāo)識信息的披露。醫(yī)院作為授權(quán)用戶，應(yīng)該有足夠的安全控制，防止未經(jīng)授權(quán)的用戶訪問數(shù)據(jù)，從而保護個人數(shù)據(jù)，保護個人隱私。即便如此，也不是醫(yī)院中的每位醫(yī)生都能訪問所有個人數(shù)據(jù)的。
在考慮披露風(fēng)險時，需要注意的是，面向安全時假定了用戶和攻擊者是不同的，而面向隱私時合法用戶也可能是攻擊者，城堡很多是從內(nèi)部攻破的。對于安全性，可以通過安全控制來減輕未授權(quán)用戶的惡意意圖，而對于隱私性，則需要一組不同的控制。因此，一個好的安全框架并不足以保證隱私。
3.2 數(shù)據(jù)處理風(fēng)險
為了減輕信息披露的風(fēng)險，是否可以刪除個人身份信息呢？
個人身份信息不能被物理刪除，否則無法實現(xiàn)目標(biāo)的業(yè)務(wù)邏輯。實際上，刪除可以實現(xiàn)為“用虛擬值替換”，以滿足數(shù)據(jù)庫或應(yīng)用程序的約束和要求。這似乎是一個有希望的解決方案，因為數(shù)據(jù)集中可能的成員關(guān)系和身份都沒有顯示。這樣能保護個人的隱私嗎？遺憾的是，事實并非如此，因為可以通過數(shù)據(jù)處理時這種替換關(guān)系的“連接”，識別出了大多數(shù)數(shù)據(jù)對象。因此，僅僅刪除個人身份信息并不能保證隱私。
如果敏感數(shù)據(jù)被進一步清洗還存在風(fēng)險么？
一般地，關(guān)系資格數(shù)據(jù)對個人而言，隱私的重要程度可能沒有那么高。例如，我可能不介意我曾是友誼醫(yī)院的患者，但是會介意我去醫(yī)院看了什么病。為了克服這個問題，對敏感值進行逐列重組似乎是一種可能的解決方案。然而，這并不起太大作用，因為即使數(shù)值亂序，它們的分布仍然是相同的，這可能足以推斷出個人的敏感數(shù)據(jù)，當(dāng)數(shù)據(jù)分布不均時尤其如此。
如果所有東西都被移除了呢？
將所有記錄替換為接近原始數(shù)據(jù)的合成數(shù)據(jù)可以保護隱私，因為這些數(shù)據(jù)并不指向現(xiàn)實世界中的任何個人。綜合數(shù)據(jù)保留了原始數(shù)據(jù)的結(jié)構(gòu)和特征屬性。利用生成對抗網(wǎng)絡(luò)(GAN)等技術(shù)，現(xiàn)在可以生成具有真實數(shù)據(jù)特性的合成數(shù)據(jù)。但它的局限性在于所得結(jié)果的準(zhǔn)確性有損失，因此，這種方法并不適用于某些應(yīng)用場合。例如，在就醫(yī)的場景中，用于癌細胞預(yù)測的機器學(xué)習(xí)模型需要非常高的準(zhǔn)確性與精度。在這種情況下，完全依賴綜合生成的數(shù)據(jù)可能會造成不同的漏洞。
3.3 隱私與實用性間的矛盾
隱私與實用性之間是矛盾的，向授權(quán)用戶提供數(shù)據(jù)訪問是有益的。隱私的挑戰(zhàn)是在完全公開的數(shù)據(jù)和完全保留的數(shù)據(jù)之間找到平衡。當(dāng)原始數(shù)據(jù)完全共享時，它的實用性最大，但隱私性最小; 當(dāng)不披露任何信息時，隱私性最大，但實用性有限。正像百度Robin曾經(jīng)說過的那樣“用戶在一定程度上愿意用隱私換方便和效率”，盡管遭到了無數(shù)人黑，但是他只是說出了事情的真相而已。
理想的解決方案是將隱私和實用性都提高到最大可能的水平。由于隱私權(quán)和實用性要求的沖突，這是非常具有挑戰(zhàn)性的。這要求我們能夠在隱私和實用性之間取得平衡，使用技術(shù)手段在特定環(huán)境中分享有用的個人數(shù)據(jù)，并防止侵犯個人的隱私。
那么，有哪些不同的隱私保護技術(shù)? 這些技術(shù)在實踐中是如何應(yīng)用的呢？
4. 隱私保護的技術(shù)
4.1 匿名技術(shù)
傳統(tǒng)方法，如隨機化，數(shù)據(jù)亂序和數(shù)據(jù)變換已經(jīng)能夠在一定程度上保護隱私，但數(shù)據(jù)公開的風(fēng)險仍然存在。匿名技術(shù)是一種保護隱私的技術(shù)，它克服了傳統(tǒng)方法的局限性。
匿名技術(shù)實際上是讓一個人“泯然眾人矣”。那么，“眾人”是幾個人呢？這就是k 匿名化技術(shù)背后的一個理念，使得 k 條記錄在數(shù)據(jù)集中看起來相似的，也就是說，每個人的隱私數(shù)據(jù)隱藏在 k 個相似的記錄中。如果一個人的信息無法與其他信息也出現(xiàn)在數(shù)據(jù)中的 k-1個人區(qū)分開來，那么已發(fā)布的數(shù)據(jù)具有 k 匿名性。k 匿名化技術(shù)緩解了鏈接攻擊的風(fēng)險。
標(biāo)識符的轉(zhuǎn)換可以通過泛化和抑制等技術(shù)來實現(xiàn)。對于抑制，屬性的部分或全部值可以替換為 * ，對于泛化，屬性的單個值被表示更廣泛范圍或類別的值替換，例如，很多網(wǎng)絡(luò)應(yīng)用在顯示用戶手機號時都用”*”來替代了號碼中的中間4位。更高的通用性允許映射更多的記錄，從而實現(xiàn)更高級別的隱私，盡管這可能會顯著影響數(shù)據(jù)實用性。此外，對屬性使用單一策略泛化所有記錄可能不是最佳策略。這種保護隱私的數(shù)據(jù)轉(zhuǎn)換稱為重新編碼。在全局編碼中，特定的詳細值必須映射到所有記錄中相同的通用值。本地編碼允許將相同的詳細值映射到每個匿名組中不同的通用值。
盡管數(shù)據(jù)的 k 匿名化可以防止鏈接攻擊，并且攻擊者不能高度確定地鏈接到其他數(shù)據(jù)庫，但是它仍然可能揭示敏感信息。這被稱為同質(zhì)性攻擊，其中所有 k 個體具有相同的敏感值。類似地，如果攻擊者有關(guān)于某個人的額外信息，則可能以很高的概率重新識別該記錄，從而導(dǎo)致背景知識攻擊。因此，k 匿名并不能提供任何針對這種攻擊的科學(xué)保證。
最佳 k 匿名性是否可以通過修改最小數(shù)量的數(shù)據(jù)來實現(xiàn)？對于多維數(shù)據(jù)來說，實現(xiàn)最佳 k 匿名性是一個 NP 難題。此外，選擇 k 作為可接受的 k 匿名性水平提出了另一個挑戰(zhàn)。為了實現(xiàn) k 匿名性，在記錄的泛化或抑制過程中會丟失信息，泛化程度越高，效用越低。
為了克服其中的缺點，人們提出了不同的 k 匿名技術(shù)。L多樣性就是這樣一種變體，其中任何敏感屬性在每個群體中都應(yīng)該有 l 個不同的值。這可以確保敏感屬性得到很好的表示，但是它也涉及到抑制或添加可能會改變數(shù)據(jù)的分布。這種抑制或添加引起了對從數(shù)據(jù)集中得出的統(tǒng)計結(jié)論有效性的關(guān)注，任意 k子集中敏感屬性的分布不僅是 l多樣性的，而且接近于整個數(shù)據(jù)集中屬性的分布。此外，這兩個分布之間的距離是通過閾值 t 來測量的。數(shù)據(jù)的維度仍然是一個挑戰(zhàn)，對于像時間序列這樣的高維數(shù)據(jù)，提供與低維數(shù)據(jù)相同的隱私保護是相當(dāng)困難的。
匿名技術(shù)已經(jīng)在隱私中敏感數(shù)據(jù)發(fā)布場景中有了很多實現(xiàn)，應(yīng)用范圍已經(jīng)從關(guān)系數(shù)據(jù)庫擴展到圖等匿名組合結(jié)構(gòu)。
本部分討論 k 匿名的選擇，發(fā)布匿名數(shù)據(jù)的一些實際問題，準(zhǔn)標(biāo)識符，實現(xiàn)期望的匿名的理想泛化量，以及如何有效地 k 匿名。
4.1.1 K 的正確選擇
在美國，健康保險便利和責(zé)任法案為保護敏感的患者數(shù)據(jù)設(shè)定了標(biāo)準(zhǔn)，將20,000定義為 k 匿名性的 k 的標(biāo)準(zhǔn)值。而家庭教育權(quán)利和隱私法案為保護學(xué)生及其家庭的個人信息制定了標(biāo)準(zhǔn)。建議 k 的值為5或10，以防止披露。這顯示了在選擇 k 時的不同。
K 的選擇是根據(jù)這些管理授權(quán)對應(yīng)用程序進行預(yù)定義的。然而，對于沒有監(jiān)管要求的應(yīng)用程序，選擇 k 來提供正確的隱私級別與效用權(quán)衡是一個挑戰(zhàn)。選擇 k 的一種方法是在一定范圍內(nèi)改變 k 的值，并確定數(shù)據(jù)集的廣義信息損失(效用度量)的變化。因此，可接受的廣義信息損失對應(yīng)的 k 值是合適的選擇。
盡管如此，找到 k 的最佳值仍然是一個懸而未決的問題，目前的研究包括了概率模型和多目標(biāo)優(yōu)化模型等。近似算法可以實現(xiàn) k 匿名，但不能擴展。另一方面，概率方法 k 匿名技術(shù)使用動態(tài)規(guī)劃提供了一個時間最優(yōu)的 k 匿名算法。啟發(fā)式方法也可以產(chǎn)生有效的結(jié)果。目前的重點是人工智能驅(qū)動的分析，但是，隱私和數(shù)據(jù)保護的定義已經(jīng)發(fā)生了明顯的變化，這表明需要提供更強大的保障，并為不同的應(yīng)用提供更廣泛的范圍。
4.1.2 準(zhǔn)標(biāo)識符的識別
準(zhǔn)標(biāo)識符的識別是一個主要問題，因為它直接影響 k 匿名技術(shù)的有效性。如果可以標(biāo)識可變屬性集的記錄數(shù)，這些屬性集可能是潛在的準(zhǔn)標(biāo)識符。隨著信息的增加，大量的記錄可能變得可識別。
隨著數(shù)據(jù)維數(shù)的增加，準(zhǔn)標(biāo)識符的選擇會變得更加復(fù)雜。這個問題也變得更具挑戰(zhàn)性，因為其他人公布的額外數(shù)據(jù)存在不確定性。在這種情況下，一些已發(fā)布的屬性必須被視為準(zhǔn)標(biāo)識符。
4.1.3 實現(xiàn)所需匿名化的理想泛化量
理想的泛化量取決于公開可用的信息。一些組織在公共領(lǐng)域公布信息，以實現(xiàn)更大的透明度，并使人們更容易獲得其數(shù)據(jù)。這些組織可能無意中發(fā)布了不應(yīng)該提供的信息。這為私有聚合提供了濫用此類信息的機會。因此，發(fā)布個人數(shù)據(jù)的組織必須采用極端的一般化方法，以防止通過鏈接攻擊重新識別身份。
鏈接攻擊表明，僅僅刪除標(biāo)識符并不能保護隱私。因此，k 匿名已經(jīng)成為一種突出的隱私保護技術(shù)。在這里，泛化是在真實信息上執(zhí)行的，這使得它比其他策略更容易被接受。此外，k 匿名及其變體可以限制鏈接、同質(zhì)性和背景攻擊。從工業(yè)的角度來看，k 匿名已經(jīng)獲得了更廣泛的知名度。
匿名技術(shù)確實有一些缺點，比如信息丟失。此外，泛化需要為數(shù)據(jù)集中的每個準(zhǔn)標(biāo)識符建立一個分類樹，這需要領(lǐng)域?qū)＜业母深A(yù)，即使分類是自動生成的。此外，根據(jù)用例的不同，每個屬性的泛化級別可能會有所不同。
隨著計算能力的提高和數(shù)字?jǐn)?shù)據(jù)集的可用性，個人數(shù)據(jù)被重新識別的風(fēng)險仍然存在。
4.2 差分隱私技術(shù)
假設(shè)在共享數(shù)據(jù)之前，注入一些噪聲，或者創(chuàng)建一個具有與原始數(shù)據(jù)集相同的統(tǒng)計屬性的合成數(shù)據(jù)集。那么，很有可能使隱私可以得到保護。差分隱私技術(shù)就是通過注入精心校準(zhǔn)的隨機噪音來使數(shù)據(jù)不真實，從而保護個人隱私的技術(shù)。差分隱私技術(shù)的獨創(chuàng)性在于允許從數(shù)據(jù)集中抽取有意義的分析，同時保護個人隱私。然而，其局限在于，沒有直接訪問數(shù)據(jù)集就很難學(xué)習(xí)關(guān)于個人的任何東西。
在典型的差分隱私技術(shù)中，數(shù)據(jù)管理員被認(rèn)為是值得信賴的，并充當(dāng)中心主體，他持有組成數(shù)據(jù)集的個人數(shù)據(jù)。使用可信的管理員，差分隱私技術(shù)可以以兩種模式之一進行操作：在線或交互模式或離線非交互模式。在在線交互模式中，數(shù)據(jù)分析師自適應(yīng)地查詢數(shù)據(jù)集，查詢是應(yīng)用于數(shù)據(jù)集的函數(shù)，每個查詢都會產(chǎn)生無關(guān)的響應(yīng)，從而保護了隱私。在離線非交互模式下，管理員使用與原始數(shù)據(jù)集具有相同統(tǒng)計特性的差分隱私機制生成合成數(shù)據(jù)庫。發(fā)布數(shù)據(jù)后，v不再扮演任何角色，原始數(shù)據(jù)甚至可能被銷毀。因此，使用合成數(shù)據(jù)庫，重新識別個體變得困難。此外，這樣的合成數(shù)據(jù)可以共享用于執(zhí)行質(zhì)量分析。
4.2.1 差分隱私技術(shù)的原理
考慮一個算法，該算法分析數(shù)據(jù)集并計算統(tǒng)計屬性，如均值、方差、中值和模式。如果通過查看輸出，人們無法判斷原始數(shù)據(jù)集中是否包含任何個人數(shù)據(jù)，那么這種算法被稱為差異私有算法。換句話說，差分私有算法的保證是它的行為幾乎不會隨著數(shù)據(jù)集中個體的缺失或存在而改變。最值得注意的是，這種保證適用于任何個體和任何數(shù)據(jù)集。因此，不管個人的細節(jié)有多么獨特，也不管數(shù)據(jù)集中其他任何人的細節(jié)如何，差分隱私技術(shù)的保證仍然有效。
在數(shù)學(xué)上，差分隱私算法可以定義如下: 如果對于所有數(shù)據(jù)集，D1和 D2最多在一個元素上不同，并且所有的 S是Range (M) 的子集，在隨機函數(shù) M 得到了 ε 的差分隱私。因此:
Pr[M(D1) ε S] ≤ exp(ε) x Pr[M(D2) ε S]
數(shù)據(jù)集 D1中管理員輸出的 M (D1)分布與數(shù)據(jù)集 D2中的 M (D2)幾乎相同，數(shù)據(jù)集 D1和 D2只有一個個體的記錄不同，而 M 是保證 ε微分隱私的隨機化算法: ε 決定了兩個數(shù)據(jù)集 D1和 D2的不可區(qū)分性，即對兩個數(shù)據(jù)庫集的查詢響應(yīng)偏差由 ε 決定。這就提供了一個保證，即關(guān)于數(shù)據(jù)集中參與者的個人信息不會被泄露。差分隱私技術(shù)避免了關(guān)系資格數(shù)據(jù)，同時也使其他信息披露風(fēng)險難以發(fā)生。
差分隱私技術(shù)的關(guān)鍵特征在于，它將隱私定義為使用參數(shù) ε 的可量化度量，而不是二元邏輯，例如個人數(shù)據(jù)是否泄露。本質(zhì)上，ε 決定了計算中增加了多少噪聲，因此它可以被視為一個平衡私密性和實用性的調(diào)諧旋鈕?？梢詫γ總€不同的私有分析進行調(diào)優(yōu)，以提供更多或更少的隱私。
4.2.2 差分隱私技術(shù)的實現(xiàn)
差分私有算法是在關(guān)鍵點增加噪聲的隨機算法。在具體實現(xiàn)上，拉普拉斯機制可以使聚合查詢(例如，count、 sum、 means 等)具有不同的私有性。這種方法使用以0為中心、以1/ε 為比例的拉普拉斯概率分布來對隨機噪聲進行采樣，通過添加獲得的噪聲擾動實際值會導(dǎo)致屏蔽響應(yīng)。
還是以醫(yī)院的場景為例，假設(shè)醫(yī)院保存了通過醫(yī)療應(yīng)用程序收集的癌癥患者的數(shù)據(jù)?，F(xiàn)在，如果某個醫(yī)生想知道小明是否是癌癥患者，通過精心設(shè)計多個查詢才可以。例如，如果使用 COUNT 查詢，結(jié)果是30，如果第二個不包括小明的統(tǒng)計查詢是29，那么可以得出小明是癌癥患者的結(jié)論。如果第二個 COUNT 查詢結(jié)果是30，將得出相反的結(jié)論。
有許多相關(guān)算法的機制可以代替拉普拉斯機制，例如，指數(shù)機制、私有倍增權(quán)重算法或倍增權(quán)重指數(shù)算法等等。有了這樣的機制，基于差分隱私技術(shù)的軟件系統(tǒng)是可能實現(xiàn)的，但仍存在實際的挑戰(zhàn)。例如，如果相同的查詢總是接收相同的噪聲響應(yīng)，那么它需要查找歷史響應(yīng)的日志。由于答案保持不變，因此不會發(fā)生信息泄漏，但日志查找在空間和時間方面可能代價高昂。
4.2.3 差分隱私技術(shù)的局限
眾所周知，建立兩個查詢的等價性在計算上是困難的。因此，盡管與傳統(tǒng)的隱私保護方法相比，差分隱私技術(shù)有一些優(yōu)勢，但也存在一定的局限性。首先，在保護隱私的同時，確定理想的隱私損失參數(shù) ε 具有較高的效用仍然是一個挑戰(zhàn)。其次，差分隱私技術(shù)中的隱私保障僅適用于有限數(shù)量的查詢，這是數(shù)據(jù)集中表示的不同數(shù)據(jù)數(shù)量的函數(shù)。因此，設(shè)計能夠處理任意數(shù)量查詢的隱私保護機制同樣是一個挑戰(zhàn)。另外，差分隱私技術(shù)容易受到側(cè)信道攻擊，在這種攻擊中，對手可以通過監(jiān)視側(cè)信道來了解有關(guān)數(shù)據(jù)的事實。一個典型的例子是定時通道攻擊，如果一個人患有癌癥，查詢計算將花費51μs，否則將花費49μs，那么，僅僅通過觀察花費的時間就可以知道一個人是否患有癌癥。最后，敏感數(shù)據(jù)被公開仍然是可能的，例如，壞人可以在隱私數(shù)據(jù)集上構(gòu)建分類器，以預(yù)測敏感信息。
以上討論的前提是數(shù)據(jù)管理員是可信的， 如果數(shù)據(jù)管理員是不可信的，這就要求采用本地差分隱私技術(shù)。也就是說，噪聲是局部注入的，在每個數(shù)據(jù)主體的個體層次上實現(xiàn)噪聲注入，這樣，隱私控制就留給了數(shù)據(jù)主體。
此外，通過 GDPR等隱私法規(guī)，大型組織使用本地差分隱私技術(shù)來避免因濫用存儲敏感用戶數(shù)據(jù)而產(chǎn)生的責(zé)任。因此，基于信任假設(shè)，本地差分隱私技術(shù)更具吸引力。然而，使用本地差分隱私技術(shù)發(fā)布的統(tǒng)計信息效用要比使用標(biāo)準(zhǔn)差分隱私技術(shù)發(fā)布的效用差，因為擾動發(fā)生在每個個體的末端，導(dǎo)致了更大的噪聲附加。
4.2.4 差分隱私技術(shù)的應(yīng)用
差分隱私技術(shù)在許多應(yīng)用領(lǐng)域有著更廣泛的作用，包括物理網(wǎng)絡(luò)系統(tǒng)，如智能電網(wǎng)系統(tǒng)、醫(yī)療保健系統(tǒng)、物聯(lián)網(wǎng)、自主汽車系統(tǒng)等。在智能電網(wǎng)系統(tǒng)中，電力供應(yīng)商使用智能電表記錄和維護家庭能源消耗信息。這些信息可以揭示一個家庭的生活方式和其他細節(jié)，濫用可能侵犯消費者的隱私。因此，有必要將隱私保護技術(shù)融入到這樣的系統(tǒng)中。同樣，對于醫(yī)療保健和醫(yī)療系統(tǒng)，物聯(lián)網(wǎng)設(shè)備收集的數(shù)據(jù)，如血壓、血糖水平，有時甚至是位置節(jié)，也需要以隱私保護的方式獲取。
在各種應(yīng)用服務(wù)中，微軟使用本地差分隱私技術(shù)在 Windows 的應(yīng)用程序中保護用戶隱私。蘋果同樣使用該技術(shù)在給定的時間段內(nèi)保護用戶活動的隱私，同時仍能獲得有助于提高 QuickType 等功能的智能性和可用性的數(shù)據(jù)。谷歌的Chrome 中，以一種隱私敏感的方式獲取關(guān)于軟件如何劫持用戶設(shè)置的數(shù)據(jù)。另外，IBM 和 Google 都提供了用于以差分隱私技術(shù)感知的方式執(zhí)行機器學(xué)習(xí)任務(wù)的庫。
有了差分隱私技術(shù)，隱私數(shù)據(jù)是否得到了足夠的保護呢？這取決于 ε。當(dāng) ε ≤1時，差分隱私技術(shù)輸出的數(shù)據(jù)效用可能較差。解決這個問題的一種方法是使用一個非常大的 ε 值來減輕效用問題。據(jù)報道，蘋果在 MacOS 中使用 ε = 6，甚至在 iOS 10 beta 版本中使用了 ε = 43，而在谷歌在chrome中的 ε 為9。這表明差分隱私技術(shù)在實踐中的適用性仍然是一個挑戰(zhàn)，因為 ε=9這樣大的值使隱私保障大大降低了。
對數(shù)據(jù)隱私的需求已經(jīng)從數(shù)據(jù)發(fā)布的標(biāo)準(zhǔn)用例展開到隱私驅(qū)動的分析。在這里，DP 獲得了重大關(guān)注，因為它提供了數(shù)學(xué)保證。然而，在將 DP 的理論映射到實踐中還存在一些挑戰(zhàn)。
4.2.5 實踐中的挑戰(zhàn)
理想的差分隱私技術(shù)應(yīng)該能夠減輕公開敏感數(shù)據(jù)的威脅和風(fēng)險，同時保持?jǐn)?shù)據(jù)高實用性。對隱私的要求總是取決于具體的場景，當(dāng)數(shù)據(jù)控制器是可信實體時，可以使用標(biāo)準(zhǔn)差分隱私技術(shù); 如果數(shù)據(jù)控制器是不可信的，則使用本地差分隱私技術(shù)。在這兩種情況下，不同的機制都能防止惡意數(shù)據(jù)分析人員泄露敏感信息。因此，根據(jù)用例及其對隱私和應(yīng)用程序的要求，可以選擇合適的差分隱私技術(shù)設(shè)置。
沒有一種通用機制對所有用例都是有效的。拉普拉斯機制只能用于數(shù)字查詢，而指數(shù)機制可以同時處理查詢中的數(shù)字和分類數(shù)據(jù)。因此，機制的適用性會根據(jù)用例和數(shù)據(jù)類型而變化。也就是說，許多差分隱私算法只適用于特定的用例。
ε 的值可以用來確定隱私級別。ε 值越小，隱私性越好，但結(jié)果的準(zhǔn)確性可能受到影響。從隱私角度來看，ε 大于6可能并不好。雖然這確實是一個很好的目標(biāo)，但是考慮到用例的細微差別，這通常是不可能實現(xiàn)的。此外，ε 的選擇可能因應(yīng)用程序而異，這取決于在該場景中對隱私的需求。一般來說，像“ ε 的值是多少才合適”就像“多少隱私才夠”這樣的問題一樣，沒有答案。
隱私數(shù)據(jù)損失是累積增加的，對于每個新的查詢，隨著敏感數(shù)據(jù)的附加信息被釋放，隱私保護會減少。這意味著經(jīng)過一定數(shù)量的查詢之后，應(yīng)用程序可能提供不了隱私保護了。理想情況下，對于強大的隱私保障，隱私損失應(yīng)該很小。因此，為了減輕日益增長的隱私損失，可以強制執(zhí)行由隱私預(yù)算表示的最大隱私損失。每個查詢都可以被視為隱私，這會導(dǎo)致隱私損失的增加。如果查詢的數(shù)量超過了隱私預(yù)算的閾值，那么可以停止對查詢的響應(yīng)，從而停止了差分隱私的機制。
因此，出于隱私和實用性方面的考慮，差分隱私技術(shù)可能不適合長時間運行的系統(tǒng)。
4.3 新興的隱私保護技術(shù)
許多國際組織把保護隱私作為一項基本要求，規(guī)定了一些原則，如收集限制、數(shù)據(jù)質(zhì)量、用途限制、使用限制、安全保障、公開性、個人參與和問責(zé)制。這些原則有助于管理系統(tǒng)生命周期中的隱私需求。
隨著系統(tǒng)復(fù)雜性的增加，存儲單元和計算單元可能不集中，減少隱私披露風(fēng)險是具有挑戰(zhàn)性的。這樣的系統(tǒng)，例如基于物聯(lián)網(wǎng)傳感器、可穿戴計算設(shè)備、移動計算和智能儀表的系統(tǒng)，需要更強大的隱私技術(shù)和協(xié)議。此類隱私技術(shù)應(yīng)考慮部署體系結(jié)構(gòu)、計算系統(tǒng)中各個節(jié)點的可用性、敏感數(shù)據(jù)流和威脅模型。
4.3.1 分布式環(huán)境的隱私保護
再次以醫(yī)院為例，為了在保護隱私的同時建立疾病預(yù)測的全局模型，需要對每個用戶移動設(shè)備上的本地數(shù)據(jù)進行本地模型的訓(xùn)練。所學(xué)習(xí)的模型參數(shù)由每個用戶設(shè)備發(fā)送到云服務(wù)器，在云服務(wù)器上執(zhí)行聚合以構(gòu)建全局模型。這個學(xué)到的全局模型被推送到每個用戶的移動設(shè)備上進行預(yù)測。這就是簡單的聯(lián)邦學(xué)習(xí)架構(gòu)。
物聯(lián)網(wǎng)的數(shù)據(jù)分析進一步擴展了這些分布式體系結(jié)構(gòu)。例如，在邊緣計算中，繁重的計算任務(wù)被轉(zhuǎn)移到邊緣節(jié)點，而物聯(lián)網(wǎng)傳感器等客戶端設(shè)備被分配一個輕量級任務(wù)，其輸出被用于在邊緣節(jié)點執(zhí)行重量級任務(wù)。本地差分隱私混淆處理框架可能會確保數(shù)據(jù)隱私和邊緣計算的數(shù)據(jù)實用性。
本地差分隱私混淆處理框架的基本方法仍然是增加噪聲以防止私人信息泄露。然而，加入噪聲可能會降低數(shù)據(jù)的效用，而特征蒸餾模型或許可以限制了個人數(shù)據(jù)的收集，同時仍然使數(shù)據(jù)效用的最大化。這一框架的基礎(chǔ)組件涉及使用數(shù)據(jù)最小化學(xué)習(xí)數(shù)據(jù)的特征，并使用本地差分隱私技術(shù)擾亂這些已識別的特征以保護隱私。此外，使用不同的哈希函數(shù)將這些特征匿名化為 k 位字符串，以便轉(zhuǎn)換生成唯一的字符串。最后，數(shù)據(jù)傳輸?shù)竭吘壏?wù)器，在邊緣服務(wù)器上使用哈希函數(shù)進行特征重建和分布估計，從而防止敏感屬性被暴露。
4.3.2 數(shù)據(jù)隱私的加密技術(shù)
除了聯(lián)邦學(xué)習(xí)類型的分布式架構(gòu)，全同態(tài)加密和多方安全計算也同樣是可用于隱私數(shù)據(jù)保護的加密技術(shù)。
全同態(tài)加密是一種加密方案，它使分析函數(shù)能夠直接在加密數(shù)據(jù)上運行，同時產(chǎn)生與在明文上執(zhí)行的函數(shù)相同的加密結(jié)果。盡管從安全和隱私的角度來看這是令人興奮的，但是在目前的技術(shù)水平下，完全同態(tài)加密的計算速度比同等的明文計算慢了若干數(shù)量級。即便如此，也已經(jīng)是一個很大的改善。鑒于 FHE 對云計算的潛在好處，完全同態(tài)加密技術(shù)的標(biāo)準(zhǔn)化正在進行中。
多方安全計算允許多方對其隱私數(shù)據(jù)進行計算，以評估共同感興趣的特征， 高度適用于機器學(xué)習(xí)，因為它允許公司提供其模型，對客戶的隱私數(shù)據(jù)進行推斷，同時確保最大限度的隱私。多方安全計算中許多涉及了大量的消息傳遞開銷，開發(fā)廉價、高效和有效的多方安全計算技術(shù)的研究正在進行中。
人們也在試圖結(jié)合這兩種技術(shù)，嘗試提出具有可接受的時間和通信復(fù)雜度的混合方案。
5. 隱私計算
一般地， 對隱私計算有不同的理解。一種是隱私計算是隱私保護的一部分，為了實現(xiàn)隱私保護而采用的技術(shù)。另一種是對隱私保護的數(shù)據(jù)進行計算，側(cè)重在隱私數(shù)據(jù)應(yīng)用的層面。更一般的觀點認(rèn)為隱私計算是以上兩種的融合，是指在保護數(shù)據(jù)本身不對外泄露的前提下實現(xiàn)數(shù)據(jù)分析計算的技術(shù)集合，在充分保護數(shù)據(jù)和隱私安全的前提下，實現(xiàn)數(shù)據(jù)價值的轉(zhuǎn)化和釋放。簡單來說，就是既要發(fā)揮數(shù)據(jù)價值，又要保護數(shù)據(jù)隱私的技術(shù)。
5.1 隱私計算的發(fā)展
隱私計算的發(fā)展歷程如下圖所示：
5.2 隱私計算的概念界定
2016年，中國科學(xué)院信息工程研究所研究員李鳳華等對隱私計算在概念上進行了界定：
隱私計算是面向隱私信息全生命周期保護的計算理論和方法，具體是指在處理視頻、音頻、圖像、圖形、文字、數(shù)字、泛在網(wǎng)絡(luò)行為信息流等信息時，對所涉及的隱私信息進行描述、度量、評價和融合等操作，形成一套符號化、公式化且具有量化評價標(biāo)準(zhǔn)的隱私計算理論、算法及應(yīng)用技術(shù)，支持多系統(tǒng)融合的隱私信息保護。
隱私計算涵蓋信息所有者、搜集者、發(fā)布者和使用者在信息采集、存儲、處理、發(fā)布（含交換）、銷毀等全生命周期中的所有計算操作，是隱私信息的所有權(quán)、管理權(quán)和使用權(quán)分離時隱私描述、度量、保護、效果評估、延伸控制、隱私泄露收益損失比、隱私分析復(fù)雜性等方面的可計算模型與公理化系統(tǒng)。
同時，中國信通院根據(jù)數(shù)據(jù)的生命周期，將隱私計算技術(shù)分為數(shù)據(jù)存儲、數(shù)據(jù)傳輸、數(shù)據(jù)計算過程、數(shù)據(jù)計算結(jié)果4個方面，每個方面都涉及不同的技術(shù)。
5.3 隱私計算的技術(shù)參考架構(gòu)
在2021年， 在騰訊隱私計算白皮書中給出了隱私計算的技術(shù)架構(gòu)參考：
5.4 隱私計算的技術(shù)路徑
隱私計算技術(shù)和方案的種類較多，為了便于理解和分類，業(yè)界通常將上述技術(shù)分為三大路徑：以安全多方計算為代表的密碼學(xué)路徑、以可信任執(zhí)行環(huán)境為代表的硬件路徑和以聯(lián)邦學(xué)習(xí)為代表的人工智能路徑。
多方安全計算是基于密碼學(xué)的算法協(xié)議來實現(xiàn)隱私計算，是多種密碼學(xué)基礎(chǔ)工具的綜合應(yīng)用，凡可用于實現(xiàn)多方安全計算的密碼學(xué)算法都可以構(gòu)成多方安全協(xié)議。除秘密共享、不經(jīng)意傳輸、混淆電路、差分隱私等密碼學(xué)經(jīng)典計算協(xié)議外，同態(tài)加密、零知識證明等密碼學(xué)算法都可以構(gòu)成多方安全計算協(xié)議。為解決諸如如聯(lián)合統(tǒng)計、聯(lián)合查詢、聯(lián)合建模、聯(lián)合預(yù)警等特定問題，不同的技術(shù)人員或組織有時會采用不同的算法設(shè)計多方安全協(xié)議，但性能和技術(shù)優(yōu)劣有所差異。多方安全計算可與可信執(zhí)行環(huán)境等硬件技術(shù)結(jié)合進一步強化安全性。
可信執(zhí)行環(huán)境通過軟硬件方法在中央處理器中構(gòu)建一個安全區(qū)域，保證其內(nèi)部加載的程序和數(shù)據(jù)在機密性和完整性上得到保護?？尚诺闹醒胩幚砥饕话闶侵缚尚艌?zhí)行控制單元已被預(yù)置集成的商用CPU計算芯片，無法后置，因此，只有新研發(fā)的部分芯片支持TEE。目前主流的TEE技術(shù)以X86指令集架構(gòu)的Inter SGX和ARM指令集架構(gòu)的TrustZone為代表，國產(chǎn)芯片廠商起步稍晚，處理性能略差。
聯(lián)邦學(xué)習(xí)是一個機器學(xué)習(xí)框架，能有效幫助多個機構(gòu)在滿足用戶隱私保護、數(shù)據(jù)安全和政府法規(guī)的要求下，進行數(shù)據(jù)使用和機器學(xué)習(xí)建模，主要解決的是多機構(gòu)之間數(shù)據(jù)孤島的問題。具體地，可以分為橫向聯(lián)邦、縱向聯(lián)邦和遷移學(xué)習(xí)。橫向聯(lián)邦的核心是增加樣本量，適用于維度類似情形，優(yōu)點是容易實現(xiàn)，問題是存在數(shù)據(jù)異構(gòu)的情況。縱向聯(lián)邦的核心是增加數(shù)據(jù)維度，適用于人群重疊但維度不同的情形。優(yōu)點是提升模型效果較為明顯，問題是實現(xiàn)困難且目標(biāo)變量僅存在一家機構(gòu)，不容易形成合作。遷移學(xué)習(xí)適用于場景類似但是一個擁有數(shù)據(jù)，一個沒有數(shù)據(jù)的場景。遷移的方式使用的類似縱向聯(lián)邦學(xué)習(xí)，可以實現(xiàn)從無法建立模型到完成模型搭建的過程。問題是實現(xiàn)較為困難，模型效果一般，使用范圍較小。
下圖是Gartner 在2021年發(fā)布的隱私計算技術(shù)成熟度曲線：
信息保護領(lǐng)域，沒有絕對的安全，只有相對的安全。雖然當(dāng)前的隱私計算技術(shù)并未被證明“絕對的安全”，但它已經(jīng)在現(xiàn)有做法基礎(chǔ)上向前邁進了一大步。在個人信息保護法倒逼數(shù)據(jù)安全的大環(huán)境下，隱私計算為個人信息保護提供了更為可靠的技術(shù)方案，也是目前諸多方案中最好的解決方案。
6.小結(jié)
隨著世界信息的數(shù)字化，個人信息的隱私已經(jīng)成為個人和組織關(guān)注的重要問題。組織理解并解決任何涉及數(shù)據(jù)的活動所附帶的隱私問題是至關(guān)重要的。根據(jù)場景的不同，各種隱私保護技術(shù)有著不同的優(yōu)點和缺點?！皼]有銀彈”，不存在保障隱私的通用方法，隱私計算可以在很大程度上避免隱私被侵犯所造成的潛在損害。
分享文章：從隱私到隱私計算
標(biāo)題URL：http://fisionsoft.com.cn/article/ccopcsp.html
