統計解析・機械学習に向けたプライバシー保護技術

近年、IoTやSNSなどの進展に伴い、個人のプライバシーに関わる情報を適切に保護したまま、データ解析を行う技術が求められています。例えば、ユーザのパーソナルデータ（位置情報、電力使用量など）からヒストグラムを計算して、人気のある観光地、電力使用パターンなどを分析することができます。別の例として、ユーザをnode、友達関係をedgeで表現したソーシャルグラフから、三角形の数（#triangle）や、1個のnodeがk個のnodeと繋がっている星の数（#k-star）などの部分グラフ数を計算し、「自分の友達の友達が、自分の友達である確率」を表すクラスター係数（=3 #triangles / #2-stars）を求めることができます。クラスター係数は、例えばSNSの友達推薦機能の有効性を知る上で有効な統計情報です。さらには、近年では人工知能の進展に伴い、プライバシーを保護したまま、機械学習（深層学習、SVM、行列・テンソル分解など）のモデルを構築する技術も求められています。

これに向けて、当研究チームでは、(1)データ収集者，あるいはユーザ自身が差分プライバシーなどの安全性指標を満たすように位置情報やソーシャルグラフなどのデータを加工する技術や、(2)加工済みデータに対して統計解析や機械学習のモデル構築を行う技術や、(3)高い安全性と有用性を両立するための新しい安全性指標の確立などの研究に取り組んでいます。例えば、差分プライバシーは「任意の背景知識を持つ攻撃者が、加工済みの統計情報や学習モデルを入手しても元データに関する情報をほとんど得ることができない」ことを数理的に保証する安全性指標として知られています。(1)(2)では、このような強い安全性指標を満たす統計解析や機械学習のモデル構築を目指します。

一方、「このようなデータの加工を行わなかった場合に、どの程度プライバシー情報が漏洩するのか」が、適用先によっては不明確なことがあります。或いは逆に、強すぎる安全性を要求する指標を用いた場合、適用先によっては、どのようなアルゴリズムを用いてもデータの有用性が大きく損なわれてしまう可能性もあります。(3)では、このような安全性のリスクや有用性の観点での限界を解明しつつ、高い安全性と有用性を両立するような新しい安全性指標を確立することにも挑戦します。

図

論文リスト

  • Jacob Imola*, Takao Murakami*, Kamalika Chaudhuri (*: equal contribution), "Locally Differentially Private Analysis of Graph Statistics," Proceedings of the 30th USENIX Security Symposium (USENIX Security 2021), pp.983-1000, 2021.
  • Seira Hidano, Takao Murakami, Yusuke Kawamoto, "TransMIA: Membership Inference Attacks Using Transfer Shadow Training," Proceedings of the 2021 International Joint Conference on Neural Networks (IJCNN 2021), 2021 (to appear).
  • Takao Murakami, Koki Hamada, Yusuke Kawamoto, Takuma Hatano, "Privacy-Preserving Multiple Tensor Factorization for Synthesizing Large-Scale Location Traces with Cluster-Specific Features," Proceedings on Privacy Enhancing Technologies (PoPETs), Issue 2, pp.5-26, 2021.
  • Seira Hidano, Takao Murakami, Shuichi Katsumata, Shinsaku Kiyomoto, Goichiro Hanaoka, "Exposing Private User Behaviors of Collaborative Filtering via Model Inversion Techniques," Proceedings on Privacy Enhancing Technologies (PoPETs), Issue 3, pp.264-283, 2020.
  • Yusuke Kawamoto, Takao Murakami, "Local Distribution Obfuscation via Probability Coupling," Proceedings of the 57th Annual Allerton Conference on Communication, Control, and Computing (Allerton 2019), pp.718-725, 2019.
  • Yusuke Kawamoto, Takao Murakami, "Local Obfuscation Mechanisms for Hiding Probability Distributions," Proceedings of the 24th European Symposium on Research in Computer Security (ESORICS 2019), pp.128-148, 2019.
  • Takao Murakami, Yusuke Kawamoto, "Utility-Optimized Local Differential Privacy Mechanisms for Distribution Estimation," Proceedings of the 28th USENIX Security Symposium (USENIX Security 2019), pp.1877-1894, 2019.
  • Seira Hidano, Takao Murakami, Shuichi Katsumata, Shinsaku Kiyomoto, Goichiro Hanaoka, "Model Inversion Attacks for Online Prediction Systems: Without Knowledge of Non-Sensitive Attributes," IEICE Transactions on Information and Systems, Vol.101-D, No.11, pp.2665-2676, 2018.
  • Takao Murakami, Hideitsu Hino, Jun Sakuma, "Toward Distribution Estimation under Local Differential Privacy with Small Samples," Proceedings on Privacy Enhancing Technologies (PoPETs), Issue 3, pp.84-104, 2018.
  • Takao Murakami, "Expectation-Maximization Tensor Factorization for Practical Location Privacy Attacks," Proceedings on Privacy Enhancing Technologies (PoPETs), Issue 4, pp.138-155, 2017.
  • Takao Murakami, Atsunori Kanemura, Hideitsu Hino, "Group Sparsity Tensor Factorization for Re-identification of Open Mobility Traces," IEEE Transactions on Information Forensics and Security, Vol.12, No.3, pp.689-704, 2017.
  • Seira Hidano, Takao Murakami, Shuichi Katsumata, Shinsaku Kiyomoto, Goichiro Hanaoka, "Model Inversion Attacks for Prediction Systems: Without Knowledge of Non-Sensitive Attributes," Proceedings of the 15th International Conference on Privacy, Security, and Trust (PST 2017), pp.115-126, 2017.
  • Takao Murakami, Hajime Watanabe, "Localization Attacks Using Matrix and Tensor Factorization," IEEE Transactions on Information Forensics and Security, Vol.11, No.8, pp.1647-1660, 2016.
  • Takao Murakami, Atsunori Kanemura, Hideitsu Hino, "Group Sparsity Tensor Factorization for De-anonymization of Mobility Traces," Proceedings of the 14th IEEE International Conference on Trust, Security and Privacy in Computing and Communications (TrustCom 2015), pp.621-629, 2015. [Best Paper Award]