为了获取个性化的服务, 或是为了发展创新, 常常以牺牲隐私为代价那么, 对于其中的矛盾关系真的如此不可调和吗?Ling Liu 教授提出, 在大数据的背景下, 我们应该着眼于探索以可用性为导向的隐私保护方法此外, 数据隐私应该包括个人和组织对数据收集使用和分析, 甚至是交易的控制权大数据治理

Size: px

Start display at page:

Download "为了获取个性化的服务, 或是为了发展创新, 常常以牺牲隐私为代价那么, 对于其中的矛盾关系真的如此不可调和吗?Ling Liu 教授提出, 在大数据的背景下, 我们应该着眼于探索以可用性为导向的隐私保护方法此外, 数据隐私应该包括个人和组织对数据收集使用和分析, 甚至是交易的控制权大数据治理"

大习
5 years ago
Views:

1 大数据隐私问题与挑战 2016( 首届 ) 中国隐私保护学术会议 1. 引言 2016 年 11 月 7 日, 由中国保密协会隐私保护专业委员会主办, 中国人民大学承办的 2016( 首届 ) 中国隐私保护学术会议, 在中国人民大学艺术学院音乐厅成功召开本次会议是国内隐私保护领域的一次最重要的盛会, 会议由中国人民大学孟小峰教授信息工程研究所信息安全国家重点实验室林东岱主任担任大会主席, 来自国内外的两百余人参加本次会议会议共邀请到佐治亚理工大学 Ling Liu 教授, 中国人民大学孟小峰教授, 阿里巴巴集团安全部技术杜跃进副总裁, 中国信息通信研究院技术与标准研究所何宝宏副所长, 中国科学院软件研究所丁丽萍研究员, 西安交通大学桂小林教授, 复旦大学周水庚教授, 中国电科三十所安红章高级工程师, 贵州大学彭长根教授和东南大学倪巍伟教授十位专家学者参加会议, 并就大数据下的新的隐私问题隐私模型隐私保护技术隐私问题的挑战等几个议题展开讨论 2. 隐私问题与挑战大数据研究的前提是数据开放与共享然而在现实情况中, 大量数据处于闲置孤岛状态, 因为数据的开放和共享可能会导致隐私的泄露, 很多数据拥有者或者管理者不敢或不愿开放共享数据, 导致工业界有数据缺技术, 而学术界有技术缺数据在这样的背景下, 隐私保护被提出, 其是大数据应用成功的关键通过隐私保护技术, 寻求一些使用数据的方法, 既不妨碍第三方从带有敏感信息的数据集中获取信息, 同时又避免隐私资料的泄露下面分别从各个专家学者的角度, 介绍大数据下的隐私问题和挑战数据隐私的演化 : 概念和方法 (Ling Liu, 美国佐治亚理工 ) 大数据时代给隐私保护技术带来极大的挑战,Ling Liu 教授就大数据下的数据开放和隐私保护问题做了详细的报告现如今, 各式各样的网络媒体为数据的收集提供了便捷, 然而这些数据中却蕴含了大量的个人信息, 如购物模式家庭住址医疗信息和社交信息等直接对这些蕴含敏感信息的数据进行分析无可避免会产生社会歧视等问题针对隐私保护问题, 已经提出了诸如加密访问控制匿名化变换和差分隐私等方法去标识符的方法已被广泛使用, 然而简单去标识符却依旧无法抵御像链接攻击这样具有背景知识的攻击, 抑制和泛化等方法同样不可用基于此提出的 k 匿名 l 多样性和 t 贴近性模型由于良好的泛化性能而克服了这一点, 此外还有基于敏感属性的数据变换数据扰动等, 此类保护技术都是基于匿名化的思想, 而最新提出的差分隐私保护技术则是基于背景知识的, 即使攻击者掌握了除欲攻击元组以外的所有背景知识, 其仍无法推理该元组, 因而得到广泛的关注和研究大数据带来更加便捷的服务, 然而其与数据隐私却存在着矛盾的关系随着技术的发展, - 9 -

2 为了获取个性化的服务, 或是为了发展创新, 常常以牺牲隐私为代价那么, 对于其中的矛盾关系真的如此不可调和吗?Ling Liu 教授提出, 在大数据的背景下, 我们应该着眼于探索以可用性为导向的隐私保护方法此外, 数据隐私应该包括个人和组织对数据收集使用和分析, 甚至是交易的控制权大数据治理中的隐私保护 ( 孟小峰中国人民大学 ) 在大数据驱动的管理与决策应用背景下, 孟小峰教授对大数据隐私保护问题进行重新定位与思考, 提出了大数据隐私保护框架, 并试图从数据管理的角度探讨主动隐私管理技术, 为大数据隐私技术提供新思路和理论依据主要讨论了以下四个方面 : 隐私问题 : 大数据时代数据的共享使得信息获取成本降低, 原来以企业为主的信息构成, 变成了以人为主, 也导致了隐私的问题急剧增加数据治理是当下的热点问题, 所谓数据治理, 就是要规范数据的使用和交易, 对隐私进行有效保护新的社会浪潮带来的隐私风险主要来自于三个方面 : 多元异构数据的融合大数据的深度分析廉价的信息获取手段这三个方面使得隐私的问题更为迫切, 也更具挑战隐私模型 : 将隐私重新分类为显式隐私 ( 用户自身公开的匿名的敏感信息 ) 和隐式隐私 ( 由第三方所搜集的用户自身并不了解的敏感信息 ) 根据隐私模型 Privacy(U, C, A, D) (U 指用户 User,C 指第三方数据收集者 Collector,A 指攻击者 Adversary,D 指数据 Data), 又可以把隐私分为五类 :A-U A-C C-U C-C 和 U-C, 每一类都有现实的隐私泄漏案例, 隐私保护技术应该针对每一类的不同特点对症下药隐私技术 : 传统的隐私保护技术存在三个问题 : 依赖特定的攻击假设, 具有被动防御的局限 ; 针对单一小数据, 缺乏对大数据的适应性 ; 单一算法保护方式, 缺乏整体防御能力在大数据时代, 应该变被动保护 (Protection) 为主动保护 (Prevention), 为此提出了 Privacy-Trinity 架构首先, 对隐私进行监测和评估, 构建一个 Privacy Knowledge Graph, 通过特征分析将隐私与近 2000 种的隐私保护方法匹配, 推荐保护方案, 最后利用数据溯源进行问责, 从而打出一个事前预警事中防护事后追踪的组合拳隐私悖论 : 借用分布式系统的 CAP 原理, 隐私系统也存在 PSC 原理, 即 Privacy( 隐私性 ) Share( 共享性 ) Connection( 关联性 ) 三者之前的悖论, 称之为隐私悖论浅淡 DT 时代的数据安全与隐私保护问题 ( 杜跃进阿里巴巴 ) DT 时代下, 因为有了数据, 人们的消费出行和生活等工作模式都随着大量的数据发生了变化阿里巴巴集团安全部技术杜跃进副总裁从企业的视角谈了对数据安全的看法数据改变了人们的生产生活模式, 而人们对数据安全的担心也日益增加阿里巴巴是一家数据公司, 拥有极其丰富的数据和复杂的业务场景, 需要花大量精力来保证数据的安全数据安全包含了许多内容, 包括企业秘密 ( 知识产权原始代码 ) 用户个人数据等目前中国的地下数据产业的产值达到了 1000 多亿人民币, 已经远远超过发展了十多年的数据安全产业, 所以在企业里数据安全的工作很大一部分在于与地下产业链进行对抗阿里巴巴每年有很多的实战应用和新的数据加工需求, 数据流动得非常快在这样的环境中, 主要解决三类问题 : 数据滥用数据误用和数据窃取数据滥用即在没有产品支持的情况下不正常使用数据 ; 数据误用即在数据加工过程中, 无意泄露了个人隐私 ; 而数据窃取则包括了个人隐私和企业隐私对这些问题, 需要各个配套的技术手段, 以及各个岗位的人员能力融合, 才能够形成组织内部的数据安全控制的能力除了被动防护, 还应包括威胁和威慑能力的建设, 这是未来的数据安全的保护方向最后, 从组织架构, 机制体制, 技术手段和人员能力四个角度, 将以上设想归纳为数据安全成熟度模型, 旨在对其他组织或者机构制定一些政策提供指导意义, 提高整个行业的数

3 据安全水平隐私边界与数据流通信任体系构建 ( 何宝宏中国信息通信研究院技术与标准研究 ) 数据流通是大数据产业的重要环节, 需求迫切, 但中国规范的数据交易行业近年来才刚刚起步因为缺乏有效机制, 所以急需出台数据流通的合规性标准, 建立审计监督制度, 降低数据流通的成本基于此, 何宝宏所长指出了隐私保护的三个关键问题首先是匿名化问题, 强调了匿名化过程不能可逆其次, 指出了长期困扰着数据流通行业从业人员和监管人员的困惑 : 是否需要对所有信息设定相同的隐私保护边界? 基于此提出的新思路是 : 将数据区分为基础数据和增值数据, 二者对应不同权属第三是知情同意原则, 其是个人信息权的核心, 已经成为我国个人信息保护的一项重要原则关于数据流通信任体系的构建, 其需满足以下三个要求 : 事前对用户关心问题作出真实承诺 ; 事中有第三方评估监督和信息公开 ; 事后有规范的风险损失赔偿机制基于此, 数据流通行业目前亟待统一规范的内容包括 : 数据的应用范围, 授权的要求和流程, 能够交易的数据类型和要求, 交易方法, 定价指导等互联网中的数字取证与隐私保护 ( 丁丽萍中科院软件所 ) 电子取证是科学地运用提取和证明方法, 对于从电子数据源提取的电子证据进行保护收集验证鉴定分析解释存档和出示, 以有助于进一步的犯罪事件重构或者帮助识别某些与计划操作无关的非授权性活动网络取证是电子取证的主要组成部分, 其证据主要来源有通信数据流链路设备安全防御设备服务器端的数据等, 可以被分为 Web 取证云计算取证和社交网络取证等三种典型范型在隐私方面, 因在认定敏感信息优先级以及信息度量的不同, 对隐私的定义有很多种欧美和香港对个人隐私的保护, 从上个世纪 70 年代开始规范, 从各个不同的层面对个人隐私进行了保护和欧美等西方国家相比, 我国在这方面的立法比较滞后, 只是在民法合同法侵权责任法等法律中有一些零散的规定, 没有一部完善的隐私保护法, 目前在个人隐私保护上急需一个完善的法律体系合理的制度设计和技术保障数字取证目的在于提供精确的犯罪证据, 隐私保护目的在于模糊用户的隐私信息, 两者是矛与盾的关系, 如何平衡, 怎样在数据取证当中保护个人的隐私? 针对这个问题, 丁丽萍研究员的团队提出了两种解决方案一种方案为加密结合授权关键字搜索先对数据加密, 只有授权用户的用户可以搜索含有特定关键字的数据, 只有带有关键字的数据可以被解密, 同时不同的用户可以被授予不同的关键字另一种方案为基于差分隐私的频繁序列模式挖掘方法差分隐私保护技术定义了一个严格的攻击模型, 通过添加噪音使数据失真达到保护隐私的目的空间大数据发布与共享中的隐私保护 ( 桂小林西安交通大学 ) 在移动互联网环境中, 用户只需通过随身携带的移动终端即可随时随地的享受互联网提供的各种软件存储计算和位置服务这些服务层出不穷, 包括微信博客地图应用商店社交网站移动搜索位置服务和云盘存储等但在已经实现的移动互联网服务站, 安全和隐私问题一直令人担忧, 并已经成为阻碍移动互联网普及和推广的主要因素基于位置的服务 LBS 已成为移动互联网服务的重要组成部分, 然而, 随着位置服务和智能设备的普及, 产生了大量的空间数据, 且空间数据规模呈爆炸式增长, 如果将这些数据直接外包, 空间数据将面临巨大的隐私安全挑战基于此, 桂小林教授指出, 针对位置服务中的用户位置和轨迹保护需要, 深入开展位置

4 服务安全与隐私保护关键问题和方法研究是必须的通过关键技术研究, 实现移动终端隐私保护和服务平台安全访问的一体化, 完成一个可信的移动互联网位置服务原型系统, 支持在隐私保护基础上, 能够统计和分析某个时间某个范围内的用户分布规律或统计特性, 为政府企业和研究人员提供道路规划商业配置等方面的决策支持大数据查询处理的隐私保护 ( 周水庚复旦大学 ) 查询处理隐私保护是大数据隐私保护的核心大数据的价值是通过使用来实现, 使用数据也就是访问数据访问数据分为两类, 一种是主动式的在线访问, 即查询处理, 用户提出需求, 系统返回查询结果, 这是一种个性化的显式查询 ; 另一种是被动式的离线访问, 即数据发布, 系统根据大众需求, 发布相关的数据, 这是一种大众化的隐性查询在查询处理隐私保护中, 根据角色将数据相关者划分为数据拥有者数据使用者和数据服务提供者不同角色对隐私的需求不同, 数据拥有者需要数据隐私和存储隐私, 数据使用者需要查询隐私, 数据服务提供商需要数据隐私和查询隐私数据查询处理隐私保护所要解决的就是在支持高效准确的查询处理的同时, 保护数据隐私查询隐私和存储隐私隐私保护是大数据应用的关键, 而查询处理的隐私保护是大数据隐私保护的重要环节查询处理隐私保护主要面临三方面的技术挑战 : 高效安全的算法复杂查询的处理及同时保护数据查询和存储隐私结合现有数据管理技术密码与信息安全技术, 仍然可以找到有效的解决方案区块链隐私保护技术探讨 ( 安红章中国电科三十所 ) 区块链技术, 是指通过去中心化和去信任的方式集体维护一个单向增长可靠账本 ( 数据库 ) 的技术方案, 通过分布式共识和密码学手段确保数据库的可信性其中, 分布式共识账本是区块链技术的价值核心对于公共账本这一个属性, 虽然对区块链来说是一个好处, 但是同时存在隐私问题, 因为这样就有可能泄露隐私, 因此, 隐私保护在区块链的领域受到重视, 尤其是数字货币的领域就数字货币而言, 比特币可以保护隐私, 因为其需要用户通过多个地址配合私钥进行交易基于这个后面就派生出了许多的货币, 最近的一个就是 Z-CASH, 它安全性最高的一种数字货币对于数字货币方面的隐私保护, 包括四个方面 : 多个身份地址进行伪装 ; 将身份在一定的范围内混淆 ; 将身份和支付行为两方面的混淆 ; 对交易信息进行隐藏就监管而言, 这对于在中国发展的区块链来说是非常重要的一方面其主要分为两个方面, 一个是审计的问题, 第二个的话就是国家操作特权整个区块链领域的隐私和匿名的保护看似简单, 但未来的路还很遥远, 大概可以分为三个方面首先, 当下都是一些虚拟空间的身份, 区块链要走上应用的道路必须要跟实体空间对接, 这就需要考虑实体身份怎么样保护他的匿名性与安全的合法交易 ; 其次是综合行为信息的保护, 区块链的整个交易行为应该如何保护是一个问题 ; 最后, 综合数据的保护, 有很多的课题需要研究理性隐私计算探讨 ( 彭长庚贵州大学 ) 由于需要在隐私保护与可用性之间做好权衡, 传统表达权衡的模型为博弈模型基于此, 彭长根教授提出对博弈模型进行风险评估在构建博弈模型时, 考虑隐私保护与分析利用的权衡, 安全性与效率的权衡以及隐私获取与攻击成本的权衡基于信息论和博弈论及其相交叉的理论和方法, 通过引入自利的理性参与者, 在有限理性假设下, 结合现有的一些隐私保护技术, 研究基于理性密码学的隐私保护技术理性风险访问控制及其机制设计理性差分计算隐私风险理性量化评估模型及风险可控等, 构建技

5 术与管理相结合的隐私安全解决方案, 从理性的角度解决隐私保护与可用性之间的最优均衡理性隐私计算的关键问题则包括以下三个方面 : 首先是隐私度量, 尝试模仿香农通信模型对隐私进行度量, 同时考虑更复杂的度量计算 : 概率模型隐私信源模型定义隐私函数隐私信息熵模型等 ; 其次是博弈模型, 将博弈模型引入理性隐私计算问题, 博弈模型的均衡状态即为或用性与隐私保护之间的平衡 ; 第三个则是机制设计, 根据参与者的隐私偏好, 定义理性参与者类型和可选行动策略于是, 理性隐私计算的内容体系可以概括为以下四个方面 : 理性隐私公平交换计算理性隐私保密合作计算理性隐私访问控制模型和理性隐私风险评估及控制模型位置隐私保护中偏好调控技术 ( 倪巍伟东南大学 ) 近年来, 位置服务中的隐私保护问题得到了研究者的持续关注, 特别是近邻查询中位置隐私保护问题更是得到了广泛的研究保护位置隐私查询是隐私保护位置服务研究的重要内容基于此, 倪巍伟教授提出了隐私偏好 (privacy preferences) 的概念, 用隐私偏好表示保护位置隐私近邻查询中, 不同场景下, 查询者对其位置保护强度查询效率与查询准确性的个性化调控要求例如, 查询中位置保护强度查询效率与准确性的关注次序 ; 是否接受牺牲准确性换取查询效率提升 ; 牺牲效率换取查询准确性或位置保护强度提升 ; 希望获得的位置隐私保护强度的等级等现有多数研究在隐私模型构建高强度隐私保护机制等方面已取得显著成果, 但从已有的模型和位置隐私保护机制对隐私偏好的支持方面考虑, 主要存在如下问题 : 位置隐私模型偏好描述能力不足, 位置隐私保护机制对隐私偏好支持能力不足目前, 保护位置隐私查询研究对查询者位置的隐藏可以归纳为借助空间变换及加密隐私信息检索和匿名思想对隐私偏好的支持, 要求保护位置隐私查询机制在满足查询者关于位置保护强度查询效率与查询准确性偏好需求的基础上, 实现三者的带约束兼顾和动态调节 3. 总结及未来展望大数据在当前 IT 业发展十分迅速, 具有广阔的发展前景, 但同时其所面临的隐私挑战和风险也是空前的, 需要隐私保护研究者共同探求管理之道本次隐私保护学术会议就大数据下的隐私保护问题和挑战进行探索和总结, 为后续学者进行科学研究奠定了基础当然, 大数据隐私问题不仅仅是技术方面的问题, 它还涉及到法律法规监督模式宗教等诸多方面因此, 仅从技术层面探索大数据隐私问题还是不够的, 需要学术界企业界以及政府相关部门共同努力才能实现

- 2 -

- 2 - 实验室年度亮点 - 1 - - 2 - 实验室举办了 2016( 首届 ) 中国隐私保护学术会议 2016 年 11 月 7 日, 由中国保密协会隐私保护专业委员会主办, 中国人民大学承办的 2016( 首届 ) 中国隐私保护学术会议, 在中国人民大学艺术学院音乐厅成功召开本次会议是国内隐私保护领域的一次最重要的盛会, 会议由中国人民大学孟小峰教授信息工程研究所信息安全国家重点实验室林东岱主任担任大会主席,