“隐私计算涉及到多种技术,包括安全多方计算,联邦学习,差分隐私,可信执行环境等,每个技术既在各自领域独立发展,也呈现出融合统一的趋势。为此,同盾科技提出“知识联邦”的框架体系,支持安全多方检索、安全多方计算、安全多方学习(联邦学习)、安全多方推理等技术方案,将是未来通向AI3.0的必由之路”,同盾科技合伙人、副总裁兼人工智能研究院院长、美国佛罗里达大学终身教授李晓林表示。
在今年《麻省理工科技评论》发布的“全球十大突破性技术”榜单中,入选的“差分隐私”技术引起了各界高度关注。美国政府希望运用这一技术在2020年人口普查中更好地保护公民隐私。毫无疑问,数字文明中的隐私数据保护已经成为网络空间生态安全的核心问题。
当下,数据已经成为每个国家的基础性战略资源和生产要素,被称为21世纪的“钻石矿”。我国也正在抓紧制定《数据安全法》,从法律层面保障数据安全,促进数据开发利用。
而在学界,如何通过引入全新的数据保护模式来控制数据的搜集、查询及使用,使得数据安全性、隐私性在得到保证的前提下,最大限度地支持基于数据驱动的科学研究及商业活动,更是科学家们努力突破的方向。
为此,本文邀请同盾科技合伙人、副总裁兼人工智能研究院院长、美国佛罗里达大学终身教授李晓林就“隐私数据保护、隐私计算”等前沿科学领域及其场景化应用分享观点。人工智能国际知名学者李晓林教授所带领的研究团队是国际上最早将云计算、大数据、大规模深度学习、物联网研究贯穿于一体的研究团队之一,形成了从传感物联/互联网+、到大数据深度学习、到大规模的智能云计算平台的闭环反馈研究体系。
Q(记者): 今年,用于隐私数据保护的“差分隐私”技术入围MIT Technology Review“十大突破性技术”;同时我国正在抓紧制定数据安全保护相关法律。而在当下,在隐私数据保护、隐私计算领域,学界业界取得了哪些突破进展?
A(李晓林教授): 隐私计算是面向隐私信息全生命周期保护的计算理论和方法。随着数据隐私保护的法规出台和执行,违反隐私罚款高达数十亿。隐私计算将会得到更广泛的关注,技术体系也将会进一步完善,落地应用的步伐也会加快。移动操作系统数据隐私保护已经在全球普遍落地。
隐私计算涉及到多种技术,包括:安全多方计算,联邦学习,差分隐私,可信执行环境等,每个技术在各自领域独立发展的过程中,也慢慢呈现融合统一的趋势。为此,同盾科技提出了“知识联邦”的概念,作为一个统一的、层次化的框架体系,支持安全多方检索、安全多方计算、安全多方学习(联邦学习)、安全多方推理等技术方案。知识联邦是打造数据安全的人工智能生态系统的基础,也是未来通向AI3.0的必由之路。
Q: 差分隐私与您提到的知识联邦理论有哪些区别,是否可以结合应用?
A: 由微软研究院率先提出的差分隐私是密码学中的一种实现隐私保护的技术手段,主要解决脱敏数据中个人隐私泄露的问题。差分隐私是一个概率概念,它通过加扰在统计数据的准确性和隐私参数之间进行权衡,可以广泛用于数据收集、存储、查询、使用等全流程,实现准确性与隐私的均衡。差分隐私是实现保护数据隐私的的一种技术手段,可以用于知识联邦。
知识联邦不是一种单一的技术方法,它是一套理论框架体系,是人工智能、大数据、密码学等几个领域交叉融合的产物。知识联邦主要解决了数据割裂和数据安全问题,同时实现知识发现和归纳。在知识联邦的安全多方学习和安全多方计算应用中都可以使用差分隐私技术,来保护联邦参与方数据、模型等隐私相关信息。
Q: 同盾人工智能研究院主攻的知识联邦理论体系在隐私数据保护和隐私计算领域,作出了哪些贡献?取得了哪些进展?
A: 在理论层面,知识联邦包含四个层级:信息层、模型层、认知层和知识层。在每个层级中,联邦的对象不同,应用目的也不相同。信息层主要是对加密数据进行联合,然后进行计算或学习,可以用于安全多方计算或检索,也可用于联邦学习。模型层主要是发生在模型训练阶段,用于联邦学习阶段。认知层可以基于多种认知表达进行训练学习,主要用于联邦学习和联邦预测。知识层则侧重在多种知识表达的联合,进行安全多方推理。知识联邦是一个国产原创、自主可控、国际领先的框架体系。
同盾智邦平台是基于知识联邦体系实现的安全多方应用平台,是一个工业级应用产品,已更新迭代到v2.2版本。在平台中我们还实现了数据接入标准化和数据安全交换协议,可以让数据提供者轻松地进行联邦合作。
此外,在技术的普及和规范上,同盾人工智能研究院最近参与了中国信通院相关标准的制定:
●《基于联邦学习的数据流通产品 技术要求与测试方法》标准第一版
●《基于可信执行环境的数据计算平台 技术要求与测试方法》标准第一版
●《基于多方安全计算的数据流通产品 技术要求和测试方法》标准第二版修订
最近,同盾科技还正在与某些合作单位一起牵头制定金融行业的联邦学习和隐私保护相关标准。
Q: 同盾人工智能研究院的知识联邦理论体系,未来将在哪些领域落地?
A: 首先在金融领域,我们会探索更多的落地场景。金融场景中所有需要多方参与建模、知识共享的场景都可以应用知识联邦。尤其是针对个人的贷前风险防控和多头共债中,因为在建模或决策中涉及个人隐私信息和合规监管要求,更需要使用知识联邦体系下的联邦学习、隐私计算等技术提供有力的技术支撑。
其次,在国家关注的政务大数据上,知识联邦是一种很好的解决方案,因为联邦的本质就是一种数据安全交换协议。通过知识联邦可以帮助政府实现安全的数据虚拟融合,实现数据联邦检索,在保护个人信息的情况下,建立政府数据向社会开放的安全渠道。同时,可以为各部门行政审批事项梳理和业务流程再造提供支持。
此外,在智慧城市建设发展中,知识联邦同样可以发挥重要的作用。例如在车联网,通过知识联邦可以保护车主行为习惯的前提,让每辆车辆与周边车辆保持安全的信息交流,为自动驾驶形成助力。在社区监控、疫情普查或智能门禁中,利用知识联邦可以将区域或家庭监控系统与公安的犯罪嫌疑人数据库连通,通过本地计算分析,在保护过往行人的隐私情况下,对发现的潜质嫌疑人及时报警。因此,我们也在智慧医疗、智慧城市、智能物联网等领域布局。
雷锋网雷锋网