江苏龙网

  1. 首页 > 人文 > >

歪比歪比，歪比巴卜，神经网络也该用上加密“通话”了


歪比歪比，歪比巴卜，神经网络也该用上加密“通话”了
本文插图
作者 | 赛文
编辑 | 陈大鑫
AI科技评论今天解读的论文是近日获得BMVC 2020最佳论文奖亚军的论文：
《Key-Nets: Optical Transformation Convolutional Networks for Privacy Preserving Vision Sensors》
这篇论文为设计保护隐私的深度学习应用提供了一种范式 。
歪比歪比，歪比巴卜，神经网络也该用上加密“通话”了
本文插图
现代相机的设计局限于当时的计算机硬件配置 ， 在某些方面也是以人类的视觉体验来作为参考 ， 并非以计算机视觉或机器学习作为目标应用 ， 这种相机采集到的数据在机器学习推理过程中会出现泄露用户隐私的情况 ， 来自Visym Labs和STR的研究者们提出了一种可以保护用户隐私的视觉传感器 ， 该传感器只收集机器学习任务所需的信息 ， 除此之外 ， 本文还设计了一种与该传感器配套的卷积神经网络key-net 。
这种视觉传感器可以对输入图像进行光学/模拟变换 ， 经过变换的图像人类是无法理解的 ， 但是key-net可以对其进行精确的加密推理 ， 这在一定程度上保证了用户隐私的安全性 ， 这种加密方式带来的计算代价也是非常容易接受的 。
本文为设计保护隐私的深度学习应用提供了一种范式 。
歪比歪比，歪比巴卜，神经网络也该用上加密“通话”了
本文插图
论文链接：https://arxiv.org/abs/2008.04469
代码链接：https://github.com/visym/keynet
1 动机
计算机视觉技术在安防领域已经表现出相当大的优势 ， 例如人脸识别和行人重识别等技术可以帮助公共场所的管理人员进行嫌疑人员的快速筛查 ， 大大提高了他们的工作效率 。
但是这些应用的数据来源都是传统的安防摄像头 ， 而且是以非侵入性的方式捕捉人们的面部和身体信息 。
这些图像数据会有相当一段时间存储在这些摄像头的内存中 ， 这期间可能会出现用户隐私的泄漏 ， 美国的一些城市已经禁止类似的人脸识别应用部署在公众环境中 ， IBM公司更是宣布停止人脸技术的开发 。
另一方面 ， 对于人脸识别应用 ， 模型只需要一部分关键信息即可完成推理过程 ， 但是传统摄像头会无法避免的捕捉到其他无关的周围背景信息 ， 这既给模型推理带来了一定的干扰 ， 还增加了其他用户隐私的泄漏风险 。
歪比歪比，歪比巴卜，神经网络也该用上加密“通话”了
本文插图
有些工作将对抗学习原理引入到隐私保护网络的设计中 ， 通过对图像执行退化处理或者加入一些噪声 ， 如上图所示 ， 并使用图像感知损失进行约束来完成对图像的加密 ， 但是这些操作会影响原有算法的性能 ， 迫使我们在隐私保护能力和模型性能之间寻找一个平衡点 。
基于此 ， 本文直接对视觉传感器进行修改 ， 在成像过程中就完成了对图像的加密处理 ， 在根源上解决问题 。
2 方法
为了在成像过程中对图像加密 ， 需要设计一种新型的视觉传感器来代替传统的透镜成像设备 ， 这种传感器可以由一系列具有衍射或反射特性的光学元件构成 ， 这些元件的不同组合相当于为成像过程加上了一把锁 ， 这就保证了摄像头捕获到的数据是经过硬件加密的 ， 同时根据加密后的数据对传统的机器学习算法进行优化 ， 构成一个具有隐私保护功能的机器学习系统 ， 作者提出该系统的功能需要满足以下5点：
（1）捕获到的图像人类无法理解
（2）机器学习系统可以直接处理加密后的图像
（3）机器学习系统只能处理加密后的图像
（4）机器学习系统的参数也是加密的 ， 攻击者无法获取或者重新使用


推荐阅读


上一篇：China军事迷|为何仍是全球强国？，俄罗斯GDP只同等于一个广东省

下一篇：军林怀绿|美媒公开全球军力榜单：印度日本进前五韩国超英法排第六