AI解锁无人时代仍需数据安全保驾护航(2)

　　算法、模型和数据构成机器学习三大基石。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上表示，以算法构建过程中上下游的产业链来看，数据的输入、数据的分析、模型的训练、模型的决策、模型的上线部署应用以及模型的改造过程当中都存在相应的风险。

　　例如，在数据输入环节，如果攻击者控制了数据来源，或者攻击者能够对收集数据的设备本身产生安全攻击，最终将通过这个链条影响到算法模型。如通过超声波影响陀螺仪，最终可以使无人机坠落。或者在模型决策阶段，可以通过物理攻击，使得自动驾驶车辆最终视觉识别系统出问题，这样可能影响车辆自动行驶或者对行人的判断。

　　随着人工智能的应用，技术的滥用带来失控风险。验证码验证机制首当其冲。朱季峰介绍，早在2017年，地下的黑产就已经开始用机器学习的方法做二维码识别训练。资料表明，80%以上验证的准确性都可以通过机器学习算法自动完成线上的注册，这就产生了一系列的安全问题。

　　3大系统共筑数据安全防火墙

　　人脸识别技术依托于对海量视图数据的分析，因而数据安全直接影响着人脸识别技术的实战应用。人工智能技术在安防领域的应用是技术寻求落地进程最快、应用最早的训练场。

　　达闼创始人、董事长兼CEO黄晓庆表示，从数据采集到数据处理到数据传输，解决数据网络安全问题有很多手段。从网络和数据角度要完成三个重要的任务——物理隔离、网络隔离、应用端到端的保护。

　　除了技术，我国利用法律武器在数据立法上也做出了探索。

　　今年6月，我国颁布了《数据安全法》，9月1日将开始正式实施。《数据安全法》提出以数据分级分类为核心，搭建数据安全的监管制度，要求强化落实各级数据处理活动主体数据安全保护的义务与责任，为规范数据处理活动，保障数据安全提供法律依据。另外，《个人信息保护法（草案）》也即将进入三审阶段，两项法案相辅相成，推动我国个人信息保护和数据安全治理进入全新阶段。

　　在人工智能大会“大爱无疆·共生”论坛上，清华大学苏世民书院院长薛澜回顾人工智能治理模式历经回应式治理、集中治理和敏捷治理三个阶段。“现在我们进入了相对比较集中的治理模式。该模式明确了国家加强行业监管，促进制度落地的决心，对暴露出来的各种问题采取比较坚决的措施落实监管规则，同时触及到需要进一步研究的问题。”薛澜说。

　　目前，上海正研究立项公共场所人脸识别分级分类应用规范的地方标准，将成为全国首个立项的人脸识别的地方性标准；开展全市人工智能数据立法调研，规范数据确权，数据共享等重要内容，推动可信人工智能的研究。上海市人大也正在起草《上海市数据条例》。

　　此外，上海市数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与应用安全国家工程实验室、上海赛博网络安全产业创新研究院共同发起筹建数字身份与数据流通信任技术实验室，该实验室将基于数字信任技术的产学研生态合作，开展隐私计算、区块链、前沿密码等数字信任技术攻关和产业应用，支撑城市数字化转型、数据要素市场构建和网络安全体系建设。

　　记者获悉，上海浦东新区将在数据资源共享、数据交易、数据开发利用等方面进行立法探索；临港新片区将试点开展企业法人数据的跨境流通的安全评估和服务监管，加强个人数据的全生命周期安全监控和防护。

(责编：赵超、陈键)