聚焦乌镇：伦理规则和技术安全是AI高质量发展关键
小字号
11月10日，在2022年世界互联网大会乌镇峰会“人工智能与数字伦理”论坛上，瑞莱智慧CEO田天表示，在数智化时代，人工智能充当着“大脑”的角色，在目标性能的实现、设施运维的智能化和设施安全保障等方面发挥着重要作用。例如，运用人工智能的计算机视觉技术，可以实现工业残次品的检测、构建人脸识别安防设备，在提升生产性能与生产效率的同时，大幅提升安全保障能力。
近年来，随着算法的快速发展，算力、数据等资源的日益丰富，人工智能产业呈现快速发展态势。但田天表示，放眼未来，人工智能若要实现高质量发展，需要突破伦理规则和技术安全两大关键问题。
首先，随着人工智能逐步成为经济社会的关键角色，它与人类的交互规则构成了伦理问题，例如，人机控制权分配、人工智能采信度等等。作为一项具有开放性但又远未成熟的新技术，人工智能不可避免地会对现有伦理关系与社会结构造成冲击。
比如，人类对机器控制权的不适当让渡，会导致恶性事故的发生，典型的例子如自动驾驶汽车电子刹车系统失控引发交通事故，以及过度信任算法而忽视算法偏见导致的不公平事件等。随着人工智能对生产生活方方面面的不断渗透，伦理问题层出不穷。
其次技术安全问题。以当前落地应用最为广泛的人脸识别为例，这一技术实现的整个过程为黑箱模式，主要依靠海量人脸数据进行特征提取、训练和识别，从而能够利用相关漏洞，采用多种形式进行攻击。例如，在人脸照片上添加少量干扰或将对抗补丁打印制作后由真人佩戴，以这种定向攻击的形式破解人身核验。
面对这些问题，田天表示，需要从伦理规则和技术规则两方面加以解决。
一是伦理规则建设。这涉及到人与人工智能之间控制权阈值如何设定、兜底机制如何设计等问题，需结合具体应用场景，打造可量化、可度量、可执行的具体标准，再落实到算法、代码层面。
二是技术路径优化。在数据、算法、算力三大要素基础上，将知识要素融合进来，发展安全、可靠、可信和可扩展的第三代人工智能，不断提升人工智能的鲁棒性和可解释性，同时持续提高人工智能伦理安全、技术安全的敏捷测评水平，使之成为保障人工智能产业高质量发展的关键能力。（记者 魏蔚）
(责编：赵竹青、陈键)
分享让更多人看到
推荐阅读
新朋老友相约《进博会客厅》： 扎根中国共享机遇
“五年来，我们连续参与了中国国际进口博览会（以下简称进博会），进博会已经成为外国产品进入中国市场的窗口和大门。”在第五届进博会期间，阿根廷驻上海农业处专员奥斯卡·埃尔内斯托·索利斯在做客《进博会客厅》时说，在本届进博会上，阿根廷带来了葡萄酒、肉类、水果等产品，希望将更多阿根廷的优质产品引进到中国，共享中国机遇。…
强生中国个人健康护理戴康澜：推动个人健康管理创新 共建共享中国市场机遇
人民网北京11月10日电 （记者杜燕飞）“作为一个开放、合作的平台，进博会为我们携手各方加速引入创新产品、推动个人健康管理的发展创造了更好的机遇。”在第五届中国国际进口博览会（以下简称“进博会”）期间，强生中国个人健康护理总裁戴康澜表示，“我们对中国市场充满信心，期待未来与更多伙伴携手并行，抓住中国开放机遇，促进合作、推动创新，将更多全球领先的个人健康管理解决方案引入中国，为人民的健康作出贡献。…
