加快推动人工智能发展（AI前沿观察）(2)

　　阿里巴巴人工智能治理和可持续发展研究中心首席科学家何源认为，生成式人工智能技术应用中，可能存在的安全风险与每个人息息相关。据何源介绍，生成式人工智能可以通过交互的方式低成本、快速地生产内容，比如可以很容易地生成并传播谣言，这给内容安全的防控带来了新挑战。在隐私和版权方面，大模型应用的海量互联网数据，很难逐一确认样本授权，容易造成隐私泄露和侵权问题。另外，生成式人工智能还降低了很多专业领域的技术门槛，有可能被滥用于黑客攻击、网络犯罪等。因此，业内专家认为，建立相关安全治理体系十分必要。

　　“多元协同、开放共治”

　　为规范生成式人工智能技术发展，2023年7月，国家网信办联合多部委公布了《生成式人工智能服务管理暂行办法》。

　　该《办法》一方面明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。同时，也明确“生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性”等。

　　在研讨会上，多位专家就生成式人工智能的安全治理提出自己的观点。

　　中国电子技术标准化研究院信息技术研究中心副主任董建提到，当前，国内外都在推动研发生成式人工智能的治理工具，但如何通过技术深层次解决治理问题，尚需进一步探索。

　　中国人工智能产业联盟安全治理委员会专委会副主委潘恩荣认为，生成式人工智能对人类的经济社会发展观念带来了巨大冲击，规范其发展“宜疏不宜堵”。一方面，必须克服各种恐惧和臆想，克制“堵”的冲动；另一方面，要在实践中，小步快跑地迭代出各种“疏”的方式。

　　复旦大学计算机科学技术学院教授张谧指出，科技行业应该负责任地发展AI，兼顾AI发展和风险管控。现在全球范围内有AI竞赛的氛围，各方应该立足长远，携手营造有序竞争，保障AI技术发展处于安全区域。

　　“关于AI，我们不知道的比知道的多，难以想象的比可以预测的多。”薛晖表示，生成式人工智能带来了前所未有的挑战，需要前瞻性地应对，“多元协同、开放共治”是AI发展和治理的必经之路。

(责编：赵欣悦、袁勃)