大模型加快落地 赋能千行百业(2)
光山新闻网 采集侠 2024-03-10 10:32:06
浏览
周鸿祎把大模型引发的安全风险分为技术安全、内容安全和人类安全三个方面。技术安全主要涉及大模型技术本身引发的如网络、数据等方面的风险；内容安全则是指控制、滥用、误用和恶意应用大模型带来的法律及道德问题；而人类安全则是大模型足够强大后，人工智能是否安全可控的问题。
为此，他建议，我国应未雨绸缪，重视大模型安全。例如，研究制定保障大模型安全的标准体系，推动通用大模型开展安全评测、接入安全服务等，降低大模型的安全风险。
大模型安全既包括应用层面安全，同样也包括产业链安全。
“大模型作为驱动新质生产力的重要技术底座，其本身也要构建在自主可控的国产软硬件基础之上，以及安全的产业链环境之中。”刘庆峰建议，为进一步推动自主国产大模型发展，要加快我国大模型开发者生态体系建设和运营，支持国产大模型向开发者开放，开展大模型评测体系和开源社区建设，降低研发和使用成本。同时，应鼓励央企国企优先应用国产大模型，尤其是在关键敏感领域和核心战略领域。
(责编：杨曦、陈键)
