进博夜话：拥抱AI时代 共享美好未来(2)
光山新闻网 采集侠 2024-11-10 14:07:01
浏览
人工智能是人类发展新领域，给全球带来巨大发展机遇的同时，也面临着安全治理的新课题。如何让AI以人为本、智能向善？多位对话嘉宾给出了他们的答案。
“AI技术的发展演进、业务场景构建，应该满足人民群众追求更美好生活的需求。”杨珉认为，AI技术是一个动态演进过程，发展和安全相互协同是基本思路。
杨珉表示，推动全球人工智能领域的合作与对话是AI安全治理的重要路径，特别需要在算力基础设施、基础软件生态、基座大模型技术、安全和可靠保障能力等方面加强国际合作。
针对AI安全治理，多位嘉宾进行了思考与分享。人民网 马莹莹摄
张冬明认为，AI安全治理不仅需要保障AI safety（注意系统本身缺陷），更要关注AI security（防范外部的攻击）。同时，媒体行业应该成为AI语料的源头活水。
张冬明介绍，生成式AI兴起之初，人民网就启动了主流价值语料库建设，针对人工智能大模型普遍回答不好却又不容回避的重大问题、敏感问题、疑难问题，提供安全语料支撑。此外，针对采集数据中的错误，研制了人民审校和内容风控大脑：并提供“时政信息表述审校”、“综合信息审校”等核心服务。同时，通过人民网的天目系统，可以对文本、图片、音视频内容进行检测。
点击进入专题
(责编：王连香、高雷)
