如何构建可信赖的AI系统(2)
确保AI以人为本、智能向善，完善伦理和法律框架是重要发力方向。王翔认为，技术的进步往往伴随着新问题的发生，因此需要设立法律边界和伦理准则，为AI的发展提供指导与约束。这不仅可以减少AI应用中潜在的伦理风险，还能使AI应用更加规范和安全。此外，建设可信赖的AI系统需要跨学科合作，哲学、伦理学、社会学等学科的参与能为AI的设计与发展提供更全面的视角。
技术优化是手段
构建可信赖的AI系统，还需要在技术层面和应用实践中不断探索和完善。王翔介绍了三种主要的技术路径。
一是数据驱动路径。王翔认为，数据质量和多样性是实现可信赖AI的基础。训练数据的多样性可以有效减少模型中的偏见问题，确保系统决策更加公平、全面。“只有在庞大的优质数据基础上构建的AI模型才能适应广泛的应用场景，降低在特殊或极端条件下出现偏见的可能性。”王翔说，数据的安全性也至关重要，尤其是在涉及个人隐私的领域，保障数据安全可以提高用户信任度。
二是算法驱动路径。王翔说，算法的优化与控制是实现可信赖AI的关键手段。在模型的设计阶段，开发者可以通过设置伦理规则、嵌入人类价值观等约束条件，确保系统在实际运行中符合社会准则。同时，设计透明的算法结构有助于提升模型的可解释性，便于用户理解其运行机制，并为未来的模型更新和优化打下基础。
三是奖惩引导路径。王翔说，通过合理设计奖惩机制，可以让AI在不断试错和学习过程中，逐渐形成符合人类价值观的行为方式。例如，可以在奖惩系统中设置反馈机制，当AI的行为偏离预期时施加相应惩罚，引导其在自我训练过程中符合人类期望。同时，奖惩机制需具备时代适应性，确保AI系统能在运行中持续更新并优化自身。
这三种技术路径的侧重点各有不同。王翔解释，数据驱动路径主要聚焦于通过高质量、多样化的数据源减少AI系统的偏见，提升系统的适用性；算法驱动路径更注重模型的设计和透明性，使系统在行为逻辑上更符合人类预期；奖惩引导路径则侧重于在AI自我学习和优化过程中提供有效指引和反馈，让系统逐渐趋向人类认可的方向。“不同路径相结合，可以为实现可信赖的AI提供更加丰富的技术支持。”王翔说。
要构建可信赖的AI系统，还需在实际应用中不断进行迭代和优化。“通过多次评估和测试，可以在不同环境和条件下验证AI系统的性能，确保其在现实应用中的表现符合人类预期。”王翔说。
(责编：罗知之、陈键)
分享让更多人看到
推荐阅读
助力提质增效 多地推动支持上市公司并购重组
上海要求上市公司并购重组项目向有助于新质生产力发展、有助于重点产业补链强链的方向倾斜；四川鼓励上市公司通过并购重组向新质生产力方向转型升级，拓展产业生态圈，延伸创新生态链；河北引导和鼓励企业以获取技术、品牌、人才和市场为目的，对行业企业实施兼并重组，以健全龙头企业领跑机制；江西支持上市公司通过产业并购、资产注入等方式，围绕江西省“1269”重点产业链上下游开展资源整合；深圳提出建立上市公司并购重组项目库，扩大并购重组储备范围，并丰富并购重组融资渠道……
近期，我国各地积极出台并购重组政策，引导区域内企业更加主动通过并购重组，提升产业链整合能力，实现做大做强。业内人士表示，并购重组成为企业资源整合、实现产业结构调整和产业转型的重要方式，各地创新举措提升企业的并购能力和意识，为并购重组提供丰富的项目资源，探索与产业龙头合作发起产业并购基金等，降低企业并购融资难度，助力上市公司提质增效。…
农业农村部：强化防灾减灾措施 稳定冬春畜牧业生产
人民网北京11月25日电 （记者李栋）据气象预测，今年冬季气温冷暖起伏显著，发生过程性强降温和强升温事件的可能性大。为进一步强化防灾减灾措施，稳定冬春畜牧业生产，近日，农业农村部畜牧兽医局组织修订并发布了《畜牧业应对寒潮暴雪天气技术指导意见（2024版）》，提出6项技术措施。…
