AI智能体走热，将如何改变生活(2)
截至今年8月，百度文心智能体平台开发者已达60万，企业数量升至10万。百度移动生态事业群组总经理何俊杰表示，AI智能体将重塑人与技术互动的方式，带来新的应用生态、流量格局和商业模式。
“智”与“治”如何平衡？
不少业内人士认为，AI智能体是未来趋势所在。
《2024数字科技前沿应用趋势》报告显示，AI智能体有望成为下一代平台。百度创始人李彦宏也表示，对于接下来AI应用的发展方向，最看好智能体。
有观点认为，在可预见的未来，智能手机上都会有一个AI智能体，它将集合各类数据，满足用户随时随地的需求；它将是企业的“AI程序员”，协助开发人员完成一系列繁琐工作；或是“数据分析员”，自动汇集分析企业数据，挖掘数据金矿价值。
李彦宏表示，随着基础模型日益强大，开发应用也越来越简单。只要用“人话”把工作流程说清楚，再配以专有知识库，即可做出很有价值的AI智能体，比互联网时代制作一个网页还简单。
也有不少受访专家认为，当前已出现的AI智能体仅能完成较为简单、固定的工作，总体仍处发展初级阶段。
飞速发展的同时，AI智能体也面临技术风险、伦理和隐私等问题。
业内人士表示，AI智能体在提供服务的过程中会收集大量数据，需要确保数据安全，防止隐私泄露。AI智能体虽然能提供建议，但并非都具有权威性。此外，AI智能体的自主性越强，越有可能在复杂或未预见的情境中作出不可预测或不当的决策。
周明认为，要从不同维度设立安全屏障：在研发环节，应将安全性作为核心设计原则，为研发人员提供相应培训，防止模型算法带有偏见；在使用环节，提升公众对技术应用边界、风险挑战的认知，增加反馈渠道。
智谱相关负责人表示，企业应制定严格的内部规范和操作流程，确保开发、测试、部署和使用都在可控范围内。推动行业标准的制定，为AI智能体的健康发展提供指导。同时，要建立责任追溯机制。
中国科学院自动化研究所副研究员张海峰也认为，政策制定应纳入多方利益相关者的意见，建立适当的AI伦理审查机制，对高风险项目进行独立审查，确保其符合伦理标准并对社会有益。
(责编：王震、陈键)
