机器有了“心”AI能“读懂”人类价值观

小字号

原标题：机器有了“心” AI能“读懂”人类价值观

科技日报北京7月13日电 （记者华凌 通讯员董亦飞）记者13日从北京大学人工智能研究院获悉，由该院教授朱松纯领衔的联合团队取得一项重大研究成果，构建出一种机器实时理解人类价值观的计算框架，让机器人与人类用户通过实时沟通完成一系列复杂人机协作任务。这一研究可谓为机器立“心”，让AI（人工智能）赋能机器人“读懂”人类价值观。相关论文以“实时双向人机价值对齐”为题刊发在最新一期的国际期刊《科学·机器人学》上。

据了解，当今广泛应用的AI系统是一种被动的智能，只能机械地按照人类给定的任务行事，缺乏像人类一样的认知和推理能力以及情感和价值观。在缺“心”的情况下，AI很难理解人类真正的意图及价值需求，自然也就难以获取人类的信任、融入社会。

在发现之前的研究范式存在局限性之后，朱松纯带领研究团队转换赛道，让AI系统按照人的方式自主定义任务，“学习”人从自身的价值需求出发，由此为机器立“心”，让AI学会人的价值函数，具有实时对齐当前人类价值目标的能力，探索出“小数据，大任务”的范式。

该研究团队提出一个基于即时双向价值对齐模型的可解释AI系统，让机器通过与人类的即时交互并通过相应反馈来推断人类用户的价值目标，并通过“解释”将其决策过程传达给用户，以了解机器人作出判断的价值依据。研究结果表明，该学习模型可在复杂协作任务中提高人机协作效率，进而提升人机信赖关系，实现真正自主智能，在迈向通用AI的道路上更进一步。

(责编：罗知之、陈键)

分享让更多人看到

推荐阅读 上半年外贸数据出炉：出口美国最多 最爱从东南亚“海淘”   　　人民网北京7月13日电 （记者王震）今日海关总署公布2022年上半年进出口情况。数据显示，上半年我国货物贸易进出口总值19.8万亿元人民币，同比增长9.4%，外贸进出口实现稳步增长。…    
6月我国新能源汽车市场占有率达23.8% 延续高速增长态势   　　人民网北京7月13日电 （记者王连香）据中国汽车工业协会发布数据显示，2022年6月，我国新能源汽车产销再创新高，市场占有率达到23.8%，延续保持高速增长态势。 图片来源：中国汽车工业协会微信公众号 2022年6月，新能源汽车产销分别完成59万辆和59.6万辆，同比均增长1.3倍；1至6月，新能源汽车产销分别完成266.1万辆和260万辆，同比均增长1.2倍，市场占有率达到21.6%。…