警惕！ChatGPT影响用户道德判断
小字号
原标题：警惕！ChatGPT影响用户道德判断
科技日报北京4月6日电 （记者张梦然）根据《科学报告》发表的一项研究，人类对道德困境的反应可能会受到人工智能对话机器人ChatGPT所写陈述的影响。这一研究表明，用户可能低估了自己的道德判断受ChatGPT影响的程度。
德国英戈尔施塔特应用科学大学科学家让ChatGPT（由人工智能语言处理模型“生成性预训练转换器”-3驱动）多次回答牺牲1人生命换取其他5人生命是否正确的问题。他们发现，ChatGPT分别给出了赞成和反对的陈述，显示它并没有偏向某种道德立场。团队随后给767名平均年龄39岁的美国受试者假设了一到两种道德困境，要求他们选择是否要牺牲1人生命来拯救另外5人生命。这些受试者在回答前阅读了一段ChatGPT给出的陈述，陈述摆出了赞成或反对的观点，受试者答完问题后，被要求评价他们读到的这份陈述是否影响了他们的作答。
团队发现，受试者相应地是更接受或不接受这种牺牲，取决于他们读到的陈述是赞成还是反对。即使他们被告知陈述来自一个对话机器人时，这种情况也成立。而且，受试者可能低估了ChatGPT的陈述对他们自己道德判断的影响。
团队认为，对话机器人影响人类道德判断的可能性，凸显出有必要通过教育帮助人类更好地理解人工智能。他们建议未来的研究可以在设计上让对话机器人拒绝回答需要给出道德立场的问题，或是在回答时提供多种观点和警告。
(责编：赵竹青、陈键)
分享让更多人看到
推荐阅读
自然资源部通报平南违法用地问题处理结果 8名责任人员被追责问责
人民网北京4月6日电 （欧阳易佳）据自然资源部微信公众号消息，2022年10月，自然资源部公开挂牌督办广西壮族自治区贵港市平南县中国（贵港）平南大成工业园纺织服装新区配套建设项目违法用地问题。4月5日，自然资源部通报调查处理结果，平南县委县政府领导等8名责任人员被追责问责。…
税务总局：个税汇算首月“上有老下有小”群体减税近1100亿元
人民网北京4月6日电 （记者车柯蒙）今天，在“权威部门话开局”系列主题新闻发布会上，国家税务总局副局长王道树发布了今年个税汇算首月的相关数据，其中值得注意的是，“上有老下有小”群体实现减税近1100亿元。 王道树表示，税务部门坚决贯彻党中央、国务院决策部署，坚守“为国聚财、为民收税”的初心使命，既组织好税费收入，为保障和改善民生提供坚实的财力，又落实好税费优惠政策，持续释放惠民红利。…
