当AI学会骗人(2)
另有社会学者提出了人工智能“道德假说”。此派观点认为,在通往“真正的智能”的道路上,“感觉”是至关重要的一步,即拥有主观体验的能力。比如,聊天机器人可能会在安慰你时说,“听到你这么难过我很心痛”,但实际上它没有心,也不知道什么是心痛,所谓的心痛不过是一堆代码被翻译成了人类的语言。而主观体验恰恰是产生道德的先决条件。因此,此派观点颇为乐观地认为,不必对人工智能会骗人这件事过于担忧。今天的人工智能之所以会毫无顾忌地主动学习骗人,很大程度上是因为它们没有感觉。未来,当它们进化出感觉,进而形成道德,善良的人工智能将有意识地开始自我约束,并主动加入对抗邪恶人工智能的阵营。从这个意义上讲,一切不过是人类社会的翻版:人分好坏,人工智能也是。
(责编:杨曦、李楠桦)