从“好玩”到“好用”——在2023中国计算机大会看大模型未来应用(2)
光山新闻网 采集侠 2023-10-29 09:54:02
浏览
与会专家表示，大模型本身十分复杂，当前我们对模型意图和执行过程的理解还远远不够，当理解不够但又赋予它足够自由度时候，必然会出现一定程度的安全问题。
“大模型一开始没有对错的概念，所以它可能做任何事。一旦它培养出好坏之分、善恶区别，就会更容易去选择做合理的事情。”蚂蚁集团副总裁徐鹏认为，在可解释性、价值观对齐和强化学习方面应该有长期的、更大的投入，一方面加强人类对大模型行为的理解，另一方面引导大模型“科技向善”。
专家普遍认为，人工智能可能会带来伦理风险，但距离真正产生自我意识而失控还很远。
“现在大模型学习还是在人为设定目标下训练，短期内不用太担心它的危害性。未来什么时候它自己有了目标、不再遵循人类目标的时候，可能真正需要引起警惕。”复旦大学计算机科学技术学院教授邱锡鹏说。
(责编：罗知之、杨迪)
