应对人工智能技术滥用，合作才是未来(2)

尽管公众对人工智能兴趣大增主要是由于生成式人工智能的发展，但多国军方早已将注意力投向了人工智能技术在战场上的应用，尤其是能够进行深度学习的自主武器系统。美国战略界把人工智能的发展与历史上核武器的出现相类比，美知名科技企业家埃隆·马斯克也认为，人工智能技术的扩散已让各国企业可以“在自家后院制造核弹”。

在当前全球最受关注的两场冲突中都能看到人工智能的应用。美《时代》周刊近日刊文将俄乌冲突称为“第一场人工智能战争”，披露美国科技公司帕兰蒂尔向乌克兰提供人工智能软件，通过分析卫星图像、无人机画面等情报提供打击敌军的最有效目标，并根据每次打击进行学习和改进。报道称，这些“人工智能军火商”俨然把乌克兰当作了其最新科技的最佳实验场。

在巴以冲突中，以色列军队已将人工智能技术用于摧毁无人机、绘制隧道网络地图，以及推荐打击目标。据报道，名为“福音”的人工智能系统让以军寻找攻击目标的效率提升了几百倍。不少媒体担心这可能意味着系统不仅锁定了军事设施，也在轰炸平民住所，“人工智能可能正被用于决定加沙居民的生死”。

而早在2020年就首次实验人工智能目标识别的美国，最近也广泛利用该技术定位也门的火箭发射装置、红海的水面舰艇，以及伊拉克和叙利亚的打击目标。

据美媒报道，美国军方还不断加强与OpenAI等领先企业的合作。2023年8月，生成式人工智能的浪潮掀起不久，美国防部数字和人工智能首席办公室便迅速成立“生成式人工智能工作组”。今年1月，OpenAI悄无声息地更新了其“使用政策”页面，删除了其中对“军事和战争”应用的限制，将条款改为更模糊的“禁止利用产品开发或使用武器”。不久后，该公司承认正与五角大楼合作开展包括研发网络安全工具在内的多个项目。近日，美国防部高级官员再次邀请美科技企业参加秘密会议，希望加速探索和实施人工智能的军事应用。

相关专家认为，人类在几十年间成功遏止核武器使用，靠的是各国间的战略协调。目前全球缺乏人工智能军事应用的国际治理框架，极易因技术失控导致冲突升级或引发军备竞赛，迫切需要尽快达成多边共识。联合国秘书长古特雷斯此前强调，联合国必须在2026年前达成具有法律约束力的协议，禁止在自动化战争武器中使用人工智能。

国际协调合作不可或缺

人工智能同时具有正反两方面的巨大潜能，需及时采取措施防范风险。2016年以来，各国陆续发布相关政策法规，但进展仍赶不上技术的进步。去年10月，拜登签署美国首项人工智能监管行政令，为人工智能建立安全和隐私保护标准，但被指缺乏强制执行效能。欧盟方面，虽然欧洲议会于3月13日通过《人工智能法案》，但是法案中的相关条款将分阶段实施，部分规则要到2025年才生效。日本执政党自民党直到最近才宣布计划在年内提议政府引入生成式人工智能立法。

无论是生成式人工智能带来的虚假信息问题，还是人工智能军事应用的风险，其影响都是跨越国界的。因此，人工智能的监管和治理应通过国际合作来解决，各国应共同做好风险防范，携手共建具有广泛共识的人工智能治理框架和标准规范。

然而遗憾的是，美国不仅从一开始就把中国的人工智能发展计划当作敌对行为，在布局人工智能军事应用时把中国视为假想敌，而且为了维持技术优势，长期阻碍中国技术进步。据报道，美政府不仅禁止美国企业对华出口处理能力最强的人工智能芯片，还要求美国云计算公司披露在其平台上开发人工智能应用程序的外国客户姓名，试图借此阻断中国企业访问数据中心和服务器。