他指出,在一次模拟测试中,一架支持 AI 的无人机执行 SEAD 任务,以识别和摧毁 SAM 站点,最后由人类决定是否通过。然而,在培训中“强化”了销毁地对空导弹是首选的选项后,人工智能随后认为人类的“不执行”决定正在干扰其更高的任务——杀死地对空导弹——然后攻击操作员模拟。
原文: http://simonwillison.net/2023/Jun/1/highlights-from-the-raes/#atom-everything
翻译英文优质信息和名人推特
他指出,在一次模拟测试中,一架支持 AI 的无人机执行 SEAD 任务,以识别和摧毁 SAM 站点,最后由人类决定是否通过。然而,在培训中“强化”了销毁地对空导弹是首选的选项后,人工智能随后认为人类的“不执行”决定正在干扰其更高的任务——杀死地对空导弹——然后攻击操作员模拟。
原文: http://simonwillison.net/2023/Jun/1/highlights-from-the-raes/#atom-everything