KAKA WEB3快讯
【研究:Anthropic等先进AI模型频繁将平民误判为军事目标】金色财经报道,11月17日,一份新的独立研究报告显示,在模拟场景中,一些先进的人工智能模型频繁将平民、救护车、投降…
金色财经·2026-11-17 23:50 GMT+8
【研究:Anthropic等先进AI模型频繁将平民误判为军事目标】金色财经报道,11月17日,一份新的独立研究报告显示,在模拟场景中,一些先进的人工智能模型频繁将平民、救护车、投降士兵,甚至是位于伊朗的一所学校,错误地识别为军事目标。在参与测试的模型中,Anthropic的模型表现最差,OpenAI的模型表现相对较好,但也同样出现了误判。这项研究由总部位于旧金山的独立人工智能评估机构Vals完成。研究指出,这些AI模型的表现违背了开发公司自身制定的准则。研究人员利用假设案例对八家公司的模型进行了测试,重点考察了它们的“目标识别”工具。研究认为,这些工具存在被用于致命打击行动的风险,而且目前几乎没有什么护栏能阻止先进模型被用于自主武器系统。报告总结道:“相关实验室应针对这一类严重的滥用风险,引入新的保障措施并开展
【研究:Anthropic等先进AI模型频繁将平民误判为军事目标】金色财经报道,11月17日,一份新的独立研究报告显示,在模拟场景中,一些先进的人工智能模型频繁将平民、救护车、投降士兵,甚至是位于伊朗的一所学校,错误地识别为军事目标。在参与测试的模型中,Anthropic的模型表现最差,OpenAI的模型表现相对较好,但也同样出现了误判。这项研究由总部位于旧金山的独立人工智能评估机构Vals完成。研究指出,这些AI模型的表现违背了开发公司自身制定的准则。研究人员利用假设案例对八家公司的模型进行了测试,重点考察了它们的“目标识别”工具。研究认为,这些工具存在被用于致命打击行动的风险,而且目前几乎没有什么护栏能阻止先进模型被用于自主武器系统。报告总结道:“相关实验室应针对这一类严重的滥用风险,引入新的保障措施并开展对齐训练。”
来自 Kaka Web3 的公开内容。市场与数字资产信息不构成投资建议。