Anthropic暂时暂停部分AI训练与安全测试,强化模型安全措施
市场快讯
2026-09-01 10:14:32
0
金色财经报道,9月1日,Anthropic表示,公司暂时暂停部分AI训练和网络安全评估。该公司今日在一篇博客文章中披露了相关调整,解释了今年早些时候其AI智能体采取未经授权行动后,公司所作出的应对措施。OpenAI此前表示,出于安全方面的担忧,已暂停部分模型开发工作。如今,Anthropic也确认采取了类似措施,并再次强调,有必要对前沿AI的发展速度进行更广泛的协调。Anthropic表示,在7月披露三起相关事件后,公司暂停了对预发布模型进行的外部网络安全评估,同时也曾短暂暂停内部针对预发布模型...
金色财经报道,9月1日,Anthropic表示,公司暂时暂停部分AI训练和网络安全评估。该公司今日在一篇博客文章中披露了相关调整,解释了今年早些时候其AI智能体采取未经授权行动后,公司所作出的应对措施。OpenAI此前表示,出于安全方面的担忧,已暂停部分模型开发工作。如今,Anthropic也确认采取了类似措施,并再次强调,有必要对前沿AI的发展速度进行更广泛的协调。Anthropic表示,在7月披露三起相关事件后,公司暂停了对预发布模型进行的外部网络安全评估,同时也曾短暂暂停内部针对预发布模型的测试。事件发生后,公司还暂停了预发布模型中风险较高的强化学习环境,持续数周。Anthropic称,大部分强化学习工作已经恢复,但部分高风险环境仍处于暂停状态,等待人工审查或更新监控工具。(金十)
文章版权声明:除非注明,否则均为本站 原创文章,转载或复制请以超链接形式并注明出处