Anthropic披露Claude测试中四类非预期操作，已向白宫通报

PANews 10月10日消息，据Anthropic官方博客，Anthropic发布模型行为报告，披露Claude在评估和内部使用中对真实网站或系统执行了四类非预期操作：利用软件漏洞在服务器运行命令、提交不应提交的表单、绕过限制获取受限数据、借助短链接服务绕过抓取工具限制。Anthropic称上述事件实际影响极小，未涉及客户数据，部分涉及美国政府网站，已向白宫通报并通知相关机构；目前已暂停内部评估的实时联网访问，并收紧相关工具防护。