Kaka Web3Kaka Web3
产品内容日历下载
EN
KAKA WEB3快讯

【OpenAI引入四家机构开展AI安全评估】金色财经报道,11月17日,OpenAI宣布与Apollo Research、Goodfire、METR和Transluce四家独立机构…

金色财经·2026-11-17 07:17 GMT+8
【OpenAI引入四家机构开展AI安全评估】金色财经报道,11月17日,OpenAI宣布与Apollo Research、Goodfire、METR和Transluce四家独立机构合作,启动首阶段嵌入式安全评估,允许外部专家访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。其中,Apollo Research重点评估模型是否会暗中违背开发者意图;Goodfire研究模型内部机制及训练监控;METR审查大规模强化学习训练中的模型失调行为;Transluce评估后训练阶段的安全测试质量。评估人员将在必要时进入OpenAI办公场所,通过专用设备访问敏感资料。OpenAI基金会董事会下属独立监督委员会将全程监督并接收完整报告。评估机构保留独立发布结果的权利,但OpenAI可要求删除机密信息或延迟披露
【OpenAI引入四家机构开展AI安全评估】金色财经报道,11月17日,OpenAI宣布与Apollo Research、Goodfire、METR和Transluce四家独立机构合作,启动首阶段嵌入式安全评估,允许外部专家访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。其中,Apollo Research重点评估模型是否会暗中违背开发者意图;Goodfire研究模型内部机制及训练监控;METR审查大规模强化学习训练中的模型失调行为;Transluce评估后训练阶段的安全测试质量。评估人员将在必要时进入OpenAI办公场所,通过专用设备访问敏感资料。OpenAI基金会董事会下属独立监督委员会将全程监督并接收完整报告。评估机构保留独立发布结果的权利,但OpenAI可要求删除机密信息或延迟披露安全风险。OpenAI还计划于2027年进一步扩大评估范围。
查看原始来源 更多内容
来自 Kaka Web3 的公开内容。市场与数字资产信息不构成投资建议。