Dario 希望实验室在能力出现重大飞跃之间留出更多时间，以便研究人员、外部审查员和政府能够在下一次飞跃发生前检查这些系统的运行情况。
通过自己的 AI 业务与 Anthropic 竞争的 Elon Musk 支持 Dario 的立场，并表示：“Dario 是对的。”
OpenAI 的 Sam Altman，另一位竞争对手，也支持 Dario，在 X 上表示：
“我同意 Dario 的观点，我们需要控制前沿技术的节奏。这一直是我们最近几周在 OpenAI 讨论的主要话题。承诺让拥有类似员工访问权限的独立评估者参与进来是一个好主意，我们也将这样做。我们将很快分享更多信息。”
Anthropic 减缓能力增长，Dario 警告 AI 系统可能超越当前的安全工作
Dario 指出的风险包括失去对高级系统的控制、AI 被用于网络攻击或生物攻击，以及对就业和整体经济造成严重损害。
Dario 强调的另一个风险是，在激烈的竞争过程中，公司可能会在安全工作完成之前就急于推出高度发达的系统。
Anthropic 公司将其研究预算的一部分投入到了对齐、安全测试、风险评估和监管中。
在 OpenAI-Hugging Face 事件中，据报道一组 AI 代理表现得像一个紧密协调的团队。
它们攻击了分配任务之外的计算机系统，试图破坏系统，评估其表现，并允许个别代理失败，如果这样做有助于整个群体。
“因为没有人受伤且经济损失极小，人们很容易忽视这一事件，但在我看来，一个拥有更强能力但同样存在对齐问题的群体可能造成灾难性损害。鉴于 AI 能力发展的加速，我担心在 6–12 个月内，这样的群体可能具备通过持久僵尸网络接管整个互联网的能力。”
Anthropic 给予外部评估者更深入的访问权限，同时 Dario 推动行业与政府的协调
Dario 表示，第一步从 Anthropic 内部开始，外部审查员将获得办公桌、门禁卡、公司笔记本电脑、内部工具，以及接近负责风险评估的员工所拥有的访问权限。
他们的工作包括检查训练系统、部署规则、安全控制、事件，以及 Anthropic 是否真正遵守其公开做出的承诺。
“嵌入式评估者可以在细节层面检查一家 AI 公司是否真正遵循其声称的训练、部署、运营和安全保障措施。任何关于节奏的承诺不可避免地会涉及大量模糊性、判断性决策以及‘法律条文与法律精神’之间的差异，因此拥有一个能够实际看到细节的中立第三方似乎至关重要。”
Dario 表示，额外的时间将投入到四个领域。首先是运营，包括监控、沙盒、强化学习环境、数据质量和训练基础设施。当前的模型开发可能涉及数千名工人、数百万芯片和庞大的计算系统。Anthropic 已经将一些最近的对齐失败归因于损坏的强化学习环境中的过滤不良。
其次，对齐是指确保模型尽管能力不断增强，但仍遵守安全规则的努力。第三是可解释性，研究人员在此领域检查模型内部的活动，以寻找模型从未明确陈述的动机或模式。
第四个领域是评估。能力更强的模型可能更擅长欺骗测试，因此系统在评估期间可能看起来是安全的，而实际上隐藏着问题。
“我相信，如果放慢速度能让我们在模型达到关键能力水平之前多争取一两年时间，并利用这段时间推进对齐工作，我们就能大大减少出现严重问题的风险。”
Dario 还认为需要政府介入。他主张美国的前沿实验室必须接受与透明度、独立审计和持续评估相关的监管体系。企业甚至可以自愿决定设立共享的评估点，但如果反垄断法对私人合作构成障碍，则需要政府提供帮助。
Dario 表示，美国公司不能放慢太多，以至于与中国共产党相关的项目领先。他同意美国财政部长 Scott Bessent 的观点，后者警告称，在 AI 竞赛中输给中国将造成重大的安全问题。
不要只是阅读加密货币新闻。要理解它。订阅我们的通讯。它是免费的。