Anthropic 首席执行官达里奥·阿莫代伊（Dario Amodei）多次表示，他对少数几家私营公司做出可能重塑社会的决定感到不安。在 CBS 的一次采访中，他同意没有人选举他或 OpenAI 首席执行官山姆·阿尔特曼（Sam Altman）来做这些选择，并认为这正是 AI 需要深思熟虑的监管的原因。
这一立场在本周变得更加重要。
阿莫代伊现在敦促行业放慢前沿步伐，以便安全系统能够跟上，他警告说，能力越来越强的 AI 代理可能在几个月内而不是几年内造成更严重的网络、生物和控制风险。
阿莫代伊不再孤立无援。
OpenAI 在 9 月 9 日表示，它支持强制性的国家 AI 安全要求，包括基于能力的规则和独立的安全评估。该公司认为，企业和政府都无法单独管理高级 AI 风险。
随后，山姆·阿尔特曼暗示领先的 AI 公司可能很快宣布更广泛的行业协议。
当被问及 OpenAI、Anthropic、埃隆·马斯克的 AI 业务和 Google DeepMind 是否可以共同协调安全问题时，阿尔特曼表示他相信这种合作会发生，但拒绝透露私人讨论的内容。
这紧随行业内部日益增长的压力之后。
一位前 Anthropic 和 OpenAI 研究员最近辞职，此前他警告说，实验室正在竞相开发自我改进系统，而缺乏足够的保障措施，这一发展情况在我们关于最新 AI 安全辞职的报道中有所涵盖。
这场辩论尤其引人注目，因为这些公司正同时走向巨大的估值。Anthropic 和 OpenAI 都在为潜在的公开上市做准备，而 Coinpaper 已经追踪了它们合并前的上市市场野心。
华盛顿正朝着相反的方向前进。
唐纳德·特朗普总统拒绝了科技高管和民主党人要求减缓前沿 AI 发展的呼吁，他认为美国不能冒将技术领导权让给中国的风险。
这造成了一种不寻常的分歧。
那些有最强经济动力继续扩展的公司越来越多地表示某种形式的克制是必要的，而白宫则担心克制本身可能成为国家安全风险。
这种紧张局势对 Anthropic 来说甚至更加复杂。今年早些时候，特朗普政府因对 Claude 军事用途的限制问题与该公司发生冲突。尽管政府其他方面发出了更和解的信号，五角大楼仍将 Anthropic 视为供应链风险。
埃隆·马斯克也说明了新兴联盟的混乱程度。他多次警告高级 AI 风险，但最近却将一些与 Anthropic 相关的最新安全警告斥为“心理战”。