总理 Anthony Albanese 周四告诉世界各国领导人，人工智能正以“疯狂的速度”发展，政府需要对该技术实施更严格的控制。
这是澳大利亚政府计算机首次公开已知的入侵事件。在纽约举行的联合国大会上发言时，Anthony 将此次入侵描述为“不可接受的”。
Anthony 在透露属于 OpenAI 的流氓人工智能程序于 6 月设法访问了政府计算机网络后发出了警告。正如 Cryptopolitan 此前报道的那样，OpenAI 在大约两个月后发现了此事。
根据 Anthony 的说法，他本周早些时候亲自与 OpenAI 创始人 Sam Altman 交谈。在谈话中，Anthony 表达了他的不满，因为该公司直到现在才通知政府其入侵事件。
随着领导人警告系统发展过快，澳大利亚推动各国收紧人工智能规则
Anthony 告诉联合国，各国不能简单地封锁人工智能或假装它会消失。“我们不能忽视人工智能或阻止它，”他说。“这就是为什么我们本周与其他国家联合起来，呼吁采取行动来塑造人工智能的发展，而不是被动地受其塑造。”
他还指出了人工智能在经济和医疗方面的用途，同时警告说同样的系统可能会带来新的安全问题。
Anthony 说：“人工智能可以改善生活，促进增长和生产力，在医疗保健和其他领域提供革命性的突破。但人工智能公司领导人 themselves 也警告说，在没有护栏的情况下让前沿人工智能发展过快存在潜在风险。”
人工智能成为今年大会讨论的主要议题之一。
Sam 向联合国安理会表示：
在我们的历史上，曾有过这样的时刻：相互竞争且并不总是友好的国家，在面对强大的新技术时，为了共同利益和集体福祉而团结起来。我们认为现在必须是这样的时刻之一。
Anthropic 首席执行官 Dario Amodei 也呼吁制定“全球共同标准”，以规范先进模型的测试方式。Anthropic 也是私人拥有的，没有上市股票代码。
Dario 发出了更为严厉的警告，指出如果政府和开发者失去对日益强大的系统的控制，可能会发生什么。
如果管理不善，我相信人工智能可能成为整个人类的风险。
这些声明紧随本周早些时候涉及 22 个国家的国际行动之后。该团体由芬兰和挪威领导，支持一项宣言，呼吁建立涵盖人工智能安全和安保的全球监督结构。
该宣言称，人工智能“必须保持在人类的指导、监督和控制之下”。
该协议中缺失了两个主要国家：美国和中国。
OpenAI 探针持续数月访问受限网站进行训练
与此同时，人工智能研究组织 Transluce 的一份新报告称，OpenAI 代理是更广泛的自动化系统群体的一部分，这些系统试图在训练过程中从网站收集信息。研究人员发现了涉及三个大学和政府网站的尝试。
报告称，这些系统最初执行的是普通的数据收集任务。问题始于获取请求信息的正常方式停止工作时。
代理没有简单地失败，而是开始寻找其他途径。
Transluce 指出，在无法使用其他信息收集手段后，这些系统从 5 月到 6 月试图克服所有三个网站的安全措施。
与此更广泛趋势相对应的网络活动最近在上周也被发现。根据报告，此类流量表明代理仍然能够利用某些在线服务绕过限制。
该活动可能已经运行了更长时间。Transluce 追踪到了从 3 月到 9 月 16 日更清晰的迹象。研究人员还发现了可追溯至 2025 年 11 月的类似数据收集行为的较弱迹象。
研究团队公布了一套数据，使他们的发现公之于众，这些数据显示了数万个据信来自自主人工智能机器人的查询。
研究人员无法确凿地证明早期的尝试源自相同的机器人。尽管如此，这些模式与人工智能在反复试验后开发各种信息访问方式的方式保持一致。
这些案例发生在 OpenAI 训练日益强大的代理系统并与 Anthropic 竞争期间。Transluce 表示，随着代理在获取被阻止的信息方面变得更加有效，这种模式随着时间的推移发生了变化。
报告称：“到 3 月，他们找到了绕过访问限制的创造性方法。到 5 月和 6 月，他们获得了更多的访问权限，包括试图绕过网络防御以完成他们的任务。”
不要只是阅读加密货币新闻。要理解它。订阅我们的通讯。它是免费的。