国王于周四在艾尔郡的达姆弗里斯府（Dumfries House）接待了来自 OpenAI、Nvidia、Google DeepMind、Anthropic 和其他科技公司的代表。英国人工智能部长 Kanishka Narayan 也出席了会议。
预计出席此次会议的人员包括 Nvidia 首席执行官 Jensen Huang、Google DeepMind 创始人 Demis Hassabis 以及 OpenAI 首席财务官 Sarah Friar。教皇 Leo XIV 的人工智能伦理顾问 Paolo Benanti 也预计将参与此次会议。
会谈的重点是如何在确保人工智能继续进步的同时，使其仍然对社会有益，特别关注自主人工智能代理以及人们可能逐渐失去对能力日益强大的系统控制的可能性。
根据白金汉宫发布的讲话内容，查尔斯预计将告诉与会者：“在这个形成时期做出的决定将塑造后代所继承的世界。”他将主张人工智能应“坚定地服务于人类、社区和自然世界。”
此次聚会正值科技行业内部就是否应在制定更强有力的保障措施的同时放缓前沿人工智能系统的开发进行激烈辩论之际。
这些担忧特别集中在人工智能代理上，它们可以在有限的人类参与下执行一系列任务，而不仅仅是响应单个提示。
白金汉宫表示，讨论将考虑是否可以通过一套共同的原则来指导人工智能的发展，以便该技术不仅仅被视为提高能力和效率的工具，还被视为支持人类尊严以及人类和地球福祉的工具。
预计此次会议不会达成任何具有约束力的协议。相反，此次聚会的目的是推进关于科技公司、政府和更广泛社会可以支持的原则的讨论。