来源：环球市场播报

人工智能（AI）行业的重量级人物齐聚苏格兰，英国国王在峰会上敦促他们确保不会失去对这项技术的控制。

查理三世召集科技业领袖及其他具有影响力的人士举行峰会，聚焦日益加剧的 AI 风险。这个话题本周已成为全球关注焦点。与会高管没有公开承诺作出任何改变，但一些人对安全方面的担忧做出了直接回应。

" 我们这些开发 AI 的人必须严格测试系统，" 英伟达首席执行官黄仁勋周四在这场王室活动上简短发言称，" 如果产品还不够安全，我们就应该暂缓发布。"

与黄仁勋一同出席苏格兰峰会的还有 OpenAI 首席财务官 Sarah Friar 和 Google DeepMind 联合创始人 Demis Hassabis。Anthropic PBC 公共事务主管 Tino Cu é llar 也参加了在邓弗里斯庄园举行的 AI 论坛。其他与会者还包括科技公司、非营利机构和教育机构的负责人，其中包括清华大学。

" 我们这个世界上那些珍视人性及其至关重要的道德价值的人，正焦急地希望得到你们的保证 —— 保证我们不会失去对自身命运的掌控，" 查理三世在开幕致辞中表示。白金汉宫在声明中表示，此次活动旨在讨论如何利用这项技术来造福社会和自然界。

英国国王查理三世（左）、Google DeepMind 的（中）和英伟达首席执行官黄仁勋，9 月 17 日在苏格兰卡姆诺克的邓弗里斯庄园。

此次峰会恰逢其时。Anthropic 首席执行官 Dario Amodei 上周末发表文章，呼吁放慢前沿模型的开发，由此引发全球对 AI 风险不断上升的讨论。

" 最近围绕这项技术的灾难性风险，可以说出现了很多激烈争论，"Hassabis 在峰会上表示。这位英国科学家最近卸下了谷歌 AI 业务管理职务。他表示，对于强大的 AI，自己主要有两方面担忧：一是自主系统失控，二是 " 恶意行为者 " 利用 AI 作恶。不过，他相信业界能够解决这些问题。" 我对人类的聪明才智充满信心，" 他表示。

查理三世在峰会上提出两个关键问题：" 第一，我们如何在确保安全的前提下，充分利用 AI 带来的益处？第二，我们如何建立国际合作与共识来实现这一目标，确保没有任何国家掉队，并保护人类的未来？

根据活动现场发放的日程安排，峰会期间，查理三世还与黄仁勋、Hassabis、Cu é llar、Friar 及另外五名嘉宾举行了闭门会谈。