全球首个AI安全研究所将在英国成立 英国,安全

10 月 27 日消息，综合 CNBC、 等报道，当地时光周四，英国首相苏纳克发布打算成立世界上第一个 AI 安全研讨所，并于 11 月 1-2 日举办 AI 安全峰会。此次峰会将汇聚世界各国 AI 公司、政府、民间集团和相干领域专家，旨在讨论如何通过国际和谐举动来降低 AI 带来的风险。

图源 Pexels

苏纳克在演讲中表现，这个即将成立的研讨所将推进世界对 AI 安全的认识，并将对新型 AI 技术进行细心研讨、评估与测试，以便了解每种新模式的才能，并摸索从“成见和误导”等社会迫害到“最极端风险”的全部风险。

苏纳克称，“AI 可以让制作化学或生物兵器变得更容易，但这项技术也会被犯法分子所运用。在最不可能但最极端的情形下，人类甚至有可能通过有时被称为超级智能的 AI，在 AI 面前完整失控。”

此外，在下周举办的 AI 安全峰会上，苏纳克将提议成立一个“真正全球化的专家小组”—— 该小组的成员由与会国度和组织提名，届时还将宣布一份 AI 科学现状报告。

另据 此前报道，英国反垄断监管机构 CMA（竞争与市场管理局）上个月提出了管理 AI 模式的新规范，涵盖了问责、拜访和透明度等事宜。CMA 当时颁布的监管原则中，包含 AI 开发人员和安排人员应对输出内容负责、不得从事反竞争行为等内容。