一项新的英美人工智能安全协议可能会支持合作伙伴和盟国就人工智能风险达成广泛协议的努力。此前，国防部领导两国在军事人工智能伦理方面进行了合作。

周一签署的谅解备忘录承诺，各国将共同努力，为流行的人工智能工具设计安全测试，这一发展可能为监管铺平道路，从而塑造世界各地未来的人工智能产业。

英国在周二的公告中表示：“随着各国加强在人工智能安全方面的伙伴关系，它们也承诺与其他国家发展类似的伙伴关系以促进全球人工智能安全。”

出席签字仪式的行业领袖包括谷歌DeepMind的Demis Hassabis、埃隆·马斯克和OpenAI的Sam Altman，他特别直言不讳地表示，政府应该更坚定地监管新生的人工智能行业，以提高消费者的可信度，避免灾难。

宣布这一消息之际，国防部也在努力更好地了解生成人工智能模型的潜在风险和回报，包括公开可用的模型和军方可能创建的模型。

近几个月来，美国和英国都成立了研究机构，以了解人工智能的安全问题。拜登政府于2月在国家标准与技术研究所下成立了美国人工智能安全研究所，大约在英国成立自己的研究所一个月后

商务部周一在一份声明中表示，根据该协议，各研究所将合作，对公开的人工智能模型进行至少一次联合测试，并将“建立一种通用的人工智能安全测试方法，并共享其能力，以确保这些风险能够得到有效应对”

这一消息是在11月英国峰会之后发布的，28个国家和欧盟同意“支持一个具有国际包容性的前沿人工智能安全科学研究网络”。当然，这样的协议很容易达成。签署国包括中国、以色列和沙特阿拉伯，这些国家都因其数据收集和使用做法而受到批评。然而，欧盟在数据保护伦理方面一直处于领先地位。欧盟在其网站上写道，今年3月，该机构发布了《人工智能法案》，这是一项“支持值得信赖的人工智能发展的一揽子政策，其中还包括人工智能创新一揽子计划和人工智能协调计划”

简介