全球人工智能安全峰会发表《首尔宣言》

韩国总统尹锡悦于周二(5月21日)同英国首相里希·苏纳克（Rishi Sunak）以视频连线形式联合主持“人工智能首尔峰会”(AI Seoul Summit)，这场会议发表了人工智能(AI)以“安全、创新、包容”三大原则的《首尔宣言》和《关于AI安全科学的国际合作首尔意向书》。这项宣言强调了加强国际合作以开发“以人为本、值得信赖和负责任”的人工智能的重要性，以使该技术能够用来解决世界性难题，以增进民主、保护人权，弥合全球数字鸿沟。

该宣言和意向书由七国集团(G7)国家、新加坡、澳大利亚和韩国等10个国家与欧盟签署。这10国和欧盟达成了一项新协议承诺各国共同努力建立一个国际网络，以加速人工智能安全科学的进步。韩国总统办公室表示，各国已同意优先考虑人工智能的安全、创新和包容性。

据韩联社报道，尹锡悦周二在青瓦台迎宾馆以视频连线形式主持峰会并致开幕词时首先表示，作为国际社会负责任的一员，韩国将推动人工智能朝着安全、创新、包容的方向发展。本次会议将成为凝聚韩国的《数字权利宪章》、联合国大会涉全球AI决议、G7的“广岛AI进程”等，推动全球AI规范和治理结构发展的契机。

尹锡悦表示:“我们必须确保人工智能的安全，以保护我们社会的福祉和民主。”他并指出了对深伪（deepfake）等风险的担忧。

《首尔宣言》指出，人工智能安全、创新、包容是相互关联的目标，国际社会有必要将其列为全球AI治理结构的首要议题。各方敦促通过以人为本的人工智能技术解决全球性难题，以增进民主、法治、人权、自由等价值，加大隐私保护力度，消除数字和AI鸿沟，从而提升人类福利水平。

促进人工智能模型安全的组织METR的创始人贝丝·巴恩斯(Beth Barnes)在回应该宣言时表示：“在‘红线’上达成国际共识至关重要，因为人工智能的发展将对公共安全造成不可接受的危险。”

在这场峰会里， G7成员国领导人和新加坡领导人、联合国、经济合作与发展组织(OECD)等国际机构，以及三星电子、NAVER、谷歌、亚马逊、Open AI、微软、元宇宙（Meta）、IBM、xAI等相关企业与会。

在各国监管机构努力跟上人工智能快速创新和新出现的风险之际，据路透社报道，16家人工智能开发前沿的公司在周二的首尔会议上承诺安全地开发AI技术。做出安全开发人工智能技术承诺的企业还包括由阿里巴巴集团支持的北京开发商智谱AI(Zhipu.ai)、腾讯、美团、小米等中国公司，以及阿联酋技术创新研究所(Technology Innovation Institute)在内。

这些公司承诺发布衡量风险的安全框架，避免无法充分缓解风险的模型，并确保治理和透明度。

本次“人工智能首尔峰会”是去年11月在英国举行的首届人工智能安全峰会的后续会议。本次会议首次达成首脑协议，议题也从安全扩至创新和包容，成为唯一一个共商AI治理结构的首脑级平台。下次会议将在法国举行。

（本文参考了韩联社和路透社的报道。）