2024-04-18 10:00
联合国科技大会：OpenAI、腾讯、百度、蚂蚁、谷歌、Meta、科大讯飞、OPPO等国内外大厂编制大模型国际安全规范
AI奇点网4月18日报道丨4月15日-19日，第27届联合国科技大会在瑞士日内瓦召开。4月16日当天的会议，以“塑造AI的未来”为主题的人工智能多边会上，世界数字技术院（WDTA）发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准，代表全球人工智能安全评估和测试进入新的基准。
据了解，这两项国际标准是由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。其中《大语言模型安全测试方法》由蚂蚁集团牵头编制。
与会的WDTA人工智能安全可信负责任工作组组长黄连金表示，随着人工智能系统，特别是大语言模型继续成为社会各方面不可或缺的一部分，以一个全面的标准来解决它们的安全挑战变得至关重要。此次发布的标准汇集了全球AI安全领域的专家智慧，填补了大语言模型和生成式AI应用方面安全测试领域的空白，为业界提供了统一的测试框架和明确的测试方法，有助于提高AI系统安全性，促进AI技术负责任发展，增强公众信任。
世界数字技术院（WDTA）是在日内瓦注册的联合国下设国际性非政府组织，遵从联合国的指导框架，致力于在全球范围内推进数字技术，促进国际合作。AI STR(安全、可信、负责任)计划是WDTA的核心倡议，旨在确保人工智能系统的安全性、可信性和责任性。蚂蚁集团、华为、科大讯飞、国际数据空间协会（IDSA）、弗劳恩霍夫研究所、中国电子等均为其成员单位。
相关文章
Felix
雷小军
