2023-05-31 14:44
“ChatGPT之父”奥特曼警告：AI的确可能毁灭人类
AI奇点网5月31日报道丨当地时间5月30日，AI 领域落下了一颗不大不小的震撼弹。包括OpenAI CEO、「ChatGPT 之父」Sam Altman 在内 350 位 AI 权威都签署了这封联名公开信，并对当前正在开发的 AI 技术可能会对人类构成生存威胁担忧。这封信只有一句声明：降低人工智能灭绝的风险，应该与其它社会规模的风险（如大流行病和核战争）一样，成为全球的优先事项。
签署人包括三个全球领先的 AI 技术公司高管：OpenAI 首席执行官 Sam Altman；Google DeepMind 首席执行官 Demis Hassabis；Anthropic 的首席执行官 Dario Amodei。更重要的是，名单里还有 Geoffrey Hinton 和 Yoshua Bengio 两位人工智能的「教父」。
超过 350 名从事人工智能工作的高管、研究人员和工程师签署了这份由非盈利组织人工智能安全中心发布的公开信，认为人工智能具备可能导致人类灭绝的风险，应当将其视为与流行病和核战争同等的社会风险。
如今人们越来越担心 ChatGPT 等人工智能模型的发展可能对社会和就业带来的潜在威胁，很多人呼吁针对 AI 行业进行更强力的监管，否则它将对社会造成不可挽回的破坏。AI 技术在不断狂飙迭代，但相关的监管、审计手段却迟迟没有跟上，这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。
在上周，Sam Altman 出席了美国国会的听证会，并与另外两位 OpenAI 的高管提出，应该建立类似国际原子能机构这样的国际跨国合作组织来安全监管 AI 技术的发展，他呼吁国际间领先的人工智能制造商应该展开合作，并要求政府强化对尖端人工智能制造商的监管。
其实早在 3 月，就一篇有关呼吁叫停全球 6 个月时间 AI 研究的网络公开信火遍了全网。该信呼吁所有的 AI 实验立即暂停研究比 GPT-4 更先进的 AI 模型，暂停时间至少 6 个月，为的就是把这些可怕的幻想扼杀在摇篮之中。AI 的进步速度实在过于惊人，但相关的监管、审计手段却迟迟没有跟上，这也意味着没有人能够保证 AI 工具以及使用 AI 工具的过程中的安全性。该联名信已经获得了包括 2018 年图灵奖得主 Yoshua Bengio、特斯拉 CEO 马斯克、苹果创始人史蒂夫 · 沃兹尼亚克、Skype 联合创始人、Pinterest 联合创始人、Stability AI CEO 等多位知名人士的签名支持，截稿前联名人数已经达到 1125 位 IT 产业的大佬。
联名信呼吁，AI 实验室和独立专家应该利用这个暂停时间共同制定和实施一套共享的先进 AI 设计和开发安全协议，这些协议应该由独立的外部专家严格审核和监督。这些协议应确保遵守它们的系统在合理怀疑范围之外是安全的。这并不意味着暂停 AI 发展，而只是从不断迈向更大、不可预测的黑箱模型及其突现能力的危险竞赛中退一步。
AI 研究和开发应该重点放在提高现有强大、先进系统的准确性、安全性、可解释性、透明度、鲁棒性、对齐、可信度和忠诚度。与此同时，AI 开发者必须与政策制定者合作，大力加速 AI 治理体系的发展。在面临可能对社会造成灾难性影响的其他技术上，社会已经按下了暂停键。在这里，我们也可以这样做。让我们享受一个漫长的 AI 盛夏，而不是毫无准备地冲向秋天和寒冷的冬天。
相关文章
Altman
