2023-06-02 17:53
OpenAI CEO警告：AI有可能毁灭人类！
AI奇点网6月2日报道丨OpenAI CEO奥特曼近期在接受国外网络直播主Lex Fridman连线采访时表态，他不会回避“人工智能可能杀死全人类”的说法，人类必须要正视面对AI带来的一切风险，包括AI可能接管全球网络。
在采访中，主播Fridman引用了人工智能技术研究所LessWrong创始人Eliezer Yudkowsky的一个观点——“人工智能可能杀死所有人”，并认为，当人工智能发展为超级智能时，几乎无法与人类站在统一战线上。
对此奥特曼回应道，“我认为有这种可能性，并且承认这一点很重要，因为如果我们不谈论它、不把它视为潜在的事实，那么我们就不会投入足够的努力去解决这个问题。”“我认为我们必须开发新的技术来解决这个问题…我所知道的解决这类问题的唯一方法就是不断迭代，尽早学习。”
GPT的推理能力不断加强也不断变得难以捉摸
奥特曼指出，GPT的推理能力非常异于寻常，“这个模型的神奇之处在于…对于很多它都不准确的定义，它可以进行某种推理。”“我认为这很了不起，最令人兴奋的是，在提取人类知识的过程中，它产生了这种推理能力。”
GPT模型的立场偏向性的争议，中立or自由派？
奥特曼在采访中提到了一个关于GPT的争议点，就是说该语言模型给出的答案是否存在偏向性。例如，不少国际上的右翼媒体职责ChatGPT表现出偏向左翼言论的自由主义“偏见”。
奥特曼在此次采访中表示，“GPT确实存在偏见，而且可能永远都是如此。”他继续解释道，任何一个版本的GPT都不会是完全没有偏见的、能被全世界绝大多数人认为是公正客观中立的。这是因为ChatGPT在推出之际，借助了外部力量进行迭代更新，也就是让全世界的人参与进来去“塑造”它的“人性”，所以该模型所存在的偏见是无法避免的。
奥特曼还指出，OpenAI已经对大模型进行了重大改进，以减轻固有偏见并提高其准确性，他同时也承认，未来还有很多工作要做。
Altman与马斯克的早年投资恩怨
在此次访谈中，他也提到了OpenAI与马斯克之间关于天使投资的恩怨。自OpenAI推出ChatGPT后，马斯克一直在推特上提出批评。奥特曼表示：“埃隆（马斯克）显然正在推特上从不同角度攻击我们。”马斯克是OpenAI的联合创始人，但之后由于理念不同，在2019年与该公司彻底分道扬镳。而最近几个月，在ChatGPT带动的人工智能热潮中，马斯克重新燃起了他对OpenAI的“关心“。
这位世界首富指责OpenAI经过微软投资后，从一家非营利组织变成了超级营利公司。据悉，微软已向OpenAI投资了100多亿美元。马斯克还在推特上直言，ChatGPT这项技术“好得吓人”，并表示“我们离危险的强大人工智能不远了”。
对于马斯克的指控，奥特曼回应道，“我很早就意识到，我们需要的研发资金远远超过一家普通非营利组织所能筹集到的资金。”换句话说，奥特曼认为引入外部投资是必要的。
他理解马斯克对人工通用智能（AGI）的保留意见，认为AGI是一种能够像人类一样思考和学习智力任务的人工智能“生命”。奥特曼表示：“马斯克是我心目中的英雄，我支持也理解他的担忧，但希望马斯克能承认OpenAI在解决AGI安全问题确实在付出努力。”
据悉，OpenAI今年发布GPT-4之后，一直鼓励社会各界提出意见，对监管系统的设立展开讨论，并表示正在收集公众的反馈，以完善其安全技术。
相关文章
Altman
