OpenAI CEO奥特曼重返执掌公司后首次受访:默认存在神秘而强大的「Q*」模型,认为这是不幸的泄露事件
稿源 The Verge丨翻译 爱范儿
当地时间11月30日,一年前的今天,OpenAI 对外正式宣布了 ChatGPT ,引发了人工智能的“寒武纪大爆发”。
技术进化的加速感越来越强,「见证历史」已经习以为常,伴随着兴奋、焦虑、担忧、反思……所有人似乎都在迫切翻开历史新的一页。
就在刚刚过去的一周多的时间里,OpenAI 经历了公司成立以来的最大混乱动荡。
当地时间11月29日,公司正式宣布了 Altman 的回归,而公司最大的投资者微软,也将作为非投票的“观察员”身份加入董事会。
同时 Altman 还接受了 The Verge 的专访,谈到了回归前的一些内幕,以及早前被曝光的 Q* 模型——那个被认为可能威胁人类的 AI 技术。
?前情回顾:
OpenAI秘密文件曝光!AI悄悄自我编程,可轻松破解一切人类加密系统
奥特曼被公司罢免的前一天,一名OpenAI员工曾发帖声称:AI正在自行编程!传言称,「Q*」大模型想出了一种破解数字加密的方法
不过在这次采访中,我们注意到,Altman 多次拒绝回答人们最为关心的问题:究竟为什么他会被解雇?
当 OpenAI 董事会在解雇 Sam Altman 一天后,又请求他回归时,Altman 起初感到了抗拒、受伤和愤怒。
他在电话中告诉 The Verge 的记者:
我花了几分钟时间才从中走出来,克服了自我和情绪,然后想,“是的,我当然想做这件事。”显然,我非常热爱这家公司,并且在过去四年半的时间里全心投入其中,但实际上,我花了更长的时间。我们在我非常关心的使命上取得了巨大进展,那就是安全且有益的人工智能。
Sam Altman 认为通过这件事,得到最大的启发是,「公司真的可以在没有我的情况下正常运转,这是一件非常好的事情。」
以下是 The Verge 对 Sam Altman 和 OpenAI 首席技术官 Mira Murati 的完整采访:
Q:Sam,我想首先谈谈房间里的大象,那就是我们仍然不知道你最初为什么会被解雇。你认为你为什么会被解雇?
Altman:董事会将在此处进行独立审查。我非常欢迎这一点。现在我没有太多要说的,但我期待了解更多。
Q:你认为董事会为什么说他们对你失去了信任?
Altman:这更适合他们回答。
Q:你刚才在推特(X)上说,「很明显,你和董事会成员之间存在真正的误解。」这些误解是什么?
Altman:我还没准备好谈论这个。我认为让这个审查过程进行非常重要。我很乐意谈论任何前瞻性的事情。我想会有一段时间,我非常乐意谈论这里发生的事情,但现在不是时候。
Q:你能告诉我你为什么现在不能谈论它吗?
Altman:我只是想让这个过程进行,不干预。
Q:你在给员工的信中提到了 Ilya Sutskever(OpenAI 的首席科学家)。你能告诉我为什么他改变了主意,决定和其他人站在一起吗?
Mira Murati:我们不知道。你得问 Ilya。
Q:Sam,回顾起来,让你回来的主要动力是什么?
Altman:这真的很有趣。周六早上,一些董事会成员打电话给我,问我是否愿意谈论这个问题。我的第一反应有点抗拒,就像,「天哪,我受伤了,我很生气,我认为这很糟糕。」
然后我几乎立即开始思考,显然,我非常热爱这家公司,并且在过去四年半的时间里全心投入其中,但实际上,我花了更长的时间。我们在我非常关心的使命上取得了巨大进展,那就是安全且有益的人工智能。
但也是这里的人和所有对我们抱有巨大期望的合作伙伴,还有 Mira 和领导团队以及这里所有做出了不可思议工作的人。我花了几分钟时间才从中走出来,克服了自我和情绪,然后想,「是的,我当然想做这件事。」
Q:所以董事会要求你回来?
Altman:是的。
Q:你起初犹豫了吗?
Altman:不会太久。在那之后发生在我身上的事情让我有很多感觉。
Q:很明显员工支持你。你认为这有多大影响?
Altman:我们肯定是以一个更强大、更团结、更专注和承诺的团队走出这个过程。我认为我们之前就有很强的信念和专注,现在我认为我们有了更多。所以这是我对所有这些事情的一线希望。
在整个过程中,我们没有失去一个员工,一个客户。他们不仅在面对难以管理的增长时保持了产品的运行,还推出了新功能。研究进展继续进行。
Q:你想回到董事会吗?
Altman:尽管这听起来像一个公关说辞,但我要说现在这不是我的重点领域。我有一堆非常困难、重要且紧急的工作要做。我想做好我的工作,但这不像(在)董事会或不在。现在我没有花时间思考这个问题。
Q:「改进我们的治理结构」意味着什么?非营利控股公司结构会改变吗?
Altman:这更适合董事会成员回答,但也不是现在。老实说,他们需要时间,我们将支持他们去思考。显然我们的治理结构有问题。找到解决这个问题的最佳方法需要一段时间。我完全明白为什么人们现在想要一个答案。但我也认为期待立即得到答案是完全不合理的。
Q:为什么你认为这是不合理的?我认为人们看到了关于发生了什么的很多模糊之处。看起来像是分歧,而不是不当行为或类似的事情。
Altman:哦,只是因为设计一个真正好的治理结构,尤其是对于如此有影响力的技术,不是一个一周的问题。这将需要真正的时间来思考,辩论,获得外部观点,进行压力测试。这需要一段时间。
Q:刚刚发生的事件是否会改变 OpenAI 对安全工作的方法?
Murati:不会。这与安全无关。
Q:关于你们最近取得的 Q* 模型突破的报道,那是怎么一回事?
Altman:对于那次不幸的泄露,我没有特别的评论。但其实我们之前一直在强调,就像两周前我们说的,一年前我们说的,更早之前我们说的——我们预计这项技术的进展将继续迅速,同时我们也期望继续努力弄清楚如何使其安全且有益。这就是我们以前每天起床的原因。这也是我们将来每天起床的原因。我认为我们在这一点上一直非常一致。
不评论任何具体的事情或项目,我们相信进步就是研究。你总有可能遇到障碍,但我们预计进步将继续显著。我们想与世界接触,弄清楚如何使这项技术尽可能好。
Q:最后一个问题。我确定你还在思考所有这些事。我知道这一切都很新鲜。你从这整个事件中学到了什么?
Altman:我想我现在还没有一个简洁有力的回答。显然学到了很多,但我仍在努力理解这一切。我的意思是,肯定有很多可以说的,但我认为我现在还没有准备好……我现在只能给出一个冗长而杂乱的答案。
Q:好吧,我们以后再谈。
挂断电话后,Altman几分钟后又打了回来:
我学到了,公司真的可以在没有我的情况下正常运转,这是一件非常好的事情。我很高兴回来,别误会我的意思。但我回来时没有任何「哦,我必须做这个,或者公司需要我之类的」压力。
我自以为感觉很好,因为我要么是挑选了出色的领导者,要么是很好地指导了他们。感觉公司没有我也会完全没问题,团队已经准备好并成长了,这感觉非常好。