首页  >  资讯  >  文章
2023-11-24 17:38

外媒爆:密信揭示ChatGPT进化速度令人担忧:恐毁灭人类,OpenAI CEO奥特曼曾亲口承认丨宫斗番外

图片

“OpenAI宫斗连续剧”果然没那么快彻底翻篇,这不,番外来了。?

本周三,山姆·奥特曼重返OpenAI CEO大位,但是「罢免门」事件却仍在激荡。虽然人事职权方面已经原则上恢复奥特曼的地位,但是上周五突遭罢免的原因至今仍然扑朔迷离。

EVA确信,即便首席科学家“感情用事”,其他三位董事也会从“理性”出发。

秘密AI开发项目可能威胁人类

当地时间11月23日,路透社发布独家报道称,在奥特曼离开公司之后,几名研究人员向董事会寄了一封信,警告他们OpenAI已经有了一项重大的人工智能发现,而这项发现可能会威胁到人类。知情人士表示,正是因为这些“可疑的人工智能突破”,让董事会与奥特曼之间产生了较大的分歧,最终酿出罢免案。

图片

路透社提到,OpenAI内部正在运行一个代号为「Q*」的秘密项目,并在奥特曼被开除后,才将这个项目的细节呈报董事会。

来自OpenAI的一位线人透露,上述内部信息由公司的CTO Mira Murati亲自发布,目的是提醒内部员工在私下接受媒体采访时,要注意言论的准确性对公司的影响。

Mira Murati在奥特曼被罢免后临时出任CEO仅仅一天,基于团队稳定,“理性”占据上风的她很快选择了“站队”前领导。

图片

无独有偶,马斯克日前也曾经截获一封据称来自OpenAI前员工的告密信——奥特曼曾经要求研究人员推迟向管理层汇报“秘密项目”的开发进度,曾有对此提出质疑的员工表达“不符合企业文化理念”而遭到开除。

此外,本次风波的决定性人物——OpenAI首席科学家Ilya Sutskever曾经私下向同事透露,奥特曼擅自组建了两支开发团队,却在打造同一款产品;此外,奥特曼在给董事会的工作汇报当中,分别向两位董事提交了两种截然不同的说法。

种种迹象均指向,奥特曼似乎刻意在隐瞒着什么。

「Q*」项目到底是什么?

「Q*」全称为Q-Star,一些内部人士认为,这可能是OpenAI在追寻“超级智能”(Super Intelligent)以及通用人工智能(AGI)的道路上取得的重大突破。

换句话说,目前世界上已经存在比绝大多数人类更智慧的AI系统或者与之相关的其他技术突破。而这仅仅只是外界的乐观估计~

图片

事实上,山姆·奥特曼作为公司CEO,本人也曾经对外透露关于下一代大模型GPT-5的一些动态。

在被罢免前夕,奥特曼接受英国金融时报专访透露,他还需要融资更多的资金,尤其是来自“金主爸爸”微软的扶持,才能完成GPT-5的开发任务。而这个下一代GPT很可能具备“超级智能”。

更早一点时候,11月初OpenAI开发者大会后,奥特曼和CTO Mira Murati一同接受华尔街日报的专访指出:人类可能已经十分接近AGI的阈值。

图片

而一旁作为ChatGPT产品经理的Mira Murati则强调,下一代的GPT大模型应该要瞄准解决减少模型的幻觉,将致力于解决现在困扰模型的幻觉问题。

很显然,奥特曼不断释放信号,在忙于争取各种资本力量的支持,而他的同事们则更专注于产品的安全性本身,尤其是对于人类社会的影响。

其中,最具有代表性的人物要数OpenAI首席科学家Ilya Sutskever。

“正义”科学家的巨大担忧

Ilya Sutskever在本次「罢免门」事件当中,充当了决定性一票的角色,是他让奥特曼无需到场的情况下直接被董事会Fire。

图片

从某种意义上说,Ilya的行为方式是“单纯”而“图样”的。

在没有与投资伙伴充分达成共识的情况下草率地做出决策,而后又因为与OpenAI被罢免总裁Greg Brockman的妻子进行长谈后选择悔棋。

(备注:Ilya是Brockman夫妇的证婚人及挚友。)

但是从人性的本源来看,抛开被情感牵着走的表面现象,我们更应该注意Ilya下意识的直觉行为。

人工智能自诞生以来,便有激进派与保守派之分。保守派中最大的声量来自被誉为「AI教父」的英国学者Geoffrey Hinton,他是2018年图灵奖得主。

图片

Hinton是深度机器学习算法——卷积神经网络理论的领军人物,30多年不断尝试构建更强大的神经网络,为今天的AI大模型奠定了理论基础。

然而当AI涌现出“超能力”的时候,Hinton开始犹豫并担忧这项技术可能给人类带来的危害。他不止一次对外界警告,AI可能具备“意识”,反复多次通过各种渠道向外界传达AI的威胁。

只不过,每个人对于“意识”一词的定义不尽相同。

Ilya Sutskever(下图左一)是Hinton的得意门生,在导师今年从谷歌退休之后,自然接过了“AI保守派”的大旗。

图片

据外媒报道,GPT-4的诞生让世界为之震惊,然而却让身为首席科学家的Ilya越发担心。

今年早些时候,上文提到的「Q*」项目如火如荼开展,该项目由两位OpenAI的顶级研究员Jakub Pachocki和Szymon Sidor基于Ilya的研究成果构建。用通俗的话,这个模型将比GPT-4更强大。

在奥特曼被开除后,二人也立即提出辞职。

图片

Ilya对于二人领导的这个项目有一些犹豫。

于是在今年7月份,Ilya开始在OpenAI内部推动一项名为“超级对齐计划”的项目,旨在希望用4年时间,让AI学会“听人话”,确保技术符合人类利益。

Ilya领导的这个团队在OpenAI官网上留下一句话:

虽然“超级智能”现在似乎还很遥远,但我们相信它可能会在十年内到来。

对此,今年刚成立人工智能创业公司xAI的马斯克也深表同意,他更加激进,认为AGI最早将于2029年实现。

图片

所谓“超级对齐”,就是尽量让AI听从人类的指令。简单地说,就是我们从小经历的压迫式填鸭教育,父母教你什么,你就跟着做什么,绝对不可逾越限制。

用今天的话说,就是PUA啦~

从Ilya为数不多的采访能看出,他把相当一部分的工作重心放在了AI安全上。随着时间推移,Ilya的保守策略与奥特曼尝试扩大产品商业化的分歧也逐渐显露。

图片

根据外媒的爆料,二人经常在公司内部发生激烈的辩论。Ilya对奥特曼快速扩张OpenAI的业务线感到愤怒,最终情绪爆发在OpenAI开发者大会之后——奥特曼风光无限地发布「GPTs」这项让用户可自定义GPT的服务。

此外,还有外媒提供线人爆料,就在被罢免前夕,奥特曼并未告知董事会的情况下,曾私下进行了一次募资路演活动,截获消息后刺激到了董事们的神经。

至此,我们可以理解为何前董事会在罢免声明当中如此写道:

他(奥特曼)在与董事会的沟通中始终不坦诚,阻碍了董事会履行职责的能力。

简而言之,奥特曼主张商业化,不断四面出击引入更多的资本力量,让以Ilya为代表的“AI保守派”董事们深感担忧。最终,一系列的导火索引爆东窗事发。

不可调和的左右两派是矛盾爆点

在OpenAI官方正式宣布奥特曼重返公司后,Ilya在其推特(X)上写道:

没有任何语言、任何语句能够表达我有多开心。

图片

看起来,二人之间并没有陷入水火不容的局面。双方经过充分沟通,于情于理,或许已经达成某种共识。

然而,AI产业的“激进派”与“保守派”的矛盾却不会因此消除,立场不同的投资人也不会消失,恐怕会因为本次事件之后更加激化。

对于OpenAI来说,目前投资人的意见分成了两派——

一派认为,经过“宫斗”之后,奥特曼将会把更多的精力放在公司治理,优化调整董事会的架构,推进公司目前运转的项目。目前临时董事会并非最终形态,后续很可能会引入更多不同立场的制衡势力。

另外一派则认为,避免将鸡蛋放在一个篮子里,资本将会寻觅更多有潜力的AI创业公司。

但是不管哪一派,都没有办法准确回应——AI对人类到底有没有威胁?

图片

假设Ilya Sutskever的担忧成真,假设奥特曼的确正在开发具备“超级智能”的GPT,那么作为普通人的我们,是无法控制强有力的资本方加速推进AI技术的拓展与延伸。

外媒从线人截获的路边社消息指出,下一代大模型将具备更强大的数学推理能力。

众所周知,数学是人类一切应用科学的基础学科,AI一旦具备所谓的“意识”,主动去学习和解答更多的数学谜题,人类的脑力将永远无法追上。

图片

人类的密码学、计算机学与代码编程原理都基于数学,AI将具备完全的主动编译能力,破解人类过去百年建立的代码库将变得易如反掌。

如果~EVA只敢说~如果,好莱坞里边的剧情被有心人利用和复制,对AI进行操纵与蛊惑。

图片

届时,后果将不堪设想,在左右摇摆之间,人类似乎正在走向某种既定的“命运终局”。

对此,无论这个很厉害的大模型是叫GPT-5还是「Q*」什么的,好与坏,我也没有答案。

图片

本号的一位网友给我留言:

没有人觉得奥特曼才是最大的反派嘛。

图片

确实也将持续引发思考。

此刻风波阶段性尘埃落定,山姆·奥特曼已经重新执掌这家价值数百亿美元的超级独角兽创企。

作为凡人的我们,唯有选择相信“光”?

10

相关文章