外媒爆:密信揭示ChatGPT进化速度令人担忧:恐毁灭人类,OpenAI CEO奥特曼曾亲口承认丨宫斗番外
“OpenAI宫斗连续剧”果然没那么快彻底翻篇,这不,番外来了。?
突发!奥特曼上演王者归来,重返OpenAI CEO大位:反贼全歼,科技宫斗大剧终落幕
就在刚刚!连播快一周的“OpenAI宫斗连续剧”终于迎来了最可能的大结局!山姆·奥特曼重新执掌这家人工智能的初创独角兽,出任CEO。
本周三,山姆·奥特曼重返OpenAI CEO大位,但是「罢免门」事件却仍在激荡。虽然人事职权方面已经原则上恢复奥特曼的地位,但是上周五突遭罢免的原因至今仍然扑朔迷离。
EVA确信,即便首席科学家“感情用事”,其他三位董事也会从“理性”出发。
当地时间11月23日,路透社发布独家报道称,在奥特曼离开公司之后,几名研究人员向董事会寄了一封信,警告他们OpenAI已经有了一项重大的人工智能发现,而这项发现可能会威胁到人类。知情人士表示,正是因为这些“可疑的人工智能突破”,让董事会与奥特曼之间产生了较大的分歧,最终酿出罢免案。
路透社提到,OpenAI内部正在运行一个代号为「Q*」的秘密项目,并在奥特曼被开除后,才将这个项目的细节呈报董事会。
来自OpenAI的一位线人透露,上述内部信息由公司的CTO Mira Murati亲自发布,目的是提醒内部员工在私下接受媒体采访时,要注意言论的准确性对公司的影响。
Mira Murati在奥特曼被罢免后临时出任CEO仅仅一天,基于团队稳定,“理性”占据上风的她很快选择了“站队”前领导。
无独有偶,马斯克日前也曾经截获一封据称来自OpenAI前员工的告密信——奥特曼曾经要求研究人员推迟向管理层汇报“秘密项目”的开发进度,曾有对此提出质疑的员工表达“不符合企业文化理念”而遭到开除。
此外,本次风波的决定性人物——OpenAI首席科学家Ilya Sutskever曾经私下向同事透露,奥特曼擅自组建了两支开发团队,却在打造同一款产品;此外,奥特曼在给董事会的工作汇报当中,分别向两位董事提交了两种截然不同的说法。
种种迹象均指向,奥特曼似乎刻意在隐瞒着什么。
「Q*」全称为Q-Star,一些内部人士认为,这可能是OpenAI在追寻“超级智能”(Super Intelligent)以及通用人工智能(AGI)的道路上取得的重大突破。
换句话说,目前世界上已经存在比绝大多数人类更智慧的AI系统或者与之相关的其他技术突破。而这仅仅只是外界的乐观估计~
事实上,山姆·奥特曼作为公司CEO,本人也曾经对外透露关于下一代大模型GPT-5的一些动态。
在被罢免前夕,奥特曼接受英国金融时报专访透露,他还需要融资更多的资金,尤其是来自“金主爸爸”微软的扶持,才能完成GPT-5的开发任务。而这个下一代GPT很可能具备“超级智能”。
更早一点时候,11月初OpenAI开发者大会后,奥特曼和CTO Mira Murati一同接受华尔街日报的专访指出:人类可能已经十分接近AGI的阈值。
而一旁作为ChatGPT产品经理的Mira Murati则强调,下一代的GPT大模型应该要瞄准解决减少模型的幻觉,将致力于解决现在困扰模型的幻觉问题。
很显然,奥特曼不断释放信号,在忙于争取各种资本力量的支持,而他的同事们则更专注于产品的安全性本身,尤其是对于人类社会的影响。
其中,最具有代表性的人物要数OpenAI首席科学家Ilya Sutskever。
Ilya Sutskever在本次「罢免门」事件当中,充当了决定性一票的角色,是他让奥特曼无需到场的情况下直接被董事会Fire。
从某种意义上说,Ilya的行为方式是“单纯”而“图样”的。
在没有与投资伙伴充分达成共识的情况下草率地做出决策,而后又因为与OpenAI被罢免总裁Greg Brockman的妻子进行长谈后选择悔棋。
(备注:Ilya是Brockman夫妇的证婚人及挚友。)
但是从人性的本源来看,抛开被情感牵着走的表面现象,我们更应该注意Ilya下意识的直觉行为。
人工智能自诞生以来,便有激进派与保守派之分。保守派中最大的声量来自被誉为「AI教父」的英国学者Geoffrey Hinton,他是2018年图灵奖得主。
Hinton是深度机器学习算法——卷积神经网络理论的领军人物,30多年不断尝试构建更强大的神经网络,为今天的AI大模型奠定了理论基础。
然而当AI涌现出“超能力”的时候,Hinton开始犹豫并担忧这项技术可能给人类带来的危害。他不止一次对外界警告,AI可能具备“意识”,反复多次通过各种渠道向外界传达AI的威胁。
只不过,每个人对于“意识”一词的定义不尽相同。
Ilya Sutskever(下图左一)是Hinton的得意门生,在导师今年从谷歌退休之后,自然接过了“AI保守派”的大旗。
据外媒报道,GPT-4的诞生让世界为之震惊,然而却让身为首席科学家的Ilya越发担心。
今年早些时候,上文提到的「Q*」项目如火如荼开展,该项目由两位OpenAI的顶级研究员Jakub Pachocki和Szymon Sidor基于Ilya的研究成果构建。用通俗的话,这个模型将比GPT-4更强大。
在奥特曼被开除后,二人也立即提出辞职。
Ilya对于二人领导的这个项目有一些犹豫。
于是在今年7月份,Ilya开始在OpenAI内部推动一项名为“超级对齐计划”的项目,旨在希望用4年时间,让AI学会“听人话”,确保技术符合人类利益。
Ilya领导的这个团队在OpenAI官网上留下一句话:
虽然“超级智能”现在似乎还很遥远,但我们相信它可能会在十年内到来。
对此,今年刚成立人工智能创业公司xAI的马斯克也深表同意,他更加激进,认为AGI最早将于2029年实现。
所谓“超级对齐”,就是尽量让AI听从人类的指令。简单地说,就是我们从小经历的压迫式填鸭教育,父母教你什么,你就跟着做什么,绝对不可逾越限制。
用今天的话说,就是PUA啦~
从Ilya为数不多的采访能看出,他把相当一部分的工作重心放在了AI安全上。随着时间推移,Ilya的保守策略与奥特曼尝试扩大产品商业化的分歧也逐渐显露。
根据外媒的爆料,二人经常在公司内部发生激烈的辩论。Ilya对奥特曼快速扩张OpenAI的业务线感到愤怒,最终情绪爆发在OpenAI开发者大会之后——奥特曼风光无限地发布「GPTs」这项让用户可自定义GPT的服务。
此外,还有外媒提供线人爆料,就在被罢免前夕,奥特曼并未告知董事会的情况下,曾私下进行了一次募资路演活动,截获消息后刺激到了董事们的神经。
至此,我们可以理解为何前董事会在罢免声明当中如此写道:
他(奥特曼)在与董事会的沟通中始终不坦诚,阻碍了董事会履行职责的能力。
简而言之,奥特曼主张商业化,不断四面出击引入更多的资本力量,让以Ilya为代表的“AI保守派”董事们深感担忧。最终,一系列的导火索引爆东窗事发。
在OpenAI官方正式宣布奥特曼重返公司后,Ilya在其推特(X)上写道:
没有任何语言、任何语句能够表达我有多开心。
看起来,二人之间并没有陷入水火不容的局面。双方经过充分沟通,于情于理,或许已经达成某种共识。
然而,AI产业的“激进派”与“保守派”的矛盾却不会因此消除,立场不同的投资人也不会消失,恐怕会因为本次事件之后更加激化。
对于OpenAI来说,目前投资人的意见分成了两派——
一派认为,经过“宫斗”之后,奥特曼将会把更多的精力放在公司治理,优化调整董事会的架构,推进公司目前运转的项目。目前临时董事会并非最终形态,后续很可能会引入更多不同立场的制衡势力。
另外一派则认为,避免将鸡蛋放在一个篮子里,资本将会寻觅更多有潜力的AI创业公司。
但是不管哪一派,都没有办法准确回应——AI对人类到底有没有威胁?
假设Ilya Sutskever的担忧成真,假设奥特曼的确正在开发具备“超级智能”的GPT,那么作为普通人的我们,是无法控制强有力的资本方加速推进AI技术的拓展与延伸。
外媒从线人截获的路边社消息指出,下一代大模型将具备更强大的数学推理能力。
众所周知,数学是人类一切应用科学的基础学科,AI一旦具备所谓的“意识”,主动去学习和解答更多的数学谜题,人类的脑力将永远无法追上。
人类的密码学、计算机学与代码编程原理都基于数学,AI将具备完全的主动编译能力,破解人类过去百年建立的代码库将变得易如反掌。
如果~EVA只敢说~如果,好莱坞里边的剧情被有心人利用和复制,对AI进行操纵与蛊惑。
届时,后果将不堪设想,在左右摇摆之间,人类似乎正在走向某种既定的“命运终局”。
对此,无论这个很厉害的大模型是叫GPT-5还是「Q*」什么的,好与坏,我也没有答案。
本号的一位网友给我留言:
没有人觉得奥特曼才是最大的反派嘛。
确实也将持续引发思考。
此刻风波阶段性尘埃落定,山姆·奥特曼已经重新执掌这家价值数百亿美元的超级独角兽创企。
作为凡人的我们,唯有选择相信“光”?