OpenAI“保卫人类”的团队分崩离析,Ilya与Altman内讧曝光:“OpenAI的人请庄重点”

2周前 18观看

就在上周 Google 隆重举办 I/O 开发者大会的当天下午,消失在人们视野里半年之久的 OpenAI 联合创始人兼前首席科学家 Ilya Sutskever 忽然露面发声了。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

他在社交平台 X 宣布了自己离职 OpenAI 的消息,算是给外界诸多扑朔迷离的猜测做了正式回应。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

" 在 OpenAI 工作近十年后,我决定离开 。这间公司取得了令人难以置信的进步,我相信在 Sam、Greg、Mira,以及杰出的研究领导者 Jakub 带领下,OpenAI 将构建安全有益的通用人工智能。 和各位共事是一种荣幸,我将深深怀念所有人。 非常感谢这一切,祝大家一切顺利! 我对即将到来的项目感到兴奋——这对我来说意义重大,我将在适当的时候分享详细信息。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

下面还附上了一张办公室合影,缅怀几人的革命友情。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

靴子落地,事情走向基本符合大众心理预判。Lex Fridman、Jeff Dean 等一众大佬和网友们都在评论区致以祝福,感谢 Ilya 在 OpenAI 所做的一切。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

奥特曼也随即发表了一篇稍显正式的回应,与以往不分大小写的随意风格形成鲜明对比。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

他表示自己对 Ilya 和 OpenAI 即将分道扬镳感到 " 非常悲伤 ",称赞 Ilya 是 " 这一代最杰出的人才之一,AI 领域的指路明灯,也是一位亲密朋友 "。不仅有才华和远见,还有温暖的同情心。" 没有他,OpenAI 不会成为今天的样子 "。他永远对 Ilya 怀有感激,并承诺完成他们共同开始的使命。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

同时,奥特曼宣布曾领导 OpenAI 推理团队、深度学习科学团队和 GPT-4 开发的前研究总监 Jakub Pachocki 接棒 Ilya,成为新任首席科学家。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

然后又转发 Ilya 的照片说,"feeling the AGI today"。还到 Ilya 推特下面借网友热梗留言打趣," 别告诉他们你看到了什么。"  QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

从去年 11 月的宫斗风波传到现在,终于一切都在看起来欢乐祥和的美好氛围中画上句点。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

然鹅确实如此吗?——咱先别太天真,要真这么平静那就不是 OpenAI 了。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

果然,当晚 9:43,第一个 " 离职侠 " 出现:QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

曾与 Ilya 共同领导 OpenAI「超级对齐团队」的 Jan Leike 在 X 发文宣布," 我(也)撤了。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

Jan Leike 2021 年从谷歌 DeepMind 团队加入 OpenAI,主要研究方向包括强化学习、大语言模型的对齐工程及 AGI,属于 Ilya 阵营的人。他和 Ilya 的 Superalignment 团队旨在未来四年内,构建一个能与人类水平相媲美的自动对齐研究器,尽可能将相关工作交由自动系统完成,同时确保人工智能系统的行为与人类价值观和目标保持一致。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

上月,媒体曾报道过对齐团队的两名员工,也同为 Ilya 盟友的 Leopold Aschenbrenner 和 Pavel Izmailov 因 " 泄密 " 而被公司开除,但 OpenAI 并未提供任何泄密证据。这还不算,刚刚 OpenAI 内部证实,该团队现在已经被解散了!相应工作将被整合到其他研究小组。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

熟悉的配方,熟悉的味道,跟上次奥特曼被董事会罢免 Greg Brockman 甩手走人如出一辙。无怪乎网友摊手:" 你们又来了是吧?"(Logan Kilpatrick 这则留言也让广大吃瓜群众浮想联翩。)QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

第二天,OpenAI 前工程负责人,曾领导过 ChatGPT, GPT-4, DALL · E 和 APIs 上线的 Evan Morikawa 也宣布离开,将与前波士顿动力高级机器人学家 Andy Barry 和 Deep Mind 研究科学家 Pete Florence 和 Andy Zeng 共同开展一个全新项目,并认为 " 这是在全球范围内实现 AGI 所必需的 "。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

时间来到今天。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

Jan Leike 又出手了,而且是重拳出击。直接公开透露自己与 OpenAI 高层在公司的核心优先事项上存在 " 无法调和 " 的长期分歧,团队在推动项目和争取计算资源时遭遇重大阻碍,严重影响研究的进度和质量。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

他先是表明昨天是自己在 OpenAI " 作为对齐负责人、超级对齐负责人和高管的最后一天 "。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

肯定了团队过去三年多来取得的显著成绩:推出第一个基于 RLHF 的大语言模型 InstructGPT,发布第一个大规模监督 LLMs 的方法,并开创了自动解释性和从弱到强的泛化。" 我爱我的团队。我非常感激能与这么多了不起的人一起工作… OpenAI 拥有如此多的杰出、聪明、善良和高效的人才。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

接着话锋一转开轰,自己对 OpenAI,终究是错付了。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

" 离开这份工作是我做过的最艰难事情之一,因为我们迫切需要弄清楚如何引导和控制比我们聪明得多的 AI 。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

我加入 OpenAI 是因为我以为这里是世界上最适合进行这项研究的地方。然而,我与 OpenAI 领导层在公司的核心优先事项上长期存在分歧,直到我们最终达到一个临界点。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

这是怎么说?Jan Leike 继续解释道:QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

" 我相信,我们应该将更多的带宽花在为下一代模型做准备上,关注安全、监控、对抗性稳健性、超级对齐、保密性、社会影响等相关话题。这些问题很难解决,我担心我们还没有走上正轨。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

过去几个月,我的团队一直在逆风前行有时我们在计算资源方面挣扎,完成这项关键研究变得越来越困难。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

" 建造比人类更聪明的机器本质上是一项危险的工作。OpenAI 代表全人类肩负着巨大的责任。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

但在过去几年里,安全文化和流程让位于光鲜亮丽的产品。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

我们早该认真重视 AGI 的影响了,必须优先为其做好准备。只有这样才能确保 AGI 造福全人类。OpenAI 必须成为一个安全至上的 AGI 公司。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

最后一条,Jan Leike" 语重心长 " 地致所有 OpenAI 员工:QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

"学会感受 AGI。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

对你手中正在构建的事物,态度庄重一些。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

我相信你们可以‘传递’所需的文化变革。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

我指望着你们。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

全世界都在指望你们。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

:openai-heart:(OpenAI 员工最常用的爱心表情)"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

此番言论一出,当然是立刻炸开锅了!QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

所以是 OpenAI 为了优先发布亮眼的产品,不重视安全实现 AGI。让对齐团队坐冷板凳不说,还不分给计算资源,导致根本无法推进项目,这换谁能忍?QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

网友悟了:" 这就是 Ilya 看到的,并且他一直在告诉董事会并试图反对。他要求的只是专注于 AI 安全,现在 Jan 也证实了这一点。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

还有人梳理出了 OpenAI 有史以来所有安全团队带头大牛们的离职时间线。包括 Anthropic 联合创始人 Amodei 兄妹。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

" 这听起来像是 OpenAI 想继续烧钱商业化,而不是确保前进步骤的安全。他们想成为大亨,而不是英雄。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

更有人爆料说,当员工离开 OpenAI 时,需要签署一个包含 " 承诺终身不得贬损公司的离职协议 "。如果拒签就会失去所有归属股权,意味着可能会损失数百万美元。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

对 Jan Leiker 的长文开炮,奥特曼当然是不会就此作罢的了。很快他便发文 " 反击 ",最后也送了一颗小心心:QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

" 我非常感谢 Jan Leike 对 OpenAI 对齐研究和安全文化的贡献,也非常难过看到他离开。他说得对,我们还有很多事情要做,我们承诺会做到。我会在接下来的几天里发一篇更长的文章。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

网友留言," 别周一见啊,我那天有重要发布。"QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

看来这新的 OpenAI 保卫战,AKA 「OpenAI 内斗第二季之杨莱克大战奥特曼」已经打响,接下来双方的小作文比赛马上要开始。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

这间公司的每个人好像都给自己安排了主角光环,隔一段时间就上演一段大戏的惯例已成。这次如何走向,会不会又来一场员工群体运动?—— OpenAI 算是消停不下来了。QNC上品生活-记录今日时尚科技娱乐生活的美好时刻

本文链接:http://www.splifes.com/showinfo-1-40559-0.htmlOpenAI“保卫人类”的团队分崩离析,Ilya与Altman内讧曝光:“OpenAI的人请庄重点”

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com。天上从来不会掉馅饼,请大家时刻谨防诈骗