突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

资讯8个月前发布 hiailand
641 0 0

突发!OpenAI开人了,理由:涉嫌信息泄露

一位是失踪的首席科学家Ilya盟友,超级对齐Superalignment)团队核心成员Leopold Aschenbrenner

另一位也不简单,是LLM推理团队研究员Pavel Izmailov,曾经也在超级对齐团队干过。

目前尚不清楚这俩人到底泄露了啥信息。

消息被曝出后,不少网友表示“挺震惊”:

不久前我还看过Aschenbrenner的帖子,感觉他正处于事业上升期,没想到会有这样的转变。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

还有网友认为:

OpenAI失去Aschenbrenner,Ilya Sutskever也被边缘化,该公司对于构建安全AI的承诺看起来更加不可信了。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

OpenAI人才流动,与谷歌Meta互挖墙脚已经见怪不怪,但开除形式的人事调动,还是去年11月董事会叛变之后的第一回。

俩人曾经都是Ilya的部下

据了解,Leopold Aschenbrenner于一年前加入OpenAI。此前他曾在Future Fund工作过,再往前追溯,19岁从哥伦比亚大学毕业,还在牛津大学做过经济增长方面的研究。

Pavel Izmailov这边,他还是纽约大学CILVR小组成员,本人透露2025年秋将加入纽约大学Tandon CSE、Courant CS担任助理教授。

目前,俩人的X主页还都备注着与OpenAI的关系。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

最近这个月俩人都没有发新推文,不过置顶帖子倒是很亮眼。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

没错,都是超级对齐团队的第一篇论文,俩人都是这篇论文的作者。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

这就不得不说到这个团队,组团于去年7月份,是OpenAI为应对不同时间尺度上大模型可能会产生的安全问题,成立的三大安全团队之一。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

超级对齐团队负责遥远的未来,给超越人类的超级智能安全性奠定基础,由Ilya Sutskever和Jan Leike领导

虽然OpenAI看起来似乎在安全方面很重视,但其内部对AI的安全开发存在很大分歧已不是什么秘密。

这种分歧甚至被认为是去年11月OpenAI董事会内讧的最大原因:

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

网传Ilya Sutskever成为“政变”带头人,就是因为看到了一些东西让他内心不安。

而Ilya带领的这个超级对齐团队,很多成员也是站在Ilya这边,在后来支持奥特曼的比心接龙活动中,这个超级对齐团队成员也基本保持了沉默。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

随着OpenAI内讧事件的平息,奥特曼成为赢家,Ilya Sutskever离开董事会几乎没再公开露头,超级对齐团队现在是个什么情况咱也不知道。

再说回到这次两位研究员被解雇。

两人曾经都是Ilya部下,the information还表示Aschenbrenner是Ilya盟友、与优先考虑解决AI危险性的运动有关联。

所以,也有网友猜测这次裁员是奥特曼的“秋后算账”。

和Q*泄密有关?

除此之外,网友比较关心还有泄密的内容究竟是什么。

目前猜测的焦点还是放在Q*,也就是董事会叛变大戏的导火索之一。

根据网友评论,Jimmy apples似乎发过相关推文,但没过多久我们看到链接打开时已是推文被删的大状态……

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

从遗留的蛛丝马迹来看,好像大概也许还是和Q*有关。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

目前Q*从传闻,已经变成被正式确认的存在,但关于它的一切,奥特曼本人目前都守口如瓶。

突发:OpenAI开除Ilya盟友,理由:涉嫌信息泄漏

总之自从Q*之后,OpenAI内部开始出现理念分歧。

经历一系列风波后,93%的员工签署联名信与奥特曼共存亡,调查结果公布后奥特曼无罪重返董事会。

看似风平浪静,上下一心致力于实现AGI背后,裂痕仍旧存在。

参考链接:[1]https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for-alleged-leaking[2]https://x.com/BenjaminDEKR/status/1778536771837694353[3]https://twitter.com/leopoldasch[4]https://twitter.com/Pavel_Izmailov[5]https://www.reddit.com/r/singularity/comments/1c1qo04/openai_superalignment_researcher_fired_for/

本文来自微信公众号“量子位”(ID:QbitAI),作者:西风

© 版权声明

相关文章

暂无评论

暂无评论...