“我不想永远只做PyTorch,不愿像Linus几十年都被绑在同一件事情上!”PyTorch之父发离职长文,告别Meta

在 Meta 工作了十一年,几乎占据了我整个职业生涯。在这里,我结交了许多终生挚友。
差不多八年,我带领 PyTorch 从无到有,让它在 AI 领域的采用率超过 90%。离开这里,是我做过的最艰难的决定之一。但我满怀感激地离开。
如今,PyTorch 已经能够处理百亿级别的训练。它支撑着正在重新定义智能的基础模型,几乎每家主要的 AI 公司都在生产环境中使用它。从 MIT 到印度的乡村课堂等场景中,PyTorch 都在被教学。
我曾梦想让这些工具更易获取?现在实现了。
我想降低的入门门槛?现在也几乎消失了。
当然,要做的事情远不止这些。只要 AI 以如此惊人的速度发展,PyTorch 仍需不断追赶。过于执着于未来,有时会让我们忽略已经取得的成就。
感谢所有与我一起打造 PyTorch 的人——相信研究应当充满乐趣,相信工具应当优雅,相信开源能够改变一切——谢谢你们。这不是我的个人旅程,而是我们共同的旅程。
接下来我会做什么?小的、全新的、我还不完全理解的、甚至有些不舒适的事情。我本可以选择在 Meta 内部转岗,换个方向继续发展,但我觉得自己需要去看看外面的世界。我需要再次做一些“小事”。我无法接受自己从未尝试过 Meta 之外事情所带来的遗憾。
离开真的很难。我应该是坐在了 AI 行业最具影响力的位置之一——我负责的软件层,支撑着整个 AI 行业的运作。几乎所有主要的 AI 公司和硬件厂商,我都能直接联系。这种地位和影响力,真的很难放手。但最终,好奇心在我脑中占了上风。
请继续让 AI 更好用、更有趣吧。我也会持续关注,也许还会提交一些 issue,肯定会保持参与的。
PyTorch 会没事吗?
我不想永远做 PyTorch 的事。我不想像 Guido(Python 之父)或 Linus(Linux 之父)那样——几十年都被绑在同一件事情上。
去年十一月,正值我女儿出生之际,我和 Aparna(Meta 资深工程副总裁)就已经开始规划我的离开。我的目标是把 PyTorch 留在一个良好、稳定的状态。
到了今年八月,在育婴假下半段的时候,我就知道了:Edward、Suo、Alban、Greg、John、Joe 和 Jana 已经准备好了。团队面对棘手的人事、产品、技术和组织问题时,并不需要依赖我来帮他们解决(不像以前那样)。他们为 PyTorch 大会准备的产品故事条理清晰——真的很清晰。我曾标红的问题正在变得健康。这个项目已经不再需要我了。
不同于 2020-2022 年(那时我离开去从事机器人研究,Lin、Dima 和 Dwarak 离开后才又回来),这一次我有充分的信心,PyTorch 真正具有韧性。与 PyTorch 价值观最契合的文化承载者们如 Greg、Alban、Ed、Jason 和 Joe,现在都在决策层上了,而那些价值观高度契合的人——Suo、John 和 Jana——也加入了决策层。如果这些人有离开,还有一长串同样价值观契合的人愿意坐上决策桌。
还有许多小细节让我对团队充满信心:John 在 Julia 和开源领域有长期经验(实际上我们在 2015 年就一起尝试过 Torch.jl),Suo 过去两年是我最强的系统构建者和战略伙伴,而 Jana 长期负责核心系统的韧性建设,过去几个月我与她进行了深入的技术和组织讨论,也让我充满信心。而 2025 年的产品阵容和执行情况,本身就足以消除任何剩余的疑虑。
我相信这群 PyTorch 团队成员会表现得非常出色。PyTorch 可能会在风格上有所变化,因为我不再从上而下强加自己的品味,但我有信心,核心价值观会保持不变,产品也会非常出色。
我在 Meta 的时光
FAIR 的早期岁月简直充满魔力。我成为了一个小而卓越的团队的一员,大家在公开环境中打造最前沿的 AI 技术。
从和 Emily Denton、Rob Fergus、Leon Bottou、Martin Arjovsky 以及如今传奇般的 Alec Radford 一起研究生成对抗网络(GAN),到和 Gabriel Synnaeve 一起开发星际争霸机器人,再到和 Howard Mansell 一起搭建第一个 FAIR 集群,从和 Adam Lerer、Piotr Dollar 一起做目标检测,到打造 PyTorch,这一切的乐趣无法用语言完全描述。
2015 和 2016 年大概是我职业生涯中最高产、最享受的年份。我可能会永远带着浪漫色彩回忆这段时光。
当我加入 FAIR 时,我有严重的冒名顶替综合症(这类人群坚信自己的成功并非源于自己的努力或能力,而是凭借著运气、良好的时机,担心被他人识破自己其实是骗子这件事),前三个月非常非常困难。我无法用语言表达对 Andrew Tulloch(AI 领域顶尖研究员)的感激,他是最周到、最善良、最热情的导师,没有他我无法走到今天。仅凭他回到 Meta 这一点,我就对 Meta 非常看好。
我在 PyTorch 的时光尤其特别。
我热爱打造它的每一个环节——设计、管理、担任 PM、技术负责人、沟通负责人、文档工程师、发布工程师、修复 bug、增长黑客,把它变成一个有数百人参与的完整产品、将其过渡到产业利益相关方——应有尽有。
感谢 Meta 的 PyTorch 核心团队:工程师、研究员、开源维护者、文档编写者、CI 基础设施团队、硬件合作伙伴以及社区建设者。感谢内部和外部的数百名成员——你们把一个库变成了一场运动。
有太多人值得感谢,但我必须提到 Adam Paszke、Sam Gross、Greg Chanan、Joe Spisak、Alban Desmaison、Edward Yang、Richard Zou、Tongzhou Wang、Francisco Massa、Luca Antiga、Andreas Köpf、Zach DeVito、Zeming Lin、Adam Lerer、Howard Mansell、Natalia Gimelshein 以及 Schrep。他们让 PyTorch 成功发布。
后来,许多人也变得至关重要:Lu Fang、Xiaodong Wang、Junjie Bai、Nikita Shulga、Horace He、Mark Saroufim、Jason Ansel、Dmytro Dzhulgakov、Yangqing Jia、Geeta Chauhan、Will Constable、Briah Hirsh、Jane Xu、Mario Lezcano、Piotr Balecki、Yinghai Lu、Less Wright、Andrew Tulloch、Bruce Lin、Woo Kim、Helen Suk、Chris Gottbrath、Peng Wu、Joe Isaacson、Eli Uriegas、Tristan Rice、Yanan Cao、Elias Ellison、Animesh Jain、Peter Noordhuis、Tianyu Liu、Yifu Wang、Lin Qiao 等数百人。
我没法一一列举,但没有这些人,PyTorch 就不存在 ❤️。
打造 PyTorch 最令人开心的时刻,是遇到热切分享他们快乐、喜爱和反馈的用户。
我记得 2017 年 NeurIPS,一位研究生跑来找我,语无伦次、情绪激动地说,他尝试了三年才在研究上取得进展,而使用 PyTorch 三个月,他的研究进展巨大,甚至已经准备毕业。那一刻让我真切感受到,我们所做的事情对很多人意义重大,即便你不会一直听到他们的声音。我确实怀念 PyTorch 社区的亲密感,一个 300 人的大会就像大家庭聚会,但考虑到 PyTorch 今天产生的巨大影响——是的,现在大会有 3,000 人、市场影响力极大,但它帮助更多人做出最好的 AI 工作——我觉得这点亲密感的缺失是小代价。我怀念这种亲密感,但为这种成长感到骄傲。
感谢 Mark Zuckerberg 和 Mike Schroepfer,相信开源本质上重要,而且是可靠的商业策略。对大多数人来说,这很难理解,但我们在这条战略上始终保持步调一致,从未需要讨论。没有你们,FAIR 和 PyTorch 都不会存在,这对我意义重大。
感谢 Yann LeCun 和 Rob Fergus,创造了我如此敬仰的早期 FAIR。
感谢 Aparna Ramani,她在 Meta 是少见的领导者:能对组织保持极高标准,技术上非常出色,同时能在同一次对话中讨论深度基础设施系统和行业战略,而且执行力无可挑剔!我从你身上学到了太多。
感谢 Santosh、Kaushik、Delia、Oldham 和 Ben 对 Infra 的热情接纳。作为从 FAIR 转过来的新人,你们让我有宾至如归的感觉,让我成为家庭的一部分,非常感谢。
感谢所有在 PSC 视频游戏项目中支持我的经理们——Serkan、Howard、Jerome、Abhijit、Yoram、Joelle、Aparna 和 Damien——我欠你们一辈子的酒。
——Soumith