反思 - Sam Altman [译]
ChatGPT 迎来两岁生日才过去一个多月，我们已经迈入了新的范式，AI 模型可以进行复杂推理了。新年总会让人心生感慨，我想分享一些个人的思考，以及这一路走来的收获。
随着我们离 AGI 越来越近，现在似乎是回顾公司发展历程的好时机。还有很多东西需要理解，还有很多未知的领域，而且我们依然处于早期阶段。但比起刚开始时，我们已经懂得更多了。
近九年前我们创立了 OpenAI，因为我们相信 AGI 是可以实现的，而且它可能成为人类历史上最具影响力的技术。我们想要弄清楚如何构建它并让它造福全人类；我们渴望在历史上留下自己的印记。我们的雄心壮志和对这项工作能给社会带来非凡益处的信念一样高。
当时，几乎无人关注这个领域，即便有人关注，也主要是因为他们认为我们不可能成功。
2022 年，OpenAI 还只是一个安静的研究实验室，当时在开发着一个临时命名为「Chat With GPT-3.5」的项目。（很显然，我们做研究比起取名字要擅长得多。）我们一直在观察人们使用我们 API 的 playground 功能，发现开发者们真的很喜欢与模型对话。我们认为围绕这种体验打造一个演示系统，可以向人们展示未来的重要方向，同时帮助我们让模型变得更好更安全。
最后我们幸运地将其命名为 ChatGPT，并于 2022 年 11 月 30 日发布。
我们一直都抽象地知道，在某个时刻我们会达到一个临界点，AI 革命就会被引爆。但我们不知道那个时刻会是什么样子。令我们惊讶的是，它就是这个。
ChatGPT 的发布引发了一个前所未有的增长曲线——不仅仅是在我们公司，还包括整个行业和全球范围。我们终于看到了我们一直期待的 AI 带来的巨大好处，而且我们能预见未来还会有更多惊喜。
这一路走来并不轻松。道路并不平坦，正确的选择也并非显而易见。
在过去两年里，我们不得不几乎从零开始，围绕这项新技术构建一个完整的公司。除了亲身实践之外别无他法，而当技术本身是全新的时候，根本没有人能告诉你究竟应该如何做。
在如此高速发展的情况下，几乎没有任何培训就建立一个公司，这注定是一个混乱的过程。通常是前进两步，后退一步（有时甚至是前进一步，后退两步）。错误会在过程中得到纠正，但当你在开创新事物时，确实没有任何手册或指南可循。在未知水域高速前进是一次令人难以置信的体验，但对所有参与者来说也是极度压力重重。冲突和误解在所难免。
这几年是我迄今为止最有收获、最有趣、最棒、最精彩、最累人、最有压力，尤其是最近两年——也是最不愉快的几年。但最深的感受是感激；我知道有一天当我退休在农场看着植物生长、感到有些无聊的时候，一定会想起能够从事儿时梦想的工作是多么酷。我试图在每个星期五，当下午 1 点前就已经出了七件糟心事的时候记住这一点。
一年多前的某个星期五，那天最糟糕的事是我在视频通话中突然被解雇，然后在我们挂断电话后董事会立即发布了一篇相关博文。当时我在拉斯维加斯的一间酒店房间里。这感觉就像一场噩梦，这种感觉几乎难以用语言形容。
在毫无预警的情况下被公开解雇，引发了疯狂的几个小时，以及相当疯狂的几天。最奇怪的是那种「战争迷雾」感。我们都无法得到关于发生了什么、为什么会发生的满意答案。
在我看来，这整个事件都是一次重大的治理失败，虽然包括我在内的每个人都是出于善意。回头看，我当然希望自己当时能做得不一样，我也相信现在的我比一年前是一个更好、更深思熟虑的领导者。
我也认识到了一个具有多元观点和丰富经验的董事会在管理复杂挑战时的重要性。良好的治理需要充分的信任和信誉。很感谢这么多人共同努力，为 OpenAI 建立了一个更强大的治理系统，使我们能够追求确保 AGI 造福全人类的使命。
我最大的感悟是我有太多需要感恩的事，也欠太多人的感激：感谢在 OpenAI 工作的每个人，他们选择投入时间和精力追逐这个梦想；感谢帮助我们度过危机时刻的朋友们；感谢支持我们并信任我们能够帮助他们取得成功的合作伙伴和客户；感谢在我生命中用行动向我展示关心的人们。[^1]
我们都以更加团结和积极的方式重返工作岗位，我为此后我们的专注感到非常自豪。我们完成了一些有史以来最出色的研究。我们的周活跃用户从约 1 亿增长到超过 3 亿。最重要的是，我们继续向世界推出人们真正喜爱且能解决实际问题的技术。
九年前，我们真的不知道自己最终会成为什么样子；即使现在，我们也只是有点眉目。AI 的发展经历了许多曲折，我们预计未来还会有更多。
一些转折令人欣喜；一些则很艰难。看着研究奇迹稳步涌现很有趣，许多质疑者也变成了真正的信徒。我们也看到一些同事离开成为了竞争对手。团队在规模扩大时往往会有变动，而 OpenAI 的扩张速度非常快。我认为有些事情是不可避免的——初创公司在每个重要的新规模层级通常都会经历大量人员流动，而在 OpenAI，每隔几个月数字就会增加一个数量级。过去两年就像普通公司的十年。当任何公司发展和演变如此之快时，利益自然会出现分歧。而当任何重要行业的公司处于领先地位时，出于各种原因，特别是当他们试图与之竞争时，很多人都会对其发起攻击。
我们的愿景不会改变；我们的策略会继续演进。比如，开始时我们完全不知道需要建立一个产品公司，以为只需要做出色的研究就够了。我们也没想到会需要如此庞大的资金。现在我们必须构建一些几年前还难以理解的新东西，而未来还会有一些我们现在几乎无法想象的新事物。
我们为迄今在研究和部署方面取得的成绩感到自豪，并会继续推进我们在安全性和利益共享方面的思考。我们始终相信，让 AI 系统安全的最佳方式是通过迭代和逐步将其发布到世界中，让社会有时间适应并与技术共同进化，从经验中学习，并不断提升技术的安全性。我们相信在安全和对齐研究方面成为世界领导者的重要性，并通过实际应用的反馈来指导这项研究。
我们现在确信我们知道如何构建传统意义上的 AGI。我们相信，在 2025 年，我们可能会看到第一批 AI 代理「加入劳动力大军」，并实质性地改变企业的产出。我们继续相信，迭代地将优秀的工具放在人们手中会带来广泛分布的优秀成果。
我们开始将目标转向更远方，朝着真正意义上的超级智能迈进。我们热爱当前的产品，但我们存在的意义是为了那个辉煌的未来。有了超级智能，我们可以做任何事情。超智能工具可以大大加速科学发现和创新，远超我们自身的能力，进而大幅提升人类社会的丰裕度和繁荣程度。
现在这听起来像科幻小说，谈论这些似乎有点疯狂。没关系——我们以前就经历过这种情况，我们也不介意再次经历。我们相当确信，在未来几年，每个人都会看到我们所看到的，并且认识到在最大化广泛利益和赋能的同时，谨慎行事的重要性。考虑到我们工作的潜力，OpenAI 不能是一家普通的公司。
能够参与这项工作是多么幸运和令人敬畏啊。
（感谢 Josh Tyrangiel 某种程度上促成了这篇文章。真希望我们能有更多的交流时间。）
[^1] 在那几天里，有很多人为帮助 OpenAI 和我个人做出了令人难以置信的巨大努力，但有两个人特别让人难忘。
Ron Conway 和 Brian Chesky 做得远远超出了职责所需，以至于我甚至不知道该如何形容。我当然多年来一直听说过 Ron 的能力和坚持不懈，我也在过去几年里花了很多时间与 Brian 交流，得到了大量的帮助和建议。
但要真正了解一个人的能力，没有什么比共同战斗更好的方式了。我相当确信如果没有他们的帮助，OpenAI 就会分崩离析；他们日以继夜地工作，直到事情得到解决。
虽然他们工作异常努力，但始终保持冷静，有清晰的战略思维和出色的建议。他们阻止我犯下好几个错误，而他们自己则滴水不漏。他们充分运用庞大的人脉网络满足各种需求，并能够驾驭许多复杂的局面。而且我确信他们还做了很多我所不知道的事情。
不过，我最难忘的是他们的关心、同情和支持。
我以为我知道支持一个创始人和一个公司是什么样子，从某种小的意义上来说，我确实知道一些。但我从未见过，甚至从未听说过像这两位所做的那样的事情，现在我更深刻地理解了为什么他们拥有如此传奇的地位。他们各有特色，都完全配得上他们独特的声誉，但他们在移山填海和施以援手的非凡能力上很相似，在需要时都表现出坚定不移的承诺。科技行业因为有他们而变得更好，这比人们意识到的对整个行业的良性运转贡献更大。
还有其他像他们这样的人；这是我们行业一个令人惊叹的特点，比人们意识到的对行业发展贡献更大。我期待着能够继续传递这份善意。
在更个人的层面上，特别感谢 Ollie 在那个周末和一直以来的支持；他在各方面都令人难以置信，没有人能期待一个更好的伴侣。
原文作者：Sam Altman
原文链接：https://blog.samaltman.com/reflections