《The Gentle Singularity》
我们已经跨过了“事件视界” (event horizon)，技术腾飞的进程已经开启。人类距离建成数字超级智能仅一步之遥，而至少从目前来看，它的发展远比想象中平淡无奇。
街上还没有穿梭的机器人，我们大多数人也并未整日与 AI 对话。疾病依然夺走生命，太空旅行依然遥不可及，宇宙的诸多奥秘仍待我们探索。
然而，我们最近创造出的系统已在诸多方面超越人类，并能显著提升使用者的产出。这项事业中最艰难的部分——那些催生出 GPT-4 和 o3 等系统的科学洞见——已经攻克。这些来之不易的成果将引领我们走向更远的未来。
AI 将从多方面贡献世界，但其中最巨大的收益，将来自于它推动科学加速进步和生产力提升所带来的生活品质飞跃。未来可以比现在美好得多。科学是推动全面进步的根本动力，一想到我们将拥有的无限可能，就足以令人心潮澎湃。
从更宏大的意义上说，ChatGPT 的能力已经超越了历史上任何一位人类。每天，数以亿计的用户依靠它处理日益重要的任务。一个微小的功能更新可能带来巨大的正面效应，同样，一个微小的偏差在数亿用户的规模下，也可能造成极其深远的负面影响。
2025 年，能够胜任真正认知工作的“智能体” (agents) 已经问世，软件编程的方式将被永久改变。到 2026 年，我们或许会迎来能够洞察新知的系统。而到了 2027 年，能够在物理世界中执行任务的机器人或许也将成为现实。
未来，将有更多人能够创作软件与艺术。但世界对这两者的需求远未饱和，只要善用新工具，领域专家的表现仍将远超新手。总体而言，一个显著的变化是，到 2030 年，个体的能力将远超 2020 年的水平，而很多人都将找到从中获益的方式。
在那些最核心的层面，2030 年代的生活或许并不会发生颠覆性的改变。人们依然会热爱家庭、挥洒创意、享受游戏、在湖中畅游。
但在其他同样至关重要的方面，2030 年代将与过往任何时代都截然不同。我们尚不清楚智能的上限能超越人类多少，但答案即将揭晓。
进入 2030 年代，智能与能源——也就是思想以及将思想化为现实的能力——将变得唾手可得。长久以来，这两者是限制人类发展的根本瓶颈。一旦拥有了充裕的智能与能源（并辅以良好的治理），理论上，我们便能拥有一切。
我们已身处一个拥有惊人数字智能的时代，在最初的震撼过后，大多数人已习以为常。我们心态的转变非常迅速：从惊叹 AI 能写出一段优美的文字，到期待它能创作一部完整的小说；从惊叹它能辅助进行挽救生命的医疗诊断，到期盼它能研发出治愈疾病的良方；从惊叹它能编写一个小型程序，到希望它能创立一家全新的公司。这就是奇点演进的方式：昔日的奇迹变为寻常，再变为最基本的要求 (table stakes)。
我们已经从科学家口中得知，AI 使他们的研究效率提升了两到三倍。先进 AI 的意义非凡，但最重要的一点或许在于，我们可以利用它来加速 AI 自身的研究。我们或许能发现全新的计算基底、更优的算法，以及更多未知可能。如果能用一年甚至一个月的时间，完成过去需要十年才能完成的研究，那么进步的速度显然将不可同日而语。
从此刻起，我们已有的工具将帮助我们获得更深的科学洞见，并创造出更卓越的 AI 系统。这当然不等同于 AI 系统完全自主地更新代码，但这无疑是“递归式自我完善” (recursive self-improvement) 的雏形。
其他的自我强化循环也已开始运转。AI 创造的经济价值，已经启动了为更强大 AI 系统建设基础设施的飞轮效应。而能够制造其他机器人的机器人（某种意义上，也包括能建造其他数据中心的数据中心）也已不再遥远。
试想一下，如果我们必须以传统方式造出首批一百万台人形机器人，但此后，它们便能接管从采矿、冶炼、货运到工厂运营的整条供应链，从而制造出更多的机器人，进而建造更多的芯片工厂和数据中心，那么发展的速度无疑将发生质变。
随着数据中心生产的自动化，智能的成本最终应会向电力的成本靠拢。（人们常对 ChatGPT 的能耗感到好奇：平均每次查询耗电约 0.34 瓦时，相当于烤箱运行一秒多，或一个高能效灯泡亮几分钟。耗水约 0.000085 加仑，约为一茶匙的十五分之一。）
科技进步的步伐将不断加速，而人类几乎能适应任何变化。这个过程必然伴随着阵痛，例如整个工种类别的消失。但另一方面，世界财富的增长速度将如此之快，使我们能够认真考虑过去无法想象的新政策。我们或许不会一蹴而就地建立新的社会契约，但数十年后回望，这些渐进的改变将汇聚成一场巨大的变革。
以史为鉴，人类总能找到新的事业和新的追求，并迅速将新工具融入生活（工业革命后的职业变迁便是近例）。人们的期望会水涨船高，但能力也会同步提升，我们都将拥有更美好的生活。我们将为彼此创造出愈发精彩的事物。与 AI 相比，人类有一个长期、重要且奇特的优势：我们的本能驱使我们关心他人，在意他们的所思所为，而对机器则不然。
一千年前的农夫若看到我们今天的工作，大概会觉得这些都是“虚假”的职业，认为我们不过是在温饱之余，用难以想象的奢侈品玩着自娱自乐的游戏。我希望一千年后的人们回看我们今天的工作时，也会觉得它们“虚假”得不可思议，但我毫不怀疑，对于从事这些工作的人而言，它们将是无比重要且令人满足的。
新奇迹涌现的速度将是惊人的。我们今天甚至难以想象 2035 年会发现什么：或许我们今年刚解开高能物理的谜题，明年就开始了太空殖民；或许今年刚在材料科学上取得重大突破，明年就实现了真正的高带宽脑机接口。许多人会选择一如既往地生活，但至少会有一部分人，可能会选择“接入” (plug in) 一个全新的世界。
展望未来，这一切似乎令人难以想象。但身处其中，感受或许会是震撼，却仍在掌控之内。从相对论的视角看，奇点正一点一滴地发生，我们与技术的融合也正缓缓进行。我们正攀登在技术指数级增长的漫长曲线上——这条曲线前瞻时陡峭，回望时平缓，但它始终是一条平滑的弧线。（试想在 2020 年，有人告诉你到 2025 年我们将拥有接近“通用人工智能” (AGI) 的技术，这听起来该有多么疯狂？再对比一下过去五年真实发生的一切。）
巨大的机遇伴随着严峻的挑战。我们必须解决技术和社会层面的安全问题。与此同时，鉴于超级智能的巨大经济影响，确保其被广泛地普及和使用也至关重要。最佳的前进路径或许如下：
首先，解决“对齐” (alignment) 问题。这意味着我们必须能有力地确保 AI 系统能够学习并践行我们集体长远的真实意愿。（社交媒体的信息流便是一个“失准” (misaligned) AI 的例子：其背后的算法极其擅长让你不停地浏览，它很懂你的短期偏好，却是通过利用你大脑中那些会覆盖你长期偏好的弱点来实现的。）
其次，致力于让超级智能变得廉价、普及，避免其过度集中于任何个人、公司或国家之手。社会是富有韧性、创造力且适应力极强的。只要我们能凝聚人类的集体意愿与智慧，尽管途中会犯错，甚至出现严重的问题，但我们终将迅速学习和适应，利用这项技术实现效益最大化和风险最小化。在社会商定的广泛框架内给予用户充分的自由，似乎至关重要。世界越早开始就这些框架的边界以及如何定义“集体对齐”展开对话，就越有利。
我们（指整个行业，而非仅是 OpenAI）正在为世界构建一个大脑。它将是高度个性化的，人人都能轻松使用；唯一的限制将是我们的想象力。长久以来，科技创业圈的技术人员总是调侃那些只有想法却无力实现的“点子大王” (the idea guys)。但在我看来，他们大放异彩的日子即将到来。
今天的 OpenAI 身兼数职，但归根结底，我们是一家研究超级智能的公司。前路依然漫长，但大部分路径已被照亮，未知的黑暗正在迅速退去。能够从事这份事业，我们倍感荣幸。
“廉价到无需计量” (too cheap to meter) 的智能已触手可及。这听起来或许有些疯狂，但如果我们在 2020 年告诉你世界将变成今天的模样，其疯狂程度恐怕远超我们眼下对 2030 年的预测。
愿我们能平稳、呈指数级且波澜不惊地迈入超级智能的时代。