将自动驾驶作为 AGI 的一个案例来研究《Self-driving as a case study for AGI》

Andrej Karpathy 是 OpenAI 的创始成员之一，并且 Andrej Karpathy 的另一个身份是特斯拉前 AI 高级总监、自动驾驶 Autopilot 负责人，那这篇文章的很多观点就值得一看了！

一、AGI 的定义

首先是他对通用人工智能（AGI）的定义：
首先，它是一个完全自主的系统，即它可以独立运行，几乎不需要或完全不需要人类的监督。
其次，它能在大多数具有经济价值的工作中独立运作。

基于这样的对 AGI 的定义，自动驾驶可以作为一个很好的 AGI 的早期案例，借助自动驾驶的发展来预览通用人工智能带来的影响和普通民众对它的感受。

二、辅助自动化驾驶和工具型 AI

然后在自动化驾驶的历程中，在真正实现全自动化自动驾驶之前，其实是从辅助驾驶开始的，就像我们现在程序员们用的 GitHub Copilot，或者微软集成到 Office 的 Copilot，这些都是辅助作用的工具型 AI。

在辅助驾驶或者辅助 AI 中，人类主要承担监督角色，可以随时接管驾驶或者下达指令。这个阶段 AI 在某些领域的表现甚至超过人类，比如辅助驾驶中的跟车或紧急制动，或者是编程中一些具体模块的实现，但是整体上或者一些场景上还不足，需要人类干预。

三、全自动化驾驶

随着技术的发展，完全自动化终究会到来，就像现在的 Waymo 汽车，已经实现了完全自动化驾驶，在旧金山打车，可以直接叫一辆 Waymo 车，而不是 Uber，一辆无人驾驶的汽车会来接你，带你前往目的地。

注：Waymo 前身为 2009 年成立的自动驾驶项目，目标为完全自动驾驶。2016 年，该项目从 Google 独立出来，成为 Alphabet 公司旗下的子公司 Waymo。

虽然现在已经有了全自动化驾驶的 Waymo，但还是有很多人选择 Uber 或者其他方式打车，因为一方面很多人还不知道有 Waymo，另一方面 Waymo 的供应也不足，只有旧金山和凤凰城在运行，并且 Waymo 也还受制于硬件和政策法规上面的约束无法马上扩大运营规模。

所以 Andrej Karpathy 认为，通用人工智能也会是类似的过程 - 有些人或公司会立即采用，但许多人可能 1) 不了解这些技术，2) 知道后可能不信任，3) 即使信任，也更倾向于与人类合作。

此外，需求大于供应，通用人工智能 (AGI) 也会因为开发者的自我约束、法规限制以及资源短缺（比如需要建设更多 GPU 数据中心）而受到限制。

想想现在的 ChatGPT 也是类似的，很多人每天都在大量使用，而很多人从来没有用过 ChatGPT 甚至都还不知道它的存在，另外现在受制于 GPU 算力的约束，最强大 GPT-4 也无法放开了给大家使用，我日常就会经常遇到超过 3 小时 40 条的限制。

四、社会对自动化驾驶的反应

另外从自动驾驶可以看到的一个角度就是社会大众对于自动驾驶的反应，在几年前，大家还在纷纷讨论和怀疑自动驾驶的可行性，甚至有很多恐慌和不确定的声音。但现在，自动驾驶不再遥不可及，你已经可以花钱去乘坐完全自动驾驶的 Waymo 出租车。然而，这个变化似乎并没有引起太多人的关注。当 Waymo 的自动驾驶车辆在旧金山街头行驶时，你会发现许多人对此感到好奇。他们先是惊讶地盯着看，然后很快就继续他们的生活。

可能当自动驾驶技术在其他行业得到应用时，世界并不会发生翻天覆地的变化。大多数人甚至可能刚开始都没意识到这个变革。即使意识到了，他们可能只是好奇地看一眼，然后无动于衷，态度从否认到接受各不相同。有些人可能会因此感到不满，做出一些反抗行为，就像有人曾经在 Waymo 车辆上放置交通锥以示抗议一样。

五、自动化驾驶会导致司机失业吗？

大家对通用人工智能讨论的最多的还是对工作职位的影响，害怕 AI 会替代自己的工作。在自动驾驶领域，Waymo 显然取代了司机的工作。但同时，它也创造了许多此前看不见的新职位——比如帮助收集神经网络训练数据的人工标注员、远程协助遇到问题的车辆的技术支持人员、负责建造和维护车队、地图等的工作人员。为了制造这些高度仪器化、高科技的汽车，一个涵盖各种传感器和相关基础设施的全新产业也随之诞生。

与此类似，工作本身也在发生变化：一些工作会消失，许多新的工作机会也会出现。这更像是对工作的一次重组或改造，而不仅仅是简单的消除，尽管消除部分可能更为显著。长远来看，总体的工作数量可能会减少，但这个过程比人们初看时想象的要缓慢得多。

六、一家独大还是百花齐放

几年前，自动驾驶领域涌现出众多公司。但今天，随着人们逐渐意识到这一领域的技术难度和挑战（按照我对当前人工智能及整体计算技术的看法，这个挑战刚好处于可实现的边缘），相关企业已经大幅度整合。在这之中，Waymo 已经率先展示了功能完备的自动驾驶技术。然而，仍有诸如 Cruise、Zoox、Tesla 等公司紧随其后。

自动驾驶行业在 ~2015 年那样经历了快速增长和扩张，但最终只有少数几家公司在激烈竞争中存活下来，AI 领域也可能会经历类似的变化。在这一过程中，将会大量使用工具型 AI（例如：目前的二级自动驾驶辅助系统 ADAS 特性），甚至出现一些开放平台（例如：Comma）。

七、对未来通用人工智能的展望

通用人工智能并不会导致失控或者毁灭，相反，它更像是目前正在快速发展的自动驾驶技术，这是经济中一个重要的、正在改变社会的自动化分支。

AGI 的发展是逐步的，社会既是观察者也是参与者。其扩展在多方面受到限制，包括对教育有素的人力资源、信息、材料和能源的监管和资源的限制。世界不会因此崩溃，而是在适应、变化和重新构建中前行。

以自动驾驶为例，交通的自动化将使道路更安全，城市空气将变得更清新，交通更为畅通，而路边的停车场和停车车辆将逐渐消失，让出更多空间给行人。

期待看到 AGI 在各个领域带来的类似变革。

Andrej Karpathy 发表的一个推文，他说他早年发布了一段micrograd代码和说明讲解反向传播，但是没什么人关心，后来他做了一期视频，然后就迎来了爆炸性增长，其实代码还是一样的，甚至只有200行，并且有详细的注释。

很多时候我们懂某个技术就会觉得这件事很简单没必要多说，但对于不懂的人来说，要搞懂其实蛮不容易的。摘录最后两段：

“作为技术人员，我们往往有一种偏见，认为只要发布了代码、论文或成品，加上了注释和Readme，一切就都足够了。如果人们不参与，我们可能会认为是作品本身不够好。但实际上，人们即使是在同一领域的专家，也可能因为不想投入时间和精力的门槛而远离你的作品。你可能就这样，因为没有充分降低接触门槛，而错失了那份作品本身潜在的10倍甚至100倍的价值。

简言之，先是创造，然后是让更多人能够轻松地接触和理解。📈 你内心的某些声音可能会告诉你这不必要，但这是错误的观念。”

我经常回想的一个观察很有启示性：

刚发布micrograd仓库时，它引起了一些关注，但随后似乎进入了停滞期，没多少人再关心。
后来，我制作了一段视频，展示如何从零开始构建它，这个仓库立刻迎来爆炸性增长，成为学习反向传播算法的重要参考资料。

这个现象很有趣，因为micrograd的代码从一开始到结束都没变，它已经在GitHub上搁置了好几个月。这段代码对我而言很清晰（因为是我写的），只有约200行，而且我在.py文件和Readme中做了充分的注释，我本以为它已经足够明了自解了。我为能通过这样精简的代码讲解反向传播而自豪——它极大地简化了复杂性，仅用一页代码就揭示了自动微分引擎的精髓。但似乎别人并不这么看，我也就没太放在心上，继续前进了。

问题在于，它的障碍实际上是“仅仅”因为可访问性。当我制作并分享了那个视频，展示如何一步步构建和解析它时，对这段完全相同代码的兴趣和参与度几乎增长了百倍。这不仅吸引了领域新手，他们需要详尽的介绍和讲解，甚至连我那些更有技术背景的朋友们，我认为他们如果愿意花时间仔细看，也能理解它，但之前他们被初次接触的障碍所阻。

作为技术人员，我们往往有一种偏见，认为只要发布了代码、论文或成品，加上了注释和Readme，一切就都足够了。如果人们不参与，我们可能会认为是作品本身不够好。但实际上，人们即使是在同一领域的专家，也可能因为不想投入时间和精力的门槛而远离你的作品。你可能就这样，因为没有充分降低接触门槛，而错失了那份作品本身潜在的10倍甚至100倍的价值。

简言之，先是创造，然后是让更多人能够轻松地接触和理解。📈
你内心的某些声音可能会告诉你这不必要，但这是错误的观念。