新智元报道

　　编辑：KingHZ Aeneas

　　【新智元导读】纽约时报专栏称，美国政府已知道通用人工智能（AGI）正在逼近。前美国AI顾问Ben Buchanan表示AGI对国家安全、经济繁荣等非常重要，但美国并没有为AGI做好准备。

　　美国政府知道AGI即将到来，而且他们还要率先实现AGI。

　　就在最近，纽约时报刊登了一篇拜登政府AI顾问本·布坎南所接受的访谈，曝出了不少重磅信息。

　　比如：美国政府是如何为AGI做准备的？目前仍然存在哪些难题？

　　沃顿商学院研究AI与经济的Ethan Mollick，忧心重重，认为决策层要考虑AGI实现的可能性。

　　并非所有美国网友并吃这一套。甚至有教授在课堂上，表示两年后实现AGI，被学生质疑他精神不正常。

　　拜登政府：AGI真的来了

　　过去这段时间，纽约时报专栏作家Ezra Klein频频听到这样的观点——

　　AGI，一种能做任何认知任务上超越人类的AI系统，将在特朗普的任期内到来，而美国人还没有准备好。

　　就在最近，一位重量级人物——拜登政府的首席AI顾问本·布坎南登上了他的访谈。

　　左：专栏作家Ezra Klein；右：前白宫顾问Ben Buchanan

　　这个名为The Ezra Klein Show的访谈，长达1个多小时，干货满满，异常精彩。

　　多年来，本·布坎南和美国的AI实验室并没有直接联系，然而，他却一直处于美国AI政策制定的核心。

　　他不会被大型AI实验室买通来宣传AGI，因此，他的观点就显得尤其值得参考。

　　他看到了什么？是什么让他夜不能寐？特朗普政府究竟需要做些什么，才能为近在咫尺的AGI做好准备？

　　现在，无论是美国的AI实验室还是政府，都相信AGI在未来两到三年内一定会到来——正好落在特朗普的第二个任期内。

　　无论是这些机构正发布的产品，还是在工作场所的所见所闻，都让他们坚信这一点。

　　跟Web3不一样，AGI绝不是空谈，它已经近在咫尺。

　　可以说，这是人类历史上前所未有的时代。

　　然而，AGI会带来怎样的剧变？劳动力市场会如何反应？哪个国家会第一个到达AGI？它会怎样影响战争与和平？

　　美国人还没有做好准备，也不知道该怎样做准备。

　　更何况，现在美国政府面临着一个新情况：特朗普的幕僚中，马斯克、马克·安德森、大卫·萨克斯和万斯，对AI的态度都十分鲜明、十分激烈。

　　如今，美国正处于政策制定者的大转型时刻，而以上这些人，很可能恰巧就在AGI影响全世界时掌权。

　　那么，他们将会做什么？需要做出什么样的决定？

　　几乎所有业内人士都尽可能大声地宣告：AGI要来了。

　　普通人为即将到来的事情做好了准备？

　　AGI早已来了？

　　‘通用人工智能’（AGI）是极其强大的AI系统，典型定义是能够执行人类几乎所有认知任务的AI系统。

　　它的广度令人瞩目，同时它的深度，即在某些情况下超越人类能力的能力，也不容忽视。

　　无论如何定义认知任务，AGI能够取代认知要求高的工作，或者认知工作的关键部分。

　　有一种观点认为，通用人工智能（AGI）一直是企业炒作或猜测的对象。

　　而Ben Buchanan在白宫时，看到了非常清晰的趋势：AGI并不是炒作，它正在来临。

　　拜登试图让美国政府和社会为这些AI系统做好准备。

　　即便很难在心理接受这一点，人类正处在被AI取代的边缘，这一点他们确信不疑。

　　几个人合作需要几天才能完成的报告，Deep Research在几分钟内就能生成。

　　同时一些需要大量编码的公司向Klein透露，预计大多数代码将不再由人类编写。

　　Klein表示：‘我真的看不出这对劳动力市场没有影响。’

　　某种程度上，Ben认为在某些领域AGI已经来了：‘未来已经到来——只是分布不均。’

　　如果没有亲自接触过，可能还意识不到这一点。

　　但现在还是AGI最差的阶段，未来AGI更好。

　　所以美国政府以及国家也必须迅速跟进，适应这一变化。

　　美国誓要先实现AGI

　　关于AI，几乎所有美国人都普遍认同的一点，也是政策制定中最核心的优先事项，那就是：美国必须在中国之前，实现通用人工智能（AGI）。

　　这是因为美国人确实相信：如果能够率先实现通用人工智能（AGI）或变革性人工智能（Transformative AI），将极大地提升经济、军事和情报能力。

　　同时，保持在AI领域的领先地位对于美国国家安全至关重要。

　　Ben对肯尼迪著名的1962年莱斯大学演讲思索良久：

　　我们选择在这个十年内登月并完成其他任务，不是因为它们容易，而是因为它们困难。

　　在肯尼迪谈及太空探索的重要性时，Ben认为表达得更加深刻：

　　太空科学，就像核科学和所有其他技术一样，本身没有道德观念。它是福是祸，取决于人类。

　　而只有当美国占据主导地位时，我们才能决定这片新的海洋是成为和平之海，还是恐怖的战争舞台。

　　1962年9月12日， 肯尼迪在莱斯大学发表《我们选择登月》演讲

　　Ben表示：‘这同样适用于AI。美国必须主导AI发展。’

　　此外，让AGI自动收集并分析息情报，那将极大改变全球的势力平衡。

　　拜登签署了一项国家安全备忘录，明确指出：卫星情报数据是美国至关重要的战略领域。

　　白宫官员甚至无法估算美国每天收集了多少卫星图像数据，但可以肯定的是，这个数据量极其庞大。

　　而且美国已经公开承认，根本没有足够的人手来分析所有这些数据。

　　因此，AI可以在这一领域发挥重要作用——它可以自动分析全球热点地区、航运线路等相关图像，并筛选出最重要的信息供人类分析师审阅。

　　有些人可能会说：‘这不就是软件应该做的事情吗？’

　　从某种程度上讲，这确实没错。

　　但另一方面，软件越强大，分析的自动化程度越高，提取的情报更多。最终，这在战略上占据更有利的位置。

　　这一变化带来的直接和间接影响同样值得关注。在一个拥有强大AI的世界里，间谍活动的动力会大幅提升。

　　目前，美国收集的数据已经远超其分析能力，因此每新增的一条数据边际价值并不算高。

　　但如果AI能够高效处理和分析数据，那么获取更多数据的价值就会显著上升，间谍行为的诱因也会更强。

　　但同时要约束数据的滥用。至少，美国建立了一套监督机制。

　　在AI极度强大的时代，这种监督机制的重要性只会进一步上升。

　　美国为了率先实现AGI，开始实行出口管制政策：识别出关键的‘卡脖子’环节——GPU芯片，有效放慢了中国的AI进展，从而为美国创造一定的技术领先窗口。

　　理想情况下，美国利用领先优势，可以推动AI的安全性和国际协调，而不是一味地盲目竞争。

　　这其中，甚至可以包括与中国的潜在合作——但前提是不让这种合作加剧AI竞赛的态势。

　　白宫没准备好

　　但是美国朝野上下并没有为AGI做好准备。

　　比如说，在刑事司法中如何使用AI？

　　在某些情况下，它有优势——比如可以一视同仁地处理案件。

　　但也存在偏见和歧视等风险，因为AI系统存在缺陷

　　甚至在某些情况下，因为这些系统无处不在，危害性更大。

　　Ben认为：‘在司法系统中广泛且不受控制地使用AI，存在侵犯权利的根本风险，我们应该对此保持高度警惕。而作为公民，我对此深感忧虑。’

　　在美国，所有认真研究AI的公司和政府人员基本上都认同：在不远的未来，随着AI变得更加智能，决策速度和质量都会大幅提升，甚至在许多方面会超越人类的传统决策模式。

　　但问题是，美国正在全速奔向AGI，却并没有真正理解它是什么、意味着什么。

　　而且，AI安全等问题上，国际合作步履维艰。

　　但另一方面，中美之间确实建立了AI对话机制。

　　所以，在像AI这样复杂的领域，多种情况可以同时成立。

　　DeepSeek闯出了另一条路

　　DeepSeek之所以让美国感到震惊，主要是因为在计算资源远少于美国的情况下，完成了训练，成本更低，却依然能与美国的顶尖系统竞争。

　　自2023年11月左右，也就是DeepSeek发布第一个AI模型时，白宫官员就开始关注DeepSeek。

　　毫无疑问，DeepSeek的工程师们极具才华，在2024年不断进步。

　　DeepSeek表示，他们的最大瓶颈不是资金或人才，而是无法获取高端芯片。对此，美国白宫官员表示松了一口气。

　　2024年12月，DeepSeek推出了V3。

　　当时没有引起太大轰动，但展示了DeepSeek在算法优化和计算效率方面取得了显著提升。

　　2025年1月，DeepSeek-R1问世。

　　虽然得到了美国媒体的大量曝光与炒， 但没有改变美国政府对形势的基本分析：

　　DeepSeek仍然受到计算能力的限制。

　　他们很聪明，他们的算法在进步。但美国公司的算法也在进步。

　　DeepSeek与谷歌、Anthropic和OpenAI等公司，都在做相同的算法效率工作。

　　但DeepSeek的确展示了一种去中心化AI发展路径。

　　而在某种意义上，谷歌、Anthropic和OpenAI‘三巨头’束缚了美国的体系和想象力。

　　DeepSeek证明了美国现行的AI发展范式不是唯一的：不需要巨量计算资源，不需巨型公司，在更少的能源、更少的芯片下，也能实现顶尖AI模型。

　　这两种模式可能都行之有效。

　　首先，至少在可预见的未来，总会有一个顶尖模型。而这需要密集的算力和能源。

　　这些公司提升效率的动力很强，希望榨取每一滴算力。而且还在继续不断发展。

　　除此之外，还有一个滞后于前沿的较慢的技术扩散过程。

　　在扩散过程中，算法变得更加高效，所需的计算机芯片更少，能源消耗也更低。

　　美国需要在这两个竞争中都取得胜利。

　　AI竞争力、安全与开源

　　拜登政府总体上也非常关注AI安全。

　　Marc Andreessen是一位著名的风险投资家，也是特朗普的高级顾问，讲述了他与拜登政府就AI的对话，以及这些对话如何使他走向了另一个极端。

　　Ben和我在2024年5月去了华盛顿。我们没能见到拜登，因为当时没有人能见到拜登。但我们见到了高级幕僚。我们与白宫核心圈子的高层人士会面。

　　我们基本上表达了对AI的担忧。

　　他们的回应是：是的，我们将在拜登政府的第二任期内实施的国家AI议程是：我们将确保AI只能由两三家大公司来运作。我们将直接监管和控制这些公司。

　　不会有初创公司。你们认为可以创办公司、编写代码并将代码发布到互联网上的日子已经结束了。这种情况不会再发生了。

　　但Ben表示美国在竞争力上优势明显，市场充满活力。

　　特朗普总统刚刚废除的AI行政命令中有一个相当长的部分是关于竞争力的。

　　《芯片与科学法案》中也有许多关于竞争的内容。

　　但Scaling law等，迫使事情向大公司倾斜。

　　在许多方面，美国政府是在反对这种趋势。

　　在AI安全领域，存在另一种说法：当最强大的实验室的前沿模型变得足够强大时，需要对其进行监管。

　　为了做到这一点，需要控制这些模型：不能让模型以及其他相关的东西四处流传，以至于每个人都可以在PC上运行它。

　　这涉及到更高层次的紧张关系，即如何监管这种极其强大且快速变化的技术，一方面要确保其安全，另一方面又不过度减缓其发展速度，或使小型公司在使用越来越强大的系统时难以遵守这些新规定。

　　在行政命令中，美国实际上试图解决这个问题，但在2023年10月签署该命令时，还没有答案。

　　开放权重系统的关键好处是，它更容易作为未来系统的基础进行创新，因为可以访问原始模型。

　　但同时可能带来风险：任何内置在该系统中的安全措施——比如拒绝用户开发生物武器的要求——都很容易被移除。

　　经过广泛的征求意见和反馈后，白宫官员在2024年7月左右发布报告，得出的结论基本上是：目前没有证据表明需要限制开放权重生态系统。

　　但随着技术的进步，应该继续监控这一点。

　　特朗普新政

　　围绕如何为AI做准备，存在着不同的文化——AI安全派和AI加速派。

　　在巴黎AI行动峰会上，副总统万斯明显属于AI加速派，表示为了AI安全而对其监管，是在扼杀创新。

　　也就是说，他认为安全和机会之间存在根本性的矛盾。

　　只要看看技术发展史，证据非常清楚，适当的安全行动会释放机会，实际上会加速发展。

　　比如，在铁路的早期发展中，有很多意外事故、车祸等，结果人们不愿意使用铁路。

　　随后开始出现安全标准和安全技术：闭塞信号系统，使火车能够知道它们是否在同一区域；空气制动器，使火车能够更有效地刹车；轨道宽度和轨距的标准化等。

　　这在当时并不总是受欢迎的，但事后看来，很明显这些技术，以及在某种程度上安全标准的政策发展，造就了19世纪末的美国铁路系统。这是技术史上反复出现的模式。

　　非常明确的是，并非每一项技术上的安全监管都是好的。当然也有过度监管、减缓发展速度甚至扼杀发展的情况。

　　但安全和机会之间存在根本性紧张关系的说法并不正确。

　　真正重要的是如何正确把握这个监管的度。

　　拜登政府几乎没有实施任何接近监管的措施。

　　唯一的例外是安全测试结果共享——这估计只要一个员工花费一天的工作时间。

　　此外，拜登政府创建了美国AI安全研究所的机构，它完全专注于国家安全——网络风险、生物风险、AI事故风险——并且完全是自愿的，与Anthropic、OpenAI，甚至与马斯克的公司xAI都有谅解备忘录的关系。

　　万斯并不是特朗普政府中支持AI加速的特例。

　　特朗普政府的成员能够理解特朗普、马斯克和美国‘政府效率部’DOGE在AI方面的所作所为，或者至少是这些行为最终将带来的影响。

　　他们的基本观点是：

　　美国联邦政府过于庞大，无法有效利用AI技术。

　　如果AI的核心价值在于加速认知工作，那么政府就需要进行简化并重构，以更好地利用AI——无论喜欢与否，这正是马斯克和DOGE正在做的事情。

　　而且，政府的这种简化过程，实际上是一种创造性的破坏，它为政府更好地利用AI铺平了道路。

　　Ben无法理解，即便是为了更好利用AI，但这些如何帮助制定更好的AI政策？

　　而且为什么要从美国国际开发署开刀？毕竟，美国国际开发署是承担美国民间对外援助与对发展中国家发展援助的联邦政府独立机构。

　　所以他认为马斯克确实了解AI的潜力，但利用AI提升效率并不是DOGE的动机。

　　美国当局在技术现代化方面进展缓慢，在跨部门协作方面效率低下。而且，在彻底改革工作方式并利用可能提高生产力的因素方面，它的行动也显得迟缓。

　　Ben表示事实的确如此，但需要谨慎行事，同时必须大幅加快进度。

　　美国打工人何以维生？

　　Ben认为让AI普惠至关重要。

　　美国上任政府的AI政策，有两大原则体现了这一点。

　　首先是AI在职场的应用，需要以尊重工人的方式进行。

　　其次，应该在整个经济中部署AI，以增强工人的能力和技能。

　　AI有可能会使工作环境变得更糟，这种恶化去人性化、贬低并最终破坏工人的利益。这是不容忽视的第一部分。

　　但在AI对未来就业市场的影响难以预料，众说纷纭。Ben倾向于认为变化会很大，尽管他不是劳动经济学家。

　　在这个问题上，美国副总统万斯与前总统拜登的话术一模一样，即：在过渡期间，考虑工人的诉求。

　　历史上，铺设电力与铁路耗时持久，但这次AI来势汹汹，转瞬即至。

　　因此，即便是劳动经济学家也不知道如何处理AI。

　　Ben认为：‘AI对经济的影响不会是一次性、均匀地发生，而是先影响某些行业、某些企业，然后逐步扩展。它在整个社会中的分布是不均衡的。’

　　而不均衡意味着不稳定。

　　比如说，现在有很多19岁的大学生正在学习市场营销。但AI可能让市场营销专业毕业生的失业率翻三倍。

　　而软件工程师的情况又有很大不同：AI既会取代很多这类工作，也会创造很多这类工作，因为对软件的需求将会大大增加。但也可能看到在某些地方发生这种情况。

　　但AI的优势，在某种程度上是一种平衡力量，它将增强个人的自主能力。

　　所以19岁或25岁的年轻人，能够使用AI系统做一些以前做不到的事。

　　总的来说，这可能带来充满活力的经济。

　　然而，需要确保在这个过渡过程中，每个工人和工人阶层都能得到保护。

　　Ben认为：‘我们应该坦率地说：那将非常困难。’

　　在保护打工族利益上，美国一直做得不好。

　　而美国民众如此沉迷于所谓的‘美国梦’： 每个人的成功掌握在自己手中。

　　在打工人因非自身原因（如全球经济衰退）而失业时，美国大部分人既缺乏同情心，又很少考虑无业人员面临的现实。

　　总有人天赋异禀、才思敏捷，工作高效而灵活。而这些人会对无业者说：‘看看他们，为什么你不是他们？’

　　这种思维方式几乎已经刻进了美国人的经济观里：‘你应该接受再培训，转行到有需求的行业。’

　　可现实呢？难道所有被AI取代的人都要去当护士？

　　确实，有些工作是AI无法替代的，比如水管工，但真的需要那么多水管工吗？

　　现在确实缺少一些技工，但不可能让所有失业者都转行去做这些工作。

　　Ben和Klein非常同情美国打工人的这种遭遇，感同身受，对对现有答案的深深不满。

　　拜登在任期间，美国政府没有解决了这个问题。

　　这不仅关乎国家安全，美国的经济实力和繁荣也与此息息相关。

　　接下来该怎么做？

　　在Klein和Ben的播客节目中，一开始讨论的是，一项可能是人类历史上最具变革性的技术将在两到三年内落地。

　　大家的第一反应是：‘哇，这件事真的很重大，我们该怎么办？’

　　但接下来，讨论就变得模糊起来了。也许是因为确实不知道答案。

　　但Ben多次提到的一个观点是：

　　事实上，美国当局几乎没有对AGI进行任何限制，一切都是自愿的，唯一要求的只是共享安全数据。

　　然后，AI加速派登场了： Marc Andreessen就曾直接批评过拜登政府在AI上的做法。

　　Ben认为在这个问题上应该保持一定的知识上的谦逊。在采取政策行动之前，首先要弄清楚自己在做什么，以及为什么这么做。

　　因此，面对一项变革性技术，可以理性地分析趋势，看到它即将到来，但这并不意味着必须立即制定一个针对2027 或2028年的行动计划。这两者并不矛盾。

　　但与此同时，美国建立了一些机构，比如AI安全研究所。它的作用是为将来提供一个更好的基础，以便下一届政府能够更成功地管理这项技术。

　　USAISI将促进人工智能模型的安全、安保及测试标准的制定，制定人工智能生成内容的验证标准，并为研究人员提供测试环境，评估新的人工智能风险，解决已知的影响

　　现在，管理AI技术的责任落到特朗普政府手上，随着技术的发展，特朗普政府需要决定如何在监管框架下进行合理调整。

　　参考资料：

　　https：//www.nytimes.com/2025/03/04/opinion/ezra-klein-podcast-ben-buchanan.html