三个观察

奥特曼刚发布的最新博文

《机译》

三个观察

我们的使命是确保AGI（通用人工智能）造福全人类。?

开始指向 AGI* 的系统正在出现，因此我们认为了解我们所处的时代非常重要。AGI 是一个定义不明确的术语，但一般来说，我们的意思是它是一个可以在人类层面上在许多领域解决日益复杂的问题的系统。

人类是工具制造者，具有与生俱来的理解和创造的动力，这让世界变得越来越美好。每一代人都会在前几代人的发现的基础上创造更强大的工具——电力、晶体管、计算机、互联网，以及即将出现的 AGI。

随着时间的推移，人类创新的稳步前进带来了过去难以想象的繁荣，并改善了人们生活的几乎每个方面。

从某种意义上说，AGI 只是我们共同打造的人类进步的更高支架上的一个工具。从另一个意义上说，这是某个事物的开始，我们很难不说“这一次不同”；我们面前的经济增长看起来令人惊叹，我们现在可以想象一个我们治愈所有疾病、有更多的时间与家人共度时光、并能充分发挥我们的创造潜力的世界。

十年后，也许地球上的每个人都能取得比当今最有影响力的人更多的成就。

我们继续看到人工智能发展取得快速进展。以下是有关人工智能经济学的三点观察：

1.人工智能模型的智能程度大致等于用于训练和运行该模型的资源的对数。这些资源主要是训练计算、数据和推理计算。看来你可以花费任意数量的资金并获得持续且可预测的收益；预测这一点的缩放定律在许多数量级上都是准确的。

2.使用给定级别的人工智能的成本每 12 个月下降约 10 倍，而较低的价格可带来更多的使用。您可以从 2023 年初的 GPT-4 到 2024 年中期的 GPT-4o 的代币成本中看到这一点，在此期间每个代币的价格下降了约 150 倍。摩尔定律每 18 个月改变世界 2 倍；这令人难以置信地强大。?

3.智力线性增长的社会经济价值本质上是超指数级的。其结果是，我们认为没有理由在短期内停止投资的指数级增长。

如果这三点观察结果继续成立，将对社会产生重大影响。

我们现在开始推出人工智能代理，它们最终会感觉像虚拟同事一样。

让我们想象一下软件工程代理的情况，我们认为这个代理特别重要。想象一下，这个代理最终将能够完成一家顶级公司拥有几年经验的软件工程师可以完成的大多数工作，这些任务最多需要几天时间。它不会有最伟大的新想法，需要大量的人工监督和指导，它在某些方面会很出色，但在其他方面却出奇地糟糕。

尽管如此，想象一下它是一个真实但相对初级的虚拟同事。现在想象一下有 1,000 个这样的人。或者 100 万个。现在想象一下在知识工作的每个领域都有这样的代理。

从某些方面来看，人工智能可能就像是晶体管的经济效应——一项具有良好规模并渗透到经济几乎每个角落的重大科学发现。我们不太关注晶体管或晶体管公司，而其收益分布非常广泛。但我们确实希望我们的电脑、电视、汽车、玩具等能够创造奇迹。

世界不会一下子改变；它永远不会改变。短期内，生活将基本保持不变，2025 年的人们将以与 2024 年相同的方式度过时间。我们仍会坠入爱河、建立家庭、在网上打架、在大自然中远足等。

但未来将以一种无法忽视的方式向我们走来，我们的社会和经济将发生巨大的长期变化。我们将找到新的事情去做，找到新的方法来互相帮助，找到新的方法来竞争，但它们可能看起来与今天的工作不太一样。?

能动性、意志力和决心可能会非常有价值。正确地决定做什么，并弄清楚如何驾驭不断变化的世界将具有巨大的价值；韧性和适应性将是值得培养的有用技能。AGI 将成为人类意志力的最大杠杆，并使个人比以往任何时候都具有更大的影响力，而不是更小。

我们预计 AGI 的影响是不均衡的。尽管有些行业变化不大，但科学进步的速度可能会比现在快得多；AGI 的这种影响可能超越其他一切。

许多商品的价格最终将大幅下降（目前，智力成本和能源成本制约了很多东西），而奢侈品和土地等一些本质上有限的资源的价格可能会大幅上涨。

从技术角度来看，我们面前的道路看起来相当清晰。但关于如何将 AGI 融入社会的公共政策和集体意见非常重要；我们尽早并经常推出产品的原因之一是让社会和技术有时间共同发展。

人工智能将渗透到经济和社会的各个领域；我们期望一切都变得智能。我们中的许多人预计需要给予人们比过去更多的技术控制权，包括更多地开源，并接受安全和个人赋权之间的平衡，这需要权衡。

虽然我们永远不想鲁莽行事，而且与 AGI 安全相关的一些重大决策和限制可能会不受欢迎，但从方向上看，随着我们越来越接近实现 AGI，我们相信更加倾向于赋予个人权力是重要的；我们可以看到另一条可能的道路是，专制政府利用人工智能通过大规模监视和丧失自主权来控制其人口。

确保 AGI 的益处得到广泛传播至关重要。技术进步的历史影响表明，我们关心的大多数指标（健康结果、经济繁荣等）在平均水平和长期来看都会变得更好，但提高平等似乎并非由技术决定的，要做到这一点可能需要新的想法。

尤其是，资本和劳动力之间的权力平衡似乎很容易被打乱，这可能需要尽早干预。我们愿意接受一些听起来很奇怪的想法，比如提供一些“计算预算”，让地球上的每个人都能使用大量人工智能，但我们也看到，只要坚持不懈地将智能成本压低到尽可能低，就能产生预期的效果。

2035 年的任何人都应该能够调动与 2025 年每个人相同的智力；每个人都应该能够利用无限的天才来指导他们所能想象的一切。现在有很多人才没有资源来充分表达自己，如果我们改变这种状况，那么由此产生的世界创造性成果将为我们所有人带来巨大的利益。

?