2024年1月11日，OpenAI CEO Sam Altman作为特邀嘉宾，参加了Bill Gates的播客《为我解惑》(Unconfuse Me)。在节目中，两位不同时代的先导者共同探讨了人工智能的现状、未来、对人类社会的影响、人工智能监管以及各自对个人和团队发展的建议等。

对话全文由华港联合家族办公室独家翻译整理。全文较长，我们将分上下两期展示给大家。以下是下半期的内容：

▍对人工智能的担忧

BILL GATES：现在谈到人工智能，如果我们真的达到了通用人工智能(AGI)或超越AGI的惊人能力，我有三个担忧。

第一个是坏人控制了这个系统。如果好人拥有同样强大的系统，那或许可以减少这个问题。

第二是系统自己控制一切的可能性。不过出于某些原因，我对这个不太担心，我很高兴其他人在关注这个问题。

让我感到困惑的是人类的目标。我在处理疟疾问题上感到很兴奋，但如果机器告诉我，“比尔，你去打球吧，我来解决疟疾问题。你思考太慢了”，这在哲学上很令人困惑。我们该如何组织社会？如果达到了这种极端，教育又是为了什么？

SAM ALTMAN：研究这项技术有很多心理上的难题。但对我来说，这是最困难的，因为我也从中获得了很多成就感。从某种真实意义上讲，这可能是我做的最后一件难事。

BILL GATES：我们的思维方式太过围绕着稀缺性，比如教师、医生和好想法的稀缺性。我确实想知道，一个在没有这种稀缺性的环境中长大的一代人，会如何找到适合自己社会位置和应该做什么的哲学概念。也许他们会找到一个解决方案。我担心我的思维方式太过于围绕着稀缺性，以至于我很难想象它。

SAM ALTMAN：这也是我告诉自己的，而且我真的相信，尽管我们在这里放弃了一些东西，但从某种意义上说，我们将拥有比我们更聪明的东西。如果我们能进入这个后稀缺世界，我们会找到新的事情去做。它们会感觉非常不同。也许不再是解决疟疾，而是决定你喜欢哪个星系，以及你打算如何处理它。

我相信我们永远不会缺少问题，我们也永远不会缺少找到满足感和为彼此做事的不同方式，以及理解我们如何以这种对待其他人。肯定会有所不同，但我认为唯一的出路是穿越过去。我们必须去做这件事，这将会发生。这现在是一条不可阻挡的技术道路，价值太大了。我非常有信心，我们会让它工作，但它确实感觉会非常不同。

BILL GATES：将这项技术应用于当前的一些问题，比如为孩子们提供家教帮助，激励他们，或者研发阿尔茨海默症的药物，我认为这些做法相当明确。但是，人工智能是否能帮助我们减少战争、降低社会两极分化。

你会想，随着智能的提升，停止两极分化似乎是常识，避免战争也是常识，但我认为很多人可能会持怀疑态度。我希望有人致力于解决最棘手的人类问题，比如我们是否能和谐相处。如果我们认为人工智能能够促进人类和谐相处，那将是极其积极的。

SAM ALTMAN：我相信这方面的结果会让我们惊喜。这项技术会让我们惊讶于它能做的事情有多少。我们需要去探索和观察，但我对此非常乐观。我同意你的观点，这将是巨大的贡献。

▍OpenAI的成本问题

BILL GATES：在公平性方面，技术通常是昂贵的，比如个人电脑或互联网连接，它们需要时间来降低成本。我猜运行这些人工智能系统的成本看起来会大幅下降？

SAM ALTMAN：它已经大幅下降了。GPT-3是我们发布时间最长、优化时间最多的模型，在它发布的三年多时间里，我们已经能够将成本降低了40倍。对于三年的时间来说，这是一个很好的开始。对于GPT-3.5，到目前为止，我们已经将其降低了接近10倍。GPT-4是更新的，所以我们还没有太多时间来降低成本，但我们会继续降低成本。

我认为我们正处于有史以来任何技术成本降低最陡峭的曲线上，远远超过摩尔定律。不仅是因为我们找到了如何使模型更高效的方法，而且随着我们对研究的更好理解，我们可以将更多知识、更多能力集成到更小的模型中。我认为我们将把智能的成本降低到接近于零，这将是社会的前后转变。

目前，我对世界的基本看法是智能成本、能源成本。这是提高生活质量的两个最大可能性，特别是对穷人来说。如果你能同时将这两者的成本大幅降低，你能拥有的东西数量、你能为人们带来的改善程度是相当巨大的。至少对于智能来说，我们正处于一个曲线上，我们将真正实现这个承诺。即使是目前的成本，再次强调，这是它将会有的最高成本，远远超过我们的期望，但每月20美元，你可以获得大量的GPT-4访问权限，远远超过20美元的价值。我们已经降低了很多。

BILL GATES：关于竞争，很多人同时在这个领域工作，这种情况感觉怎么样？有趣吗？

SAM ALTMAN：既让人感到烦恼，也很有趣。我相信你也有过类似的体验。这的确促使我们做得更好，更快。我们对自己方法充满信心。有很多人似乎还停留在过去的趋势上，而我们正在走向未来。

▍OpenAI的“基因”

BILL GATES：我想人们可能会对OpenAI的规模感到惊讶。你们有多少员工？

SAM ALTMAN：大约有500人，所以我们比以前规模大一些。

BILL GATES：但这在谷歌、微软、苹果这样的公司标准看来还是很小的。

SAM ALTMAN：是的，很小。我们不仅要管理研究实验室，还要经营一个真正的商业公司和两个产品。

BILL GATES：你们所有能力的扩展，包括与全世界每个人的交流，以及倾听所有这些不同群体的声音，对你来说现在一定很有趣。

SAM ALTMAN：确实非常有趣。

BILL GATES：可能你们是一个年轻人的公司吧

SAM ALTMAN：实际上，我们的员工平均年龄比较大。我们这里不是一群24岁的程序员。

BILL GATES：我的观点可能有些偏颇，因为我已经60多岁了。我看到你，你比我年轻，但你说得对。你们有很多人在30多岁、40多岁、甚至50多岁。

SAM ALTMAN：没错，我对此进行了思考。我认为公司总体上变得更成熟了，我不太确定这意味着什么。我认为这在某种程度上对社会来说是个坏兆头，但我在Y COMBINATOR观察到，随着时间的推移，最优秀的创始人趋于年长。

BILL GATES：是的。

SAM ALTMAN：在我们的情况下，员工的平均年龄甚至还要更大一些。

BILL GATES：通过你在Y Combinator的工作，帮助这些公司，你肯定学到了很多。我想这对你现在所做的事情是很好的经验积累。

SAM ALTMAN：那确实对我很有帮助。

BILL GATES：包括从中看到了错误。

SAM ALTMAN：完全正确。OpenAI 做了很多与 Y COMBINATOR 标准建议相反的事情。我们花了四年半的时间才推出我们的第一个产品。我们在没有任何明确产品想法的情况下成立了公司。我们没有与用户进行交流。我仍然不建议大多数公司这样做，但在Y COMBINATOR学习规则并看到它们的实际应用，让我觉得我明白了何时、如何以及为什么我们可以打破这些规则。我们真的做了一些与我见过的任何其他公司都完全不同的事情。

BILL GATES：关键是你组建了一支专注于解决重大问题的团队，而不是专注于一些短期收入的事情。

SAM ALTMAN：我认为硅谷的投资者不会在我们需要的程度上支持我们，因为在产品问世之前，我们必须在研究上投入大量资本。我们只是说，“最终模型会变得足够好，我们知道它对人们会有价值。”但我们非常感激与微软的合作，因为这种超前于收入的投资方式不是风险投资行业所擅长的。

BILL GATES：没错，而且资本成本相当高，几乎达到了风险投资所能接受的极限。

SAM ALTMAN：可能甚至超过了。

BILL GATES：可能是的。我非常赞赏Satya对“如何将这个卓越的人工智能组织与大型软件公司结合起来”的深思熟虑。这种结合非常有协同效应。

SAM ALTMAN：的确很棒。你真的说到了点子上，这也是我从Y Combinator学到的。我们说，我们要聚集世界上最优秀的人才。我们要确保大家都对这个通用人工智能(AGI)的使命保持一致。但除此之外，我们要让人们自由发挥。我们要认识到这个过程可能会有一些曲折，并且需要时间。我们有一个大致正确的理论，但沿途的许多策略实际上是完全错误的。我们只是尽力跟随科学的发展。

BILL GATES：我记得去看那个演示时，我在想，这个项目要怎样才能产生收入？那是怎样的一种体验？在这些狂热的时刻，你仍然保持着一支非常出色的团队。

SAM ALTMAN：是的。优秀的人才总是渴望与同样优秀的同事一起工作。

BILL GATES：这是一种强大的吸引力。

SAM ALTMAN：那里有一种深厚的吸引力。此外，虽然这听起来很陈词滥调，每个公司都这么说，但人们真的非常深刻地感受到这个使命。每个人都想亲身经历通用人工智能(AGI)的创造过程。

BILL GATES：当你带着新的演示来找我，让我再次大吃一惊时，我可以感受到那种活力；我看到了新的人才、新的想法。你们继续以惊人的速度前进。

▍建议

SAM ALTMAN：你最常给出的建议是什么？

BILL GATES：有很多不同类型的工作。在我职业生涯早期，我曾认为纯粹的智商，比如工程智商，是最重要的，当然，你可以将其应用于金融和销售领域。但这种想法被证明是错误的。组建一个拥有正确技能组合的团队非常重要。让人们思考如何建立一个具备所有不同技能的团队，这可能是我认为最有帮助的建议。你呢？你通常给出什么建议？

SAM ALTMAN：我的建议是关于大多数人对风险的判断有误。他们害怕离开舒适的工作去追求他们真正想做的事情，而实际上，如果他们不这样做，他们回首往事时会后悔，“我从未去创办我梦想中的公司，或者我从未尝试成为一名人工智能研究员。”我认为这实际上风险更大。与此相关的是，清楚地知道你想做什么，并向人们明确你的需求，这通常会带来意想不到的结果。很多人陷入了不是他们想要的生活方式。我给出的最常见建议可能是试图以某种方式改变这种状况。

BILL GATES：如果你能让人们从事他们觉得有意义的工作，那会更加有趣。有时，这也是他们能产生巨大影响的方式。

SAM ALTMAN：毫无疑问。

BILL GATES：谢谢你的到来。这是一次非常棒的对话。在未来，随着我们努力以最佳方式塑造人工智能，我相信我们还会有更多的交流。

SAM ALTMAN：非常感谢你邀请我。我非常享受这次对话。