简体中文   简体中文 ENGLISH
首页 / 财富视界 / 市场洞察
市场洞察

比尔盖茨对话OpenAI CEO Sam Altman (上) | AI母基金动态

2024.01.24     

2024年1月11日,OpenAI CEO Sam Altman作为特邀嘉宾,参加了Bill Gates的播客《为我解惑》(Unconfuse Me)。在节目中,两位不同时代的先导者共同探讨了人工智能的现状、未来、对人类社会的影响、人工智能监管以及各自对个人和团队发展的建议等。


对话全文由华港联合家族办公室独家翻译整理。全文较长,我们将分上下两期展示给大家。以下是上半期的内容:

ChatGPT的诞生


BILL GATES:今天我们将主要讨论人工智能,这是一个令人兴奋的领域,但同时也引发了不少人的担忧。


我有幸见证了你们项目的发展,最初我对此持怀疑态度。但我没想到ChatGPT会发展得如此出色,它的表现令我震惊。我们还没有完全理解其编码机制。我们知道它是如何处理数字和进行计算的,但我们不清楚像莎士比亚式的内容是如何被编码的。你认为我们能理解这种数据表现方式吗?


SAM ALTMAN:当然可以。在人类大脑中实现这一点非常困难。这是一个类似神经元及其连接的问题。这些连接在变化,我们无法直接观察你的大脑来了解其发展过程,但我们可以对这些人工智能系统进行完美的透视。目前,我们在可解释性(interpretability)方面,已经展开了一些非常棒的工作,而且我认为随着时间推移,会有更多的解释出现。我们将能够理解这些网络,尽管我们目前的理解还很有限,但是已经可以帮助我们改进人工智能。


BILL GATES:我相信,在未来五年内,我们可以找到更强的可解释性,并且提高AI训练的效率和准确性。


SAM ALTMAN:绝对如此。在技术发展的历史中,我们经常看到有人基于经验,探索出一些重大进展。即使不清楚背后的原因,这些结果依然有很大价值,并且随着科学理解的深入可以进一步改进这些发现。


BILL GATES:是的,在物理学和生物学领域,有时候就是通过实验摸索发现的。


SAM ALTMAN:在我们构建GPT-1的时候,团队几乎是独立完成的,虽然有了突破新的成功但是对于它背后的工作机制并没有深入的理解。随着我们对其背后定律的摸索,我们预测到了它的发展潜力。这就是做第一次展示的时候我们为什么有信心说它一定会成功。


当时我们还没有训练模型,但我们非常有信心。随后,通过一系列的尝试,逐渐加深了对这一过程的科学理解。但这一切都是从经验性的结果开始的。


对ChatGPT的展望


BILL GATES:展望未来两年,你认为会有哪些关键的里程碑?


SAM ALTMAN:多模态技术无疑将成为重要发展方向。包括语音,图像,和视频。显然,这些是人们迫切需要的。我们已经推出了图像和音频功能,反响远超我们的预期。我们将进一步扩展这些功能,但可能最关键的进步将在推理能力方面。目前,GPT-4的推理能力非常有限。此外,可靠性也很重要。如果你向 GPT-4提出同一个问题1万次,其中可能有一次回答是相当不错的,但它并不总能识别出哪一次是最佳的,我们希望每次都能得到最佳回答,因此提高可靠性至关重要。定制化和个性化也将变得非常重要。


不同的人对GPT-4有不同的需求:不同的风格,不同的预设条件。我们将实现这些功能,并使其能够利用你的个人数据。比如了解你的电子邮件、日历、你喜欢的约会安排方式,以及连接到其他外部数据源等。这些都将是未来改进的关键领域。


BILL GATES:在目前的基础算法中,它主要是通过前馈和乘法运算来生成每个新词。如果你们能够达到在解决复杂数学方程时需要多次应用变换的程度,那么用于推理的控制逻辑可能需要比现在更加复杂,这会是很有趣的一点。


SAM ALTMAN:至少,我们需要一种自适应的计算方式。目前,无论是处理一个简单的词汇还是解决复杂的数学问题,我们对每个词汇的计算量都是一样的。比如当我们提出“解决黎曼猜想”,这与计算简单的词汇“the”所用的计算量是一样的。我们可能还需要更加复杂的技术。


对大语言模型的全球化监管


BILL GATES:你和我都参加了一个参议院教育研讨会,我很高兴有大约30名参议员参加。帮助他们了解这个领域非常重要,因为它是一个巨大的变革因素,政治家们应该多了解。然而并不意味着要增加媒体曝光,因为其中包含了很多负面因素,比如社会两极化。即使到现在,我也不确定我们该如何应对这个问题。谈到监管,你认为应该建立哪种类型的监管?


SAM ALTMAN:在这个领域施加过多的监管很容易。历史上有很多这样的例子。如果我们的判断是正确的,这项技术将会有巨大的影响,它将影响社会、地缘政治力量平衡等诸多方面。


对于这些仍然是假设性的,但未来可能极其强大的系统——不仅仅是GPT-4这样的系统,而是计算能力比它高10万倍或百万倍的系统,我们已经接受了建立全球监管机构的想法,因为它们确实会产生全球性的影响。


我们讨论的一个模型是类似于国际原子能机构(IAEA)。和核能类似,因为潜在的全球影响,这需要一个全球性的机构。我认为这是有道理的。当然,还有很多短期问题,比如这些模型允许说什么和不说什么?我们如何看待版权问题?不同国家会有不同的看法等等。


BILL GATES:核监管在全球范围内有效的原因,是因为每个人都希望共享安全。但当你涉及到核武器方面时,情况就不同了。


如果关键是阻止整个世界做危险的事情,你几乎需要一个全球政府,但今天对于许多问题,比如气候变化、恐怖主义,我们看到国际合作很困难。人们甚至因为美中竞争而认为任何放慢速度的想法都是不合适的。任何放慢速度或足够慢以确保谨慎的想法,难道不是很难执行吗?


SAM ALTMAN:是的,如果被视为要求放慢速度,那将非常困难。如果它是说,“做你想做的,但任何超过某个极高功率阈值的计算集群”,都必须接受类似于国际武器检查员的审查。这些模型必须提供安全审计,通过一些训练期间的测试,并在部署前通过。这对我来说是可行的。


我之前不太确定,但今年我环游世界,与许多需要参与其中的国家的领导人交谈,几乎得到了一致的支持。这不会解决所有问题。仍然会有一些问题出现在规模较小的系统中,有时甚至是严重的问题。但我认为这可以帮助我们应对最大的风险。


人工智能应用的发展


BILL GATES:我确实认为人工智能在最佳情况下可以帮助我们解决一些棘手的问题。


SAM ALTMAN:当然可以。


BILL GATES:包括极端化问题,因为这可能会对民主造成破坏,那将是极其糟糕的。目前,我们看到人工智能在提升生产力方面发挥了巨大作用,这主要是件好事。你最感兴趣的领域是什么?


SAM ALTMAN:首先,我认为值得记住的是,我们正处于一个长期且持续的发展曲线上。现在,我们有能够执行特定任务的人工智能系统。它们当然还不能完全替代人类工作,但它们可以完成一些任务,从而提高生产力。最终,它们将能够完成我们今天认为的工作类型,并且我们自然会找到新的、更好的工作。


我坚信,如果你给人们提供更强大的工具,他们不仅能工作得更快,还能做出质的不同的事情。目前,我们可能将程序员的工作效率提高了大约3倍。这不仅仅是他们能做更多的事情,而是让他们可以在更高层次的思考和更多的脑力投入下开始思考完全不同的事情。


再者,在人工智能的下一步,你可以想象一个小助手,你可以对它说,“为我编写整个程序,我会沿途问你几个问题,但它不仅仅是一次性写几个函数。”这将开启许多新的可能性。然后它会做更复杂的事情。也许有一天,会有一个人工智能,你可以对它说,“为我创办并经营这家公司。”甚至有一天,你可能会说,“去发现新的物理学理论。”


我认为始终需要把它放在这样一个背景下:至少在接下来的五到十年内,这项技术将处于快速改进的曲线上。这些模型目前可能是最初级的。就生产力提升而言,编程可能是我们目前最感兴趣的领域。它已经被大规模部署和使用。医疗保健和教育是两个我们非常看好的领域,它们正沿着这条曲线快速发展。


BILL GATES:有点令人担忧的是,与以往的技术进步不同,这一技术可能会非常迅速地进步,而且几乎没有上限。它可能在许多工作领域达到人类水平,即使它不进行独创性的科学研究,它也能处理客户支持和销售电话。我想你和我都有些担心,这种好事可能会迫使我们比以往任何时候都要更快地适应。


SAM ALTMAN:这正是令人担忧的地方。问题不在于我们必须适应,而在于人类的适应能力非常强。我们经历了巨大的技术变革,人们的工作在几代人的时间里可以发生巨大变化,而我们似乎能够很好地适应这些变化。我们已经看到了过去的重大技术革命。每一次技术革命的速度都在加快,而这次将是迄今为止最快的。我觉得有点可怕的是,社会将不得不以何种速度适应,以及劳动市场将会发生的变化。


对机器人的看法


BILL GATES:当人工智能拥有具有人类水平能力的手和脚时,就涉及到机器人学科,或者是蓝领工作。ChatGPT的惊人突破让我们专注于白领工作,但你对机器人学科的看法是什么?


SAM ALTMAN:我们很早有做过机器人,但是时间太早了,并没有解决实质性的问题,我们也越来越意识到,我们首先需要智能和认知,然后才可以考虑如何将其适应到物理性上。


但我们一直计划回到这个问题上来。我们已经开始在一些机器人公司进行少量投资。未来,我们希望能够使用我们的模型,用它们的语言理解和未来的视频理解来说,“ok,让我们用机器人做一些了不起的事情。”


BILL GATES:如果那些在腿部做得很好的硬件家伙们真的得到了手臂、手和手指的部分,然后我们将它们结合起来,而且价格不是离奇的昂贵,那可能会迅速改变很多蓝领类型工作的就业市场。


SAM ALTMAN:是的。过去七到十年的共识预测是,影响首先会是蓝领工作,其次是白领工作,创造性工作肯定是最后受到影响的。然而,实际情况完全相反。我认为关于为什么会发生这种情况有很多有趣的启示。


GPT 模型的发散或者不精准是一个特性,而不是缺陷。它让你发现一些新东西。它不同于让机器人去搬运重物,需要完全精准。我们可能有先入为主的观念,但有时科学并不想那样发展。

免责声明:本公众号文章仅供交流,并非华港财富对任何人的投资邀约或建议。本文章以及任何附随数据均不构成且不应视为法律、投资或税务咨询建议,阅读者请根据独立判断作出投资决策。

相关推荐

2024.02.20

Flower Labs获得新一轮2,000万美元的融资 | AI母基金动态

2024.02.06

肠道微生物组学创新公司Nimble Science完成新一轮融资 | AI母基金动态

2024.02.05

24年全球股市布局

2024.02.05

Unnatural Products与全球知名药企默克公司达成合作 | AI母基金动态