访谈Sam Altman：他再次阐述对一个人AI公司的定义以及GPT系列规划
——我们从一开始就说过，我们会追求 AGI，而在其时的领域里，这种说法是不被允许的，因为这听起来简直像是疯狂的想法。我记得其时你们因此受到了大量的批评——对一个年轻的创业者来说，这种信任是非常特别且鼓舞民气的。当然这确实很重要，但直到厥后我才意识到，参与创业运动最宝贵的是那群同舟共济的人
——人们容易以为，只要做的是 AI，商业法则就不实用了。实际上，纵然利用 AI，你仍然需要创建竞争壁垒和优势。固然可以借助新技术迅速增长，但不能忘记必须创造真实的代价。
https://img-blog.csdnimg.cn/img_convert/febc452bd837bd2d8911febf5775fb04.png
在科技界,很少有人能像Sam Altman那样对未来产生如此深远的影响。作为OpenAI的首席执行官,Altman领导团队在机器学习、生成式人工智能以及大语言模型(LLMs)等领域取得了突破性希望。这些模型现已到达博士学位级别的推理能力,但这仅仅是开始。在最新发表的文章中,Altman大胆预测:距离通用人工智能(AGI)的实现,可能只剩下几千天的时间。
在近期与Y Combinator总裁兼首席执行官Garry Tan的对话中,Altman回首了OpenAI的发展进程。"与DeepMind等竞争对手相比,我们的资源确实很有限,"Altman坦言,"但我们选择了一个明白的目标并始终专注于此。这种专注终极成为了我们的制胜法宝。"他指出,即便在今天,很多人仍然低估了对单一目标保持刚强信心的代价。
为了更好地理解AGI的发展路径,Altman提出了一个清晰的分级框架:
[*] 第一级:聊天机器人
[*] 第二级:推理系统(如今年早些时间发布的o1)
[*] 第三级:能够独立执行恒久任务的"代理人",可以与环境互动、寻求人类资助并开展协作
[*] 第四级:具备科学家般探索和理解能力的创新者
[*] 第五级:能在组织层面实现类似效能的强大系统
"AGI这个术语确实被过度利用了,不同人对它的理解也各不相同,"他说,"但通过这个框架,我们可以更清晰地看到发展的门路。特别值得注意的是,第三级'代理人'的实现可能会比我们预期的来得更快。"
文稿整理
主持人： 我们今天有一份特别的礼品带给各人。感谢 Sam Altman 的到来！
Sam Altman： 谢谢。这其实是YC“怎样构建未来”系列的重启，所以很高兴回到我多年前开始的这个系列。
谈AI创业时机
主持人： 这真是个疯狂的想法，我很高兴这个系列被重启了。让我们来聊聊你最新的文章《智能时代》(The Intelligence Age)。你觉得现在是创建科技公司的最佳时机吗？
Sam Altman： 至少可以说是现在为止最好的时机，希望未来还会有更好的时机。我以为，每次主要的技术革命，你都能做一些比以前更多的事变。我也希望未来的公司会更加令人赞叹而且影响深远。所以，是的，我以为这是迄今为止的最佳时机。
主持人： 在你的文章中，你提到 ASI（超等智能）可能距离我们只有几千天。那但是个很惊人的表述。
Sam Altman： 也许吧，这是我们的希望、猜测大概怎么样的。已往三年我们取得的希望连续下去的话，我们可能在三年、六年或九年后（九年大约是3500天）会拥有一个非常有能力的系统。纵然是像 A1 这样的系统，已经能够在特定的任务上表现得非常精彩。我们离进步的极限还很远。
主持人： 这篇文章险些是我见过最乐观的科技预测了。你还提到我们可能会解决天气问题，创建太空殖民地，发现所有的物理学规律，拥有近乎无穷的智能和丰富的能源。
Sam Altman： 我确实以为所有这些事变，乃至更多我们无法想象的事变，可能离我们并不遥远。Y Combinator 不停让我喜欢的一点就是它鼓励一种略显不切实际的科技乐观主义，以及一种信任“你能搞定这些事”的信心。在一个经常告诉人们“你做不到”的世界里，YC 鼓励创业者想得更大一些，这是一种特别的力量。充裕的能源好像是一个非常重要的因素。假如我们实现能源充裕，这将会开释出巨大的潜力，不光是知识工作，乃至是实际的物理工作都可以被解锁。这些是我们需要的两大关键投入。假如我们能获得真正充裕的智能和能源，我们将能够活着界上实现非常多的事变，无论是提出更好的想法还是在现实世界中实现它们。丰富的能源将是一个巨大的解锁。
主持人：那么，你觉得假如我们无法实现无穷的能源，会发生什么？
Sam Altman： 太阳能加储能的发展轨迹已经很好了，纵然我们没有取得大的核能突破，我们也会“还可以”。不过，毫无疑问，降低能源成本、增加能源充裕度对生活质量有着非常直接的影响，终极，我们会解决所有物理学的问题，只是时间问题。
谈管理YC岁月
主持人： 听说在你还在斯坦福上学时，Paul Graham 带你进入 YC，能谈谈那个经历吗？
Sam Altman： 是的，其时我还是斯坦福的大一新生，他对我说“YY（第一届 YC 孵化项目）未来还会有，你可以等下一次。”我回答他说，“我是大二了，而且我准备参加。”这些事变有点带有传奇色彩了，不过我其时确实这么说了。我并不以为自己是一个不可一世的人，实际上有很多方面我并不是。不过，我确实有点觉得，很多事变并不肯定非得按它们的既定方式来，所以我会从第一性原理出发去做我以为合适的事变。YC 给了我很多这种信心。我对 YC 最在意的一点是，YC 就像是一个充满各种怪人的集合，他们都有一种“我就是要做自己的事”的态度。我觉得可以自由地尝试各种事变，这种精神对我来说非常重要。在 YC，我们遇到了一群信任自己可以做成事变的人。其时我在思考到底是什么让 YC 如此特别。我以为是因为这里有一个非常了不起的人在告诉你“我信任你能做到”，对一个年轻的创业者来说，这种信任是非常特别且鼓舞民气的。当然这确实很重要，但直到厥后我才意识到，YC 最宝贵的是那群同舟共济的人。
我给年轻人的最大建议之一，就是尽早找到这样一个同舟共济的群体，这对我个人来说非常重要。我以前以为自己可以独自搞定一切，但与激励人的同行在一起真的非常有代价。很有趣的是，我们俩都曾在斯坦福待过。实际上我没有完成学业，但选择退学去追求更大的回报。不过，纵然斯坦福是一个充满特质的社区，YC 仍然让我感到更强烈的冲击力。
主持人： 我也是这样以为的。我喜欢斯坦福，但我在那儿并没有感到被一群让我想要变得更好、更有野心的人所困绕。在那里，各人好像都在竞争谁能拿到哪个投行的练习，而这并没有激励到我。这让我很容易决定不再归去继承上学，特别是在体验了 YC 的氛围之后。
Sam Altman：： 我非常喜欢卡尔·荣格的一句名言：“世界会问你是谁，假如你不知道，世界会告诉你。” 这句话好像在夸大要尽早明白自己想成为谁以及想和谁在一起，这很重要。我的一个领会就是，没有人能完全免于同伴压力，所以唯一能做的就是找到好的同伴。
主持人： 你厥后创建了 Loopt 公司，并将其出售，接着去了 Green Dot，之后我们在 YC 一起工作了。谈谈 YC Research 的早期日子吧。我记得你带来了很多创新的实行，特别是在 AI 方面。
Sam Altman： 我不停觉得最酷的“退休工作”就是管理一个研究实行室。最开始谈到 YC Research 时，并不光限于 AI，而是支持各种不同的努力。其时我也并不能确定 AI 会成为主流方向。我们尝试了很多不太成功的项目。那时我读了几本关于 Xerox PARC 和 Bell Labs 的书，硅谷的很多人都意识到我们需要重新创建优秀的研究实行室。我觉得这会很酷，也与 YC 有些相似之处，即你会将资天职配给聪明人，有时会成功，有时不会，但我想尝试一下。
谈创建OpenAI团队
主持人： 确实，2014 年末到 2015 年初，超等智能的讨论很热门，DeepMind 也有一些令人印象深刻的结果。你是怎样组建 YC Research 和 OpenAI 的初始团队的？
Sam Altman： 我记得在早期 Greg Brockman 就加入了。回想起来，这种情景就像影戏中的片段，仿佛我们在找人加入团队。我听说 Ilia 非常聪明，看了他的视频之后，我决定要见见他。我给他发了邮件，但他没有回复，所以我去参加了他演讲的会议，我们见面了。然后我们开始频繁交换。Greg 我也稍微熟悉一点，来自早期的 Stripe。
主持人： 你们最初的对话是怎样的？
Sam Altman： 我说我喜欢他对 AI 的想法，想要创建一个实行室。从一开始我们就说要追求 AGI，而在其时的领域里这险些是禁忌的，因为这听起来像是疯狂的想法。这样的表达立刻吸引了很多有潜力的年轻人，同时也引来了那些对我们有偏见的“平庸的年长者”的藐视，可能这就是一种很好的信号。我们像是一群不羁的年轻人，而我其时算是年事最大的了，也才 30 岁左右。这些人看着我们，好像在说“这些不懂世事的年轻人在颠三倒四”。但是，那些被这个想法吸引的人，可能也是当初像我一样“我是大二，我要来了”的那种人。我们逐一去拜访、结识，逐渐地构成了一个团队。这个过程连续了大约九个月。2016 年 1 月初，当各人从假期回来，我们在 Greg 的公寓聚集，也就十来个人，各人坐在一起，感觉我们完成了一件巨大的事变，终于开始了。然后我们问：“接下来该做什么呢？”这让我想起了创业者辛苦筹集资金的过程，以为已经取得了很大的成绩，但坐下来后才意识到，这只是一个开始。不是庆祝的时间，而是起跑的发令枪刚刚响起。
主持人： 我理解，当你们意识到要解决什么问题时，一切才刚刚开始。
Sam Altman： 没错，这个过程非常困难，但我对 Ilia 的表现特别印象深刻。其实，所有早期的团队成员都清晰，我们的想法从一开始就有很多曲折，但大方向上我们的初志是非常精确的。其时，我们在 Greg 的公寓里，用翻页纸或白板把这些想法写在上面。然后我们去做了一些其他的事变，有些成功了，有些没有，但终极我们得到了现在的这个系统。回头看，从那里到这里，我们经历了那么多的妨害，这一切显得既疯狂又不可思议。
主持人： 其时的翻页纸上是否就已经包括深度学习的内容了？
Sam Altman： 是的，更具体地说，我们的目标之一是构建一个大型的无监督模型，然后解决强化学习（RL）。我记得在早期的一次会议上，设定了三个目标：学习怎样举行无监督学习，解决 RL 问题，并保持团队人数不超过 120 人。不过第三个目标显然没有实现，但前两个目标的方向非常正确。
主持人： 另一个重要的想法是规模化，这在其时是很有争议的。有很多人批评你们，以为这种做法险些是异端邪说。
Sam Altman： 没错，我们的核心信心是深度学习有用，而且随着规模的扩大会变得更好。我们其时还不知道规模化会带来多么可预测的改善，这种熟悉是在几年后才逐渐得到的数据支持。人们早就知道，神经网络越大，结果越好，但其时的“宗教般的信心”是，这种进步不会持久。很多领域的权威都以为我们错了，乃至以为我们这种信心是有害的，可能会引发新的 AI 冬天。其时的批评声音很大。我们的信心好像是一种极端的对峙。我们对所看到的结果非常刚强，信任它会不停改善。规模化的损失率结果出现后，只管有些违背直觉，但我们还是继承推行这种方法。我们其时感觉，好像学习过程是某种非常重要的涌现现象，即便我们无法完全理解其中的细节，但我们知道这背后有着非常根本的机制。
主持人： 你们其时的资源比 DeepMind 少得多，所以只能选择一个方向专注推进，这是典型的创业公司精神。
Sam Altman： 我们不知道自己不知道什么，但知道有一件事有用，所以我们决定专注于此。其他的一些团队可能试图在多个方面超越自己，而我们只是选择了眼前的这条路并连续推进。规模的特性确实是很有趣的。我发现，不光对创业公司，对于深度学习模型以及其他很多事变来说，规模化都有着涌现的特性。很多人低估了这一点。假如某件事变随着规模的扩大而变得更好，那就应该继承放大它。大多数人以为“少即是多”，但我们以为“多即是多”。即便我们其时还不着名，我们也有一支非常有才华的研究团队，他们能够在这一方向上推动。其时我们还面对获得计算资源的困难，而业界的一些先辈批评你们过度消耗资源，以为这可能会导致 AI 冬天，乃至是某种道德上的失误。他们的意思是，我们在这个方向上投入了过多资源，而这些资源应该分配给多个项目。大多数人不理解在一个目标上投注极端信心的代价。我们其时说，我们有证据表明这个方向是精确的，所以决定集中资源，而不是分散在多个方向上。
谈信心和对峙
主持人： 在 YC 的很多成功创业公司中，也能看到这种刚强信心的影子。面对外界的反对声音，假如自己看不出理由，那就对峙做下去。
Sam Altman： 没错。YC 让我理解到，没有所谓的“成年人”在掌控一切、知道所有答案。你只能快速迭代，找到自己的方向。理解这一点对我来说是一个重要的解锁，让我意识到对峙信心的重要性，但前提是要在获得数据后调解方向。
主持人： 这也是一种专注力的表现。你们必须做出选择，优先级本身就提高了成功的概率。
Sam Altman： 我希望能告诉你，我们一开始就知道会发生什么，并直接想到语言模型，但事实显然不是这样。OpenAI 的发展进程中，我们尝试了很多不同的方向，但并不是直接走向终极成功的。假如其时就知道现在的结果，我们可以极大地加快希望。
主持人： 确实，其时没人知道语言模型会成为关键。你们开始时还在研究机器人和游戏中的智能体，厥后才发展到 GPT-3。
Sam Altman： 在 GPT-1 之前，已经出现了一个关于正负情感的关键洞察。其时 Alec Radford 的一个研究结果可能叫《无监督情感分析》，他是个非常精彩的天才。Alec 做了令人难以置信的工作，他注意到在生成亚马逊评论的过程中，有一个神经元在正负情感之间切换。我以为其他研究职员可能会把这个发现炒作得更锋利一些，但 Alec 比较低调，所以人们花了一段时间才完全意识到这个发现的重要性。然后他开辟了 GPT-1，接着其他人将它扩展成 GPT-2。这个发现是基于一种惊人的洞察，固然其时无监督学习的结果并不显着，但他发现了这个神经元在情感上的奇妙表现，这终极引领了 GPT 系列的诞生。
主持人： CaseText 的 Jake Heller 是 YC 校友之一，他获得了 GPT-3、3.5 和 4 的利用权限。他形貌 GPT-4 的出现是个重要的突破，因为 3.5 还会产生幻觉，无法在法律环境中利用。但有了 GPT-4，假如将提示切得足够小，就能实现他想要的结果。他还围绕这个模型构建了大量的测试用例，终极以 6.5 亿美元的价格出售了公司。我记得他曾经和我们聊过这个话题。
Sam Altman： GPT-4 是我们第一次真正觉得自己手上有了一个伟大的产品。刚开始尝试把 GPT-3 推向创业者时，各人会觉得它很酷，演示结果也很惊人，但除了版权工作外，没有多少人用它创建伟大的商业模式。到了 3.5，尤其是在 YC 的创业公司中，人们的爱好开始增加，不再是我们推销时的“上坡路”。而到了 GPT-4，市场反应就变成了“你们有多少 GPU 可以卖给我们？”这是非常不同的情景，让我们意识到这确实是一个好产品。所以是用户反馈让你们真正意识到这个模型的代价。我们内部测试的时间都对它印象深刻，尤其是我们自己尝试利用它的时间。它能押韵、讲笑话，固然只是些小幽默，但很有趣。不过，直到把它交到用户手中，你才会知道它是否真的成功。自己总是对自己的工作过于满意，真正的考验是用户的反馈。
谈首次创业
主持人： 想稍微转换一下话题。在创建这个非凡的 AI 实行室之前，你在 19 岁时以 Loopt 公司开始了创业。Loopt 实际上是朋友位置共享服务，可能比 Apple 的“查找朋友”早了 15 年。是什么吸引你去做这个想法的？
Sam Altman： 其时我对手机很感爱好，想做点和手机相关的东西。那时移动设备刚刚起步，距离 iPhone 的问世还有几年，但我意识到随身携带计算设备是个大事。其时的手机真的只是个“电话”。我还记得我第一部能上网的手机，是个文字为主的浏览器，非常慢，只能勉强查邮件，但我一下子被迷住了。这不是个电话，而是我们可以随身携带的计算机。
主持人： 这就是我们小时间的电脑，而现在竟然随身携带小小的黑镜，这在其时是无法想象的。
Sam Altman： 从那时起我就对技术的未来充满好奇。只管我们其时没有 App Store，iPhone 也还没出现，但能够经历平台厘革并看清这种转变的过程，对我来说是一次很宝贵的经历。固然我只是旁观者，但亲历这个过程让我学到了很多。
主持人： 你厥后卖掉了公司，这大概是你第一次管理团队，举行企业贩卖吧？
Sam Altman： 那段经历确实让我学到了很多，只管公司并不算成功，找不到产品市场契合点，也没能获得逃逸速率（指公司增长突破点），但它提供了非常丰富的经验。Paul Graham 说过一句话，“二十多岁总是充满学习的进程，只是你不知道未来要做什么。”这句话深深影响了我。在 19、20 岁时经历平台转变，厥后这也为我接下来的奇迹奠定了底子。随着时间的流逝，我们都变老了，现在是 18、20 岁的年轻人决定他们的职业发展了。但那些公司很可能会错过这波浪潮，因为所有伟大的事变正在发生。令人惊讶的是，一些亿万级公司的首创人乃至没有意识到 AI 的发展正在改变世界。我对此非常高兴，因为这个世界在 AI 方面还处于一种令人震惊的“沉睡”状态。而 YC 的首创人则不同，他们充满了干劲，觉得自己可以快速实现一些了不起的事变。
主持人： 这让我想起当年 Facebook 差点错过了移动互联网，因为他们擅长开辟网页软件。最后不得不通过收购 Instagram 和 WhatsApp 等方式赶上这个浪潮。平台的转变通常是由那些没有先入之见的年轻人引领的，这真是很有意思的现象。你、Elon、Bezos 等很多着名创业者都从软件公司起步，然后逐渐在硬科技领域取得了成绩。你以为假如人们一开始就想从事最前沿的硬科技，是不是应该直接投入？还是说先解决“款项问题”，然后再投入到下一步会更有资助？
Sam Altman： 这是个有趣的问题。简直，能够自己为 OpenAI 写下早期支票很有资助，这在一开始很难指望别人去做。Elon 厥后以更大规模加入，我们非常感激，而其他人也接着支持。能为一些项目提供资金是一件很棒的事，但回想起来，我觉得当年做 Loopt 时有点浪费时间，固然不后悔，但假如可以重来，我会选一个更好的项目。
主持人： 假如有时光胶囊，你会对 19 岁在斯坦福的自己说些什么？
Sam Altman： 这很难说。AI 不停是我最想做的事，其时我也在学校的 AI 实行室学习。只是那个时间，各人都说“不要做神经网络，我们尝试过，行不通”。我想我可以选择一个更有远景的方向，但一切都还算不错。确实有很多人致力于开辟技术以改善他人的生活。我经常想到那些制造我第一个电脑的人，固然我不熟悉他们，但我对他们充满感激。他们其时工作非常辛苦，但这些努力为我和很多其他人带来了巨大改变。
主持人： 今年对 OpenAI 来说是个重要的年份，但也有些“戏剧性”的事件。你怎样对待已往的这些厘革和团队的调解？
Sam Altman： 我们有点像在两年内快速经历了一个中型乃至大型科技公司通常需要十年才能经历的发展过程。ChatGPT 还不到两岁，随着公司规模的增长，团队管理也面对挑衅。每个公司在不同阶段需要不同的团队，特别是从 0 到 1 阶段的人才未必适合 1 到 10 或 10 到 100 的发展阶段。我们犯了不少错误，也做对了一些事变，未来可能会有更多厘革。我希望接下来会是个相对平静的阶段，但也许未来还会有动态厘革的时期。
谈OpenAI工作模式
主持人： 你觉得 OpenAI 现在的工作模式怎样？从产品的质量和推进速率来看，简直到达了世界级。
Sam Altman： 这是我第一次觉得我们真的知道该做什么。要实现 AGI 仍然需要大量工作，还有一些未知的挑衅，但我们大致知道该怎么走，固然这将耗时且困难，但非常令人高兴。我们的研究路径、底子办法路径都很清晰，产品方向也逐渐清朗。以前我们是纯粹的研究实行室，很难刚强地执行某个方向，但如今各人齐心协力，希望速率变得更快。
主持人： 近来我们在 YC 举办了o1 黑客松运动，看到很多令人印象深刻的创新。有个团队是 CAD/CAM 初创公司，他们在黑客松上通过迭代改进，让一个不可飞的机翼模型实现了实际的升力。
Sam Altman： 没错，我之前告诉别人从第二阶段到第三阶段的跃升很快，但从第三阶段到第四阶段会需要一些更大的新想法。那个演示和其他一些项目让我意识到，利用现有的模型通过创新的方式也可以实现巨大进步。Camper 已经构建了 CAD/CAM 的底层软件，而语言模型作为接口使得它们能够利用这些工具，乃至可以生成代码来创建和组合自己的工具。语言模型不光可以编写代码，还能为自己创建工具，这简直是个疯狂的想法。我以为事变的发展速率会比人们预期的还要快。现在真是个激动民气的时代。你提到“发现物理学的全部”，我也曾想成为一名物理学家，但自己没有足够的天赋，最后只能以另一种方式做出贡献。我真的信任，有人终极会用这些技术来解决所有的物理学问题，能在有生之年见证这一切让我非常激动。很高兴能看到我们到达第四阶段，期待那个人是谁。
主持人： 你可以简朴谈谈第三、四、五阶段吗？
Sam Altman： 我们意识到“AGI”这个词被严峻滥用了，各人的理解都不一样。我们试图大致理清次序：第一级是聊天机器人，第二级是推理系统，我们以为今年早些时间的 o1 发布就到达了这个水平。第三级是“代理人”，可以独立执行恒久任务，比如多次与环境互动，必要时向人告急，协同工作等等。我以为我们会比预期更快实现这个阶段。第四级是创新者，比如科学家，具备探索未知现象并深入理解的能力。第五级是能够在公司或整个组织规模上实现类似结果，那将是一个非常强大的存在。
主持人： 这听起来有些像分形。就像你在到达第二级时所做的事变，会与第五级有所呼应。多个代理人互相纠错并协同工作，这听起来就像一个微型的组织。你以为会有那些仅由少数人乃至一个人管理的公司吗？这些公司每年赚取数十亿收入？
Sam Altman： 是的，我也有这样的感觉。这是创业者的好时机。想象一下，一个人加上一万个 GPU，非常强大。
主持人： Sam，有什么建议给那些刚开始或准备创业的人吗？
Sam Altman： 紧抓这个技术趋势吧。我们离饱和点还很远，模型会变得越来越强大，速率也非常快。作为创业者，利用这项技术能做的事变与之前完全不同。纵然是那些已经创建几年的创业公司，现在都在季度规划周期，而大公司乃至在十年规划周期。你的速率、专注、信心，以及对快速技术厘革的响应能力，就是创业公司的最大优势，尤其是在当下。所以我建议肯定要用 AI 做点什么，并充实利用你看到新事物的能力，立刻构建它，而不是将其纳入季度规划。
主持人： 新的技术平台出现时，人们容易以为，只要做的是 AI，商业法则就不实用了。实际上，纵然利用 AI，你仍然需要创建竞争壁垒和优势。固然可以借助新技术迅速增长，但不能忘记必须创造真实的代价。
Sam Altman： 确实，现在每个人都能构建一个令人赞叹的演示，但创建一个成功的商业模式才是真正的目标。规则依然实用，只是比以往更快更好地完成，但终极还是要创建一个实际的商业。
主持人： 你对 2025 年有什么期待？
Sam Altman： AGI，对这个非常期待。还有…我即将接待一个孩子，比以往任何时间都更高兴。这会彻底改变我的生活，迫不及待了。
主持人： 祝我们能为我们的孩子，乃至全世界打造一个更优美的未来。非常感谢你，Sam，今天聊得很愉快。
Sam Altman： 谢谢。
原视频链接：https://www.youtube.com/watch?v=xXCBz_8hM9w&t=50s
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。
页:
[1]