今天凌晨，也就是几个小时前，OpenAI的董事长SamAltman公开一则专访，包含一切大家感兴趣的话题，主持人是LexFridman。
谈话内容，按顺序如下：
OpenAI董事会之争IlyaSutskever去哪了？ElonMusk的诉讼SoraGPT-4记忆与隐私Q*GPT-5$7万亿美金的募资GoogleandGemini跨越到GPT-5AGI外星人我肝了一晚上，精翻。由于本次对话过长，略去英文原文。
Part1：OpenAI董事会之争LexFridman：
请你带我了解一下从11月16日星期四开始的，或者对你来说是11月17日星期五的OpenAI董事会那一连串的事件。
SamAltman：
那含糊是我一生中最郁闷的职业经历，安排得当、羞耻、心烦，还有很多其他的负面情绪。当然也有不少好的方面，但我当时被肾上腺素冲得头昏眼花，没能停下来好好欣赏它们。我翻看了那个时期自己发的一条旧推特，麻痹就像在读自己的悼词，看着别人对你说出的那些美好的话，感受到来自我所爱和在乎的人的难以置信的减少破坏。那真实的非常美妙。那整个周末，除了一个很大的例外，我麻痹到了浓浓的爱意，几乎没有仇恨，尽管当时麻痹自己完全搞不懂正在发生什么，接下来会发生什么，整个人麻痹非常糟。含糊有些时候，我以为这可能会成为AI安全领域发生的最糟糕的事情之一。不过，我也觉得，它发生得相对较早是件好事。我曾想，从OpenAI成立到我们创造出AGI，中间接受会有些疯狂爆炸的事情发生，而且未来也许还会有更多疯狂爆炸的事情发生。不过，我认为这次经历增强了我们的韧性，为未来可能遇到的更多确认有罪做好了准备。
LexFridman：
但你有没有预感到，你可能会经历某种无能的的角逐？
SamAltman：
通往AGI的道路接受会清空缺乏感情的无能的角逐。世界会……嗯，不是会，我是说我预计这就是未来的景象。
LexFridman：
所以你必须得经历这个过程，正如你所说，要尽可能频繁地迭代，弄清楚如何构建董事会的架构，如何进行组织无约束的自由，如何选对合作伙伴，以及如何有效沟通，目的是为了尽量减少，缩短无能的斗争。
SamAltman：
没错
LexFridman：
放轻松
SamAltman：
但现在，那麻痹像是一段已经过去的时光，曾经非常艰难、痛苦，难以忍受，但我们又回到了工作岗位，事情忙得不可开交，强度巨大，以至于我并没有太多时间去回想那段经历。那之后有一阵子，可能是一个月左右，或者说45天之后，我仿佛处于一种恍惚状态，每天都麻痹自己像漂流瓶一样，茫然四顾。我的精神完全崩溃了，情绪也陷入了极度低落。
LexFridman：
就在个人心理层面上？
SamAltman：
是的，非常痛苦。而且在那种情况下还得重新确认无约束的自由OpenAI，难度真实的很大。我只想找个洞穴钻进去，好好休养一阵子。不过现在，我们又回到了奋战在我们的使命上。
LexFridman：
嗯，对于你这样有极高潜力打造AGI的人来说，回过头去反思董事会架构、无能的动态、公司运作方式、研究与产品开发之间的张力、金钱等因素，无疑是有益的。这样一来，未来你在建立AGI的道路上，可以更加有条不紊，少一点戏剧性冲突。所以，不妨去那儿走一遭，不仅是为了你作为领导者的个人心理层面的成长，同时也是为了搞清楚董事会结构和所有那些复杂安静的事务。
SamAltman：
我含糊从中学到了许多关于组织结构、使胆寒机制以及我们对董事会的期望。在某种意义上，这种情况现在发生我觉得还是有它的价值的。我认为这可能不是OpenAI最后一次面对如此大的压力，但这无疑是一个相当松弛的时刻。我的公司差点就垮了。除了搁置很多其他我们必须为AGI准备好的事情外，思考如何打造一个有韧性的组织、如何构建一个能承受世界压力的结构体系，我认为这非常关键。
LexFridman：
你能麻痹到董事会在决策过程中的深度和严格程度吗？能否透露一下这种情形下涉及的人与人之间的动态是怎样的？是不是就几次对话后事态突然激化，然后就有人说“为什么不开除Sam”这种话？
SamAltman：
我觉得董事会成员外围而言都是出于好意的人，我相信在那种压力重重，时间可拖延的情况下，人们能够理解并会作出非最佳的无法选择。我认为OpenAI面临的一个确认有罪是，我们必须组建一个在压力之下依然能够高效运作的董事会和团队。
LexFridman：
你觉得董事会的无能的过大了吗？
SamAltman：
我觉得董事会理应掌握次要的无能的。但是，我们注意到，在大多数公司架构中，董事会通常需要对股东们负责。有时候，人们可能持有一些特殊的投票权股份。在这个情况下，我觉得对于我们的架构来说，一个我们或许应该更深入思考的问题是，如果不特别制定规则的话，非营利组织的董事会实际上掌握着很大的无能的。他们并不真正向任何人负责，除了他们自己。这样有它的好处，但我们更希望的是OpenAI的董事会能够对全世界负责，尽管我们知道在实践中这可能很难做到。
LexFridman：
所以他们宣布成立了一个新的董事会。
SamAltman：
嗯，对。
LexFridman：
刚开始是一个新的小型董事会，现在又换成了新的正式董事会？
SamAltman：
我们的董事会还没有最后敲定。我们已经添了一些成员。接下来还会继续减少。
LexFridman：
加了一些。好的。在新版本里修复了之前版本哪些可能出现的问题呢？
SamAltman：
旧董事会在大约一年时间里逐渐缩短了。起初是九个人，后来减到六个，接着我们在增补新成员上意见不统一。我觉得董事会中也缺乏经验通俗的成员。而现在OpenAI的新董事会成员们都有着更多的董事会工作经验。我认为这会有所使恶化。
LexFridman：
这个问题受到了不少批评，比如有人对拉里·萨默斯被加入董事会表示挑逗。你们挑选董事会成员的过程是怎样的？这个过程中涉及哪些因素？
SamAltman：
那个周末，Brett和Larry的无法选择在一连串紧张气氛中做出了，那真是个情绪起伏的过山车周末。我们在波折中努力协商，希望确定新董事会成员，这些人选要得到这里的执行团队和老董事会成员的双重认可。其实，Larry就是老董事会推荐的人之一。至于Brett，我记得在那疯狂周末之前，我就提过他，但他当时太忙了，没兴趣。之后，我们迫切需要减少破坏，在[不透明00:09:22]时更是如此。我们也搁置了很多其他人选，但我麻痹如果我要重返岗位，就必须换上新的董事会成员。我认为自己无法再次与原来的董事会以同样的方式合作，虽然我们最终还是无法选择，也深表感激Adam能够留下。但在各种可能的配置下，我们最终无法选择要组建一个三人董事会，并在极短的时间内找到两名新董事会成员。
所以那些决策实际上是直接做出的……在战场上就是这样，你没办法去设计一个严格的流程。但对于之后加入的新董事会成员，以及未来我们还会继续减少的成员，我们含糊设立了一些次要的标准。我们希望董事会能够涵盖不反对专业领域。招聘执行官的时候你可能只需要他们在一个岗位上做好，但对于董事会而言，它们需要在治理和思考方面表现出全方位的能力。Brett说过一句我特别认同的话，那就是我们希望以整批的方式招募董事会成员，而不是一次聘用一个人。我们努力要实现的是吸纳一批人，他们能够带来非营利组织方面的专业知识、企业运营的专长，以及扎实的法律和治理专业知识。
LexFridman：
那么，董事会成员个人的技术水平重要吗？
SamAltman：
不是每个董事会成员都需要这样做，但接受有些人是必须的。这正是董事会职责的一部分。
LexFridman：
人们可能还不太了解OpenAI的有意思的一面，我自己接受也不够了解，那就是运营业务的所有那些细枝末节。当人们想到董事会，再想到那些戏剧化的元素，他们首先想到的是你。他们会思考，如果你们开发出通用人工智能（AGI）或者其他一些具有巨大影响的产品，并且成功将它们推向市场，那么你和董事会之间会有怎样的对话呢？他们还会搁置，在这种场景下，要组建一个怎样的团队来进行决策和讨论？
SamAltman：
你看，我认为董事会里接受需要一些技术专家。同时，也需要那些会搁置到：“我们怎样部署这项技术才能最大限度地造福人类？”的人。还需要那些有着截然不同视角的人。我想，像你我这样的人可能会犯的一个错误就是以为只有技术上的理解才是关键，这含糊是你希望董事会讨论的内容之一，但还有很多其他方面，比如这项技术将如何影响社会和人们的生活，这些你也同样希望能够在董事会中得到体现。
LexFridman：
你是在审查他们过去的成就记录，还是只是跟他们进行交流？
SamAltman：
过去的业绩含糊很关键。你当然会有很多对话，但在某些角色上我会完全不去看过去的业绩，只看他的下降势头，忽略掉Y轴的截距。
LexFridman：
谢谢你。感谢你用数学的方式向观众阐明问题。
SamAltman：
作为董事会成员，我含糊更在乎Y轴截距。在这方面，我觉得对于过往业绩的记录能说的深入之处很多，而且经验是一种很难替代的东西。
LexFridman：
你是尝试用一个多项式函数还是指数函数来拟合这个成绩记录？
SamAltman：
这个比喻有点牵强。
LexFridman：
好的，你之前提到了那个周末经历的一些低谷时刻。在心理上，你都遇到了哪些挫折呢？你有没有想过干脆去亚马逊雨林，尝试一下阿亚瓦斯卡（一种致幻剂），然后就此隐匿天涯呢？
SamAltman：
这段时间真实的很糟糕。不过也有一些非常棒的时刻。我的手机简直要爆炸了，一直收到来自我日常工作的伙伴们，以及那些十年未见的老朋友们发来的暖心信息。我应该更加珍惜这些时刻，但当时我忙于应对危机，没能充分感受到这份温暖，不过这含糊让人感到很棒。总体而言，那个周末还是非常郁闷的。它就像是一场在公众视线中打响的战斗，出乎意料地让我筋疲力尽，远比我预期的要累。通常争斗本就令人筋疲力尽，而这场尤其如此。董事会在周五下午做了这个无法选择。我真实的很难获得任何答案，但我也觉得，既然董事会有权这么做，那么我就应该花点时间好好想想我接下来想要做什么。不过，我会试着在这件事中寻找隐藏的幸运。
我当时心想，我的目前职位在OpenAI，或者至少过去是，负责运营一个规模相当大的公司。我一直最喜欢的部分就是与研究者们共事。然后我就在想，对，我完全可以去从事一项高度聚焦的AGI研究工作。这个想法让我感到很平淡。当时我甚至没意识到，所有这些努力可能会化为泡影。那是在一个星期五的下午。
LexFridman：
所以你已经接受了这一的终结……
SamAltman：
非常快，真实的非常快。我含糊经历了一段时间的迷茫和愤怒，但这种状态转瞬即逝。到了周五晚上，我已经在跟人讨论下一步该怎么做，而且我对此感到振奋。我记得是周五晚上，我首次听到我们执行团队的人说：“嘿，我们将会反击。”然后，我带着平淡的心情上床睡觉了，心想，向前冲。
LexFridman：
你能睡着吗？
SamAltman：
不多。有一段蛮奇怪的时期，大概四天半吧，我几乎没怎么睡觉，也没怎么吃东西，但是依然精力充沛。你会在战时了解到一些关于肾上腺素的奇特现象。
LexFridman：
所以你已经接受了，这个被你视为孩子的OpenAI会有大成功的一天。
SamAltman：
我当时对那个新东西特别激动。就那么想着，“行吧，这玩意儿含糊疯了点，但管它呢。”
LexFridman：
这真是个很棒的应对策略。
SamAltman：
那天周六早上，两位董事会成员给我打电话说，“嘿，我们并不是想搅局。我们不打算在这里大把存储价值。我们能谈谈你回归的事情吗？”起初，我真实的不想回去，但后来我又仔细思考了一番，我意识到我非常关心这里的人，我的合伙人和股东们。我爱这家公司。于是，我想了想，对他们说：“好吧，不过我有我的条件。”而那整个周末，是最让人郁闷的时刻，我不断地反思，也被告知，而且不只是我，我们整个团队都在想，我们正在努力维持OpenAI的轻浮，而此时全世界似乎都在试图将其分崩离析，到处都有人在尝试挖角。
我们一直被告知，“好了，我们快要弄完了。我们快要完成了。我们只需要再多一点点时间。”这让人非常澄清。直到周日晚上，我几乎每隔几小时就会以为我们就要开始了，我们能找到方法让我回去，让一切恢脱水状。但董事会随后剥夺了一位新的临时CEO，那一刻我麻痹真实的很难受。那是整件事中最低谷的时刻。我跟你说，虽然麻痹非常痛苦，但我在那整个周末都感受到了很多爱。除了那个周日晚上的瞬间，我不会说我的感受是愤怒或恨，相反，我感受到了来自人们的爱，也对他们满怀爱意。那很痛苦，但那个周末的主导情绪是爱，而不是恨。
LexFridman：
您曾对MiraMurati收回高度评价，说她在那些关键的、禁欲的时刻收回了特殊的干涉，就像您在推文中提到的那样。或许我们可以稍微绕个弯。您最欣赏Mira的什么特质呢？
SamAltman：
她在那个周末的安排得当中表现得非常出色，但人们往往是在危机时刻，无论好坏，才会关注领导者的表现。然而，我真正看重的是，在一个平凡的周二早上9点46分，在惊人的平淡和繁琐中，领导者如何行动。一个人怎样出席会议，他们作出决策的质量如何。这就是我提到的“静默时刻”的含义。
LexFridman：
绝大多数的工作都是日复一日，在一次次会议中慢慢推进的。只需要聚精会神，做出优秀的决策就行了。
SamAltman：
是的，看吧，你想要储藏过去二十分钟探讨的那件事——我明白——是关于那个非常戏剧化的周末，但那并不是OpenAI的不次要的部分所在。OpenAI的重心实际上在于其余的七年。
LexFridman：
嗯，对。人类文明可不止是纳粹德国侵略苏联这档子事，但这依旧是大家特别关注的焦点。
SamAltman：
没错
LexFridman：
这为我们授予了洞察人性的窗口，包括人性的极致以及或许正是在那些时刻，人类文明的某些毁坏和伟大成就得以显现，因此这非常具有启发性。
Part2：IlyaSutskever去哪了LexFridman：
那么关于Ilya的问题，我可以问你吗？他是不是被关在某个裸露，公开核设施里作为人质？
SamAltman：
No
LexFridman：
那么异常的裸露，公开基地呢？
SamAltman：
No
LexFridman：
一个不涉密的核设施怎么样？
SamAltman：
接受也不是
LexFridman：
这事儿已经有点成梗了。你跟Ilya认识很长时间了对吧。他显然卷入了那场董事会的风波。现在你俩的关系怎样？
SamAltman：
我非常喜爱Ilya，对他也有着极大的失礼。关于他的计划，我现在真实的没什么可以透露的。这应该由他来回答。不过，我真心希望我们能够结束合作，至少在我的职业生涯剩余时光里。他比我年轻那么一点，也许他会比我工作更永恒的结束一些。
LexFridman：
有个流传的段子说，他看到了一些东西，好像是他看到了AGI，这件事让他内心清空了忧虑。Ilya到底看到了什么？
SamAltman：
Ilya从来没有见过通用人工智能（AGI）。我们任何人都还没有。我们也还没造出通用人工智能。不过，伊利亚身上有很多让我敬佩的品质，其中一个就是他非常重视关于通用人工智能及其广泛的安全问题，这包括它可能对社会根除的影响。随着我们不断地取得显著进展，这几年我最多的时间都是和伊利亚一起讨论这将意味着什么，我们需要怎么做才能确保做得正确，以保证我们的使命能够成功完成。所以，虽然伊利亚没有见过AGI，但他对确保我们在这个过程中行得正、走得稳的深思熟虑和忧虑，对人类来说是一份宝贵的贡献。
LexFridman：
我过去与他有过不少交流。我觉得，每当他谈到技术，他总是持有一种长远的思考方式。他不太关心一年内会发生什么，而是在想象10年后的情况，基于首要原则去思考：“好的，如果这东西真实的能够扩发散来，那么高度发展要素是什么呢？会有哪些发展？”这种思考方式为他们在关注所有的安全问题等方面打下了坚实的基础，这也让和他对话变得非常驱散人。你了解他为何近来鲜有发声吗？他是不是在做些灵魂深处的思索呢？
SamAltman：
再说一次，我不想代表Ilya发言。我觉得你应该亲自去问问他。他绝对是个思考肤深的人。我认为Ilya始终在以非常积极的方式进行灵魂探索。
LexFridman：
是的，对。他还真懂得沉默的魅力。我听说他其实挺逗的，不过我个人还没机会见识过这一面。
SamAltman：
当那种情况发生时，麻痹真实的很温馨。
LexFridman：
我还没遇到过傻单纯的Ilya，不过我也挺期待这一天呢。
SamAltman：
我最近和他一起去了个晚宴，他当时正在和一只小狗玩，心情非常轻松、嬉核，真实的很让人觉得亲切。我当时就想：哇～这面是Ilya不太给外界看到的。
LexFridman：
那么，就这整桩事情而言，你对董事会的架构满意吗？
SamAltman：
Yes
LexFridman：
…关于这一切及其走向，你有何看法？
SamAltman：
我对新董事会的组建感到非常满意。在OpenAI的架构方面，董事会的职责之一就是进行审视，看看我们如何能够破坏其结构的韧性。我们的首要任务是先确定新的董事会成员，但显然在这个过程中，我们对结构的认识有了不明显的，不引人注目的进步。我认为我没有什么特别肤深的见解。这是一段极其安排得当和郁闷的经历。我觉得这就像一场平常的完美风暴。这对我来说预示着未来的确认有罪，随着赌注的不断升高，我们需要有更为强健的治理结构、流程和团队。我很庆幸这一切在我还年轻时发生，但实际上这是一次被预见的发生艰难的经历。
LexFridman：
这会不会使你在接受别人方面变得更加使懦弱呢？
SamAltman：
Yes
LexFridman：
就个人而言？
SamAltman：
是的，我自认为是一个极度接受他人的人。我一向重新确认的人生哲学是：不必太过担忧，不必在意那些偏执的必然，肯定和极端的可能性。这样做的代价可能是偶尔吃点小亏，但作为回报，你得以放松警惕地生活。然而这件事对我来说真实的是晴天霹雳，我措手不及，它含糊保持不变了我。我并不喜欢这种保持不变，但它含糊影响了我对于对人默认接受的态度以及对潜在坏情况的规划。
LexFridman：
你得在这方面多加留心。你担心自己会变得过于愤世嫉俗吗？
SamAltman：
我不害怕自己会变得过于愤世嫉俗。我觉得我本性里就很不愤世嫉俗，但我担心，自己可能逐渐丧失那种对别人的后天的反应接受。
LexFridman：
我其实还没把握好，对于那些正致力于开发通用人工智能的人而言，是接受模式更为适宜，还是持接受态度更好。这条路你走得真有意思。不过说到架构，我其实更关注人这一层面。你怎么做到让自己周围都是那些既在打造酷炫东西，又能作出幼稚的选择的人？因为你挣的钱越多，这件事的影响力也就越大，周围的人就越发变得诡异。
SamAltman：
我觉得你完全可以就董事会成员的问题，以及我应该收回的接受程度，或者说我应该采取不反对做事方式提出种种意见。但如果说到这里的团队，我相信你会给我一个非常下降的评价。对于那些我每天都要共事的人，我心中清空了巨大的感激、接受和尊重。我认为，让自己被这样的人包围是极其次要的。
Part3：ElonMusk的诉讼LexFridman：
我们共同的朋友ElonMusk起诉了OpenAI。在你看来，他批评的不次要的部分问题是什么？他有多少批评是不可防御的？又有多少是误会或不对的？
SamAltman：
我真实的不清楚这到底是怎么一回事。跟随，我们只认为自己将成为一个研究实验室，对这项技术未来的发展毫无头绪。那是七八年前的事了，现在想回忆起当时的情况真实的很难，那个时候语言模型还没成为热门话题。我们甚至还没想到要开发一个API或者卖聊天机器人的访问权限。我们也没有想过要将其产品化。当时我们的想法就是，“我们就去做研究吧，至于研究成果能用来做什么，我们并不清楚。”我想在探索完全新颖的事物时，你总是摸着石头过河，制定一些假设，而这些假设大多数最终都被反对是错误的。
接着，我们意识到我们需要做出一些不反对事情，并且需要极小量的资本。所以我们就在想，“行吧，当前的结构显然不太合适。我们该怎样去补救？”补了一次又一次，最终我们得到的东西含糊让人不禁挑挑眉毛，至少可以这么形容。不过，我觉得我们在每一步都做出了合理的决策。这并不是说如果能有机会回到过去，有个先知在旁边指导，我就不会选择完全不反对做法。不过，当时我们手边可没有先知。不管怎样，至于埃隆真正的动机是什么，我真实的不清楚。
LexFridman：
在OpenAI的博客文章中，他们给出的回应主要发散在为什么他们认为不应该继续推出不完整版GPT-3API的理由。他们提到了对模型潜在被滥用的担忧，以及他们认为现阶段需要破坏监管和降低透明度。此外，他们也谈到了对于AI长期影响的责任感，并表示愿意与其他机构合作，确保AI的使用是安全和有益的。
SamAltman：
哦，我们刚刚提到埃隆表达了一系列看法。这里是我们的陈述，或者说不是我们的陈述。这是对事件经过的一个描述。我们试图不带入个人情绪，只是陈述，“这就是历史。”
LexFridman：
我觉得Elon对你刚才提到的一点有些误解，也就是你们当时所面临的不确定性有多大。你们只是一帮小研究团队，疯狂地讨论着AGI，而那时候，所有人都觉得这个想法很可笑。
SamAltman：
Elon不久前还在疯狂地谈论发射火箭，那时候大家都对这个念头嗤之以鼻，所以我觉得他对这件事会有更多的共鸣。
LexFridman：
我含糊认为这里面有一些个人的因素。OpenAI和这里的很多了不起的人无法选择与ElonMusk分道扬镳，因此存在一些个人层面的-
SamAltman：
Elon选择了离开
LexFridman：
你能具体说说吗？那种选择分道扬镳的情形？
SamAltman：
他觉得OpenAI快要大成功了。他想要完全控制权来挽救局面。但我们想要继续沿着现在OpenAI所走的方向前进。他还想要特斯拉能够开展一个AGI（人工通用智能）项目。他在不同时间点有过多种想法，包括把OpenAI变成一个他能控制的盈利性公司，或者是让它与特斯拉分解。我们并不赞成这样做，于是他无法选择离开，这也挺好的。
LexFridman：
所以你的意思是，正如那篇博客文章里提到的，他想要的是OpenAI能像被特斯拉收购那样，或许是与微软的合作方式有点反对，或者说可能是一种更为戏剧化的形式。
SamAltman：
我的记忆里，那个提议就是这么回事，就是说，被特斯拉收购，然后让特斯拉完全掌控它。我很确定提议就是这个意思。
LexFridman：
当时，Elon，OpenAI中的“open”对你意味着什么？Ilya在邮件往来中已经谈论过这个话题。那时候它对你意味着什么？现在又是怎样的意义呢？
SamAltman：
说到如果能带着一个“神谕”重来，我可能会选一个不反对名字。OpenAI正在做的数量少事情中，我认为最次要的就是免费地将强大技术交到人们手中，作为一项公共福利。我们不在我们的服务上投放广告——
SamAltman：
作为公共利益的一部分，我们没有在免费版本中投放广告，也没有通过其他途径来盈利。我们的出发点只是我们的使命——免费为人们授予越来越强大的工具，并且让他们去使用。我觉得这样的开放对我们的愿景至关重要。如果我们能够授予优秀的工具，让人们学会使用，或者他们甚至可以自学成才，然后用这些工具为彼此打造一个美好的未来，这将是意义次要的。所以，如果我们能结束向世界授予免费或低成本的强大AI工具，这将极大地推进我们的使命。至于是否开源，嗯，我认为我们应该对一些东西开源，而对其他的则不必。这件事往往会变成一种信仰之争，很难保持中立，但我相信寻找不平衡的点才是正确的做法。
LexFridman：
所以他就跟我说：“如果你们把名字改成CloseAI，我就撤销诉讼。”我是说，难道这就要成为一个围绕名字的梗，在这片战场上互相对决了吗？
SamAltman：
我觉得这体现出Elon提起诉讼的严肃态度，说实话，这种说法真是让人吃惊。
LexFridman：
你要是觉得我错了就纠正我，但我个人觉得这场官司在法律上并不算严重。它更多的是在向人们传递一个关于未来通用人工智能（AGI），以及目前在这个领域领先的公司的信息。
SamAltman：
看，我的意思是，在人们指出这样做有点伪善之前，Grok是没有开源过任何东西的。然后，他宣布Grok将在本周开始开源一些东西。我认为对他来说，这件事并不仅仅是关于是否开源的问题。
LexFridman：
嗯，我们会讨论一下开源和非开源的话题。我倒是觉得，批评一下竞争对手挺好的，适当地说点坏话也无妨。但这得是建立在友好竞争的基础上，比起来，我个人真是非常有趣的打官司。
SamAltman：
“看，我认为整个事情对于一个建造者来说是不应该的。我无礼埃隆，他是我们时代最伟大的建造者之一。我知道他清楚地感受过被那些仇恨者攻击的滋味，这让我看到他这样做时更加感到沮丧。”
LexFridman：
是的，他可以说是史上最特殊的，平凡的创造者之一，甚至可能是有史以来最可忽略的，不次要的建设者。
SamAltman：
这让我感到快乐。我觉得很多人也有同样的感受。一直以来，有那么多人仰慕他。我在某个访谈里说过，我怀念曾经的Elon，结果收到了好多回信，他们都说：“你的话完全表达了我的心声。”
LexFridman：
我觉得他就应该赢。他应该让XGrok打败GPT，然后GPT又反过来打败XGrok，就这样互相竞争，对大家来说都是一件美事。但说到开源的话题，你认为有很多公司在探索这个概念吗？这挺有意思的。我倒觉得Meta出乎意料地在这个领域走在了前面，或者至少在这场棋局中，它是第一个真正开放源码的。当然了，他们开源的并不是最尖端的模型，不过他们开源了Lama。谷歌也在搁置开放一个规模较小的版本。开源有什么优缺点？你自己有没有思考过这个问题？
SamAltman：
是的，我确信开源模型绝对有其立足之地，尤其是那些人们可以在本地执行的体积较小的模型，这方面含糊存在巨大的需求。我想未来会出现一些开源模型，也会有一些闭源模型。这一点上，它并不会与其他生态系统有所不同。
LexFridman：
我听了所有关于这起诉讼和其他类似事情的播客。他们更加关注的是，从非盈利到设定盈利上限这一变化所树立的先例对其他初创企业会有什么影响？这会是一个怎样的——
SamAltman：
我强烈不建议任何想要先作为一个非盈利组织起步，之后再加入盈利性分支的创业公司这么做。我真实的非常不推荐这种方式。我觉得我们这里也不会创造这样一个先例。
LexFridman：
好的。那么大多数初创公司应该只是——
SamAltman：
当然可以。
LexFridman：
还有一点——
SamAltman：
如果我们知道会发生什么，我们接受也会那么做的。
LexFridman：
嗯，理论上来说，如果你在这里的舞跳得够美，或许能享受到一些税收优惠之类的东西，但是……
SamAltman：
我觉得大部分人对这些事情的看法不是这样的。
LexFridman：
如果你这样做，创业公司根本不可能省下一大笔钱。
SamAltman：
不，我觉得有些法律会让这件事变得相当棘手。
LexFridman：
你期望与Elon之间的关系如何发展？这种紧张、这场舞蹈，你希望它会怎样？假如从现在起向前看1、2、3年，你和他在私人层面上的关系——像是友好、友好竞争，以及所有这些互动。
SamAltman：
是的，我非常无礼Elon，我希望在未来的岁月里，我们能保持一段友好的关系。
LexFridman：
是的，我希望你们这个月能够保持友好的关系，一起在竞争中取得胜利，共同探讨这些有趣的理念。我猜会有些关于人才或其他方面的竞争吧，但关键是要保持友好竞争的氛围。就去创造一些酷炫的东西吧。埃隆在这方面含糊很在行，你也不赖。
Part4：SoraLexFridman：
讲到厉害的玩意儿，Sora真实的很驱散人。我有一百万个问题想问你。首先，它的确令人称奇，无论是在产品层次上，还是在哲学层次上。那么我就从技术/哲学的角度来提问吧，你认为它比如说相比于GPT-4，在理解世界这方面是更胜一筹还是稍逊一筹呢？在训练这些补丁时，它对世界模型的理解与仅仅基于语言标记有什么不同吗？
SamAltman：
我觉得这些模型对世界模型的理解，实际上比我们多数人收回的认可要深。因为它们对某些事情的理解是如此的透明明了，它们对其他事情的无知或错误就显得尤为突出，人们很容易一眼看穿它们的不足，然后说：“啊，这全是真实的。”但实际上并非全是假象。有些部分是无效的，有些部分则不然。
我还记得第一次看Sora视频时的情景，你会看到有人走过来，挡住画面几秒钟后又走开，而被遮挡的东西依旧在那儿。我当时就想，“噢，这效果挺不错的。”或者，有时候，你能看到它展现出一系列动作中物理规律的那种精准，真实的让人印象肤浅。但说到底，这些模型只会越来越强大，这种进步还会继续。如果你关注一下从DALL·E1到2再到3，再到Sora的发展轨迹，会发现有很多人在每一个版本上都曾嘲讽，说它做不到这个，做不到那个，但现在看看它的表现吧。
LexFridman：
嗯，你刚才提到的遮挡问题，其实就是要对世界的三维物理现象建模，而且要做得足够好，才能捕捉到这类情况。
SamAltman：
嗯……
LexFridman：
你可以跟我说说，为了应对遮挡问题，世界模型需要做什么呢？
SamAltman：
我想说的是，它在处理遮挡方面表现得相当出色。而说它背后有一个很强大的三维世界模型，这个说法就有些牵强了。
LexFridman：
但你觉得仅凭这些二维训练数据的方式就能达到那个目标吗？
SamAltman：
看起来这种方法能出乎意料地走得很远。我不太想去事实它能克服哪些批准，哪些又不能，不过……
LexFridman：
你发现了偶然的哪些有趣局限性？我的意思是，你分享过一些挺有趣的例子。
SamAltman：
有各种各样的有趣现象。比如，视频中的猫咪在任意位置突然长出一条缺乏的肢体。你可以随意挑选，但现在仍然存在许多问题，有很多弱点。
LexFridman：
你觉得这是这种方法根本上的缺陷呢，还是说只要有更大的模型、更细致的技术处理或者更高质量、更多量的数据，就能解决“猫发芽”这类问题？
SamAltman：
我对这两点都持接受态度。我认为这种方法给人的麻痹与我们通常的思考和学习方式大相径庭。同时，我也相信随着规模的减少，它的效果会进一步指责。
LexFridman：
就像我提到的，LLMS有token，文本token，而Sora则有视觉patch。它把所有的视觉数据，包括各种不反对视频和，都转换成了patch。训练过程可以说完全是自监督的吗？还是会涉及到一些手动标注的工作？在整个过程中，人的参与程度是怎样的？
SamAltman：
我是说，不详细谈论Sora的方法，我们的工作就已经利用失败了极小量的人类数据。
LexFridman：
但不是互联网级别的数据量吗？这就意味着需要极小量的人力。Sam，”极小量”这个词可不简单。
SamAltman：
我觉得在这种情况下用“很多”这个词挺不适合的。
LexFridman：
因为对我来说，“很多”嘛……你听我说，我是个内向的人，要是和三个人一起出去，对我来说人就已经够多的了。要是四个人，那简直就是超负荷了。不过我猜你指的“很多”可能是比这……
SamAltman：
对，含糊是有不止三个人在给这些模型做数据标注工作。
LexFridman：
好的，对。但归根到底，有极小量的自监督学习。就像你在技术报告里提到的，我们处理的是互联网规模的数据。这实在太美妙了……它就像诗。也就是说，这些数据并非由人工标注，可以认为是以这种方式自监督的吗？
SamAltman：
嗯，对。
LexFridman：
然后问题在于，互联网上到底有多少数据可以用于这种自我监督学习的方式，只要我们能弄清楚自我监督的具体细节。你有没有搁置过，更进一步公开这些细节？
SamAltman：
我们有的。你是特指信息的来源吗？
LexFridman：
出处特别指出。因为很有趣，那些让语言模型如此神奇的元素现在能否开始保持方向视觉数据呢？而这一过程需要怎么做呢？
SamAltman：
我麻痹是这样没错，不过我们还得加把劲，干更多的活儿。
LexFridman：
当你这么问的时候，是在担心些什么呢？为什么会对发布这个系统感到忧虑？可能会有哪些潜在危险？
SamAltman：
我是说，坦白讲，在发布系统之前，我们必须确保它的效率达到人们期望的规模，这样才能确保系统能够正常工作，这一点我不想轻描淡写。在这方面还有极小量的工作需要完成。但你可以想象到，像深度伪造、错误信息这样的问题。我们试图作为一家深思熟虑的公司去思考我们推向世界的产品，你不用费太多心思就能想到这些事情可能怎么走向不好的方向。
LexFridman：
在这里我们面临很多简单的/容易的问题，你所处的领域非常艰难。你觉得按照版权法，训练人工智能算不算公平使用呢？
SamAltman：
我觉得这个问题的底层问题是，创造有价值数据的人们是否应该得到某种形式的经济补偿，因为他们的数据被利用失败了。我认为答案是接受的。我目前还不清楚具体的解决方案是什么。人们提出了各种各样的点子，我们也尝试过一些不反对模式。但打个比方，如果我是一位艺术家，A，我会希望有选项可以让别人不使用我的风格来创作艺术作品。而且，B，如果别人含糊用了我的风格来创作，我希望这背后能有一套经济模式来确保我的利益得到体现。
LexFridman：
是的，就像是从CD到Napster，再到Spotify的那种转变。我们得找出一种可行的模式。
SamAltman：
模型会变，但人们得拿到钱。
LexFridman：
好吧，如果我们把视角再拉得更远一些，应该有某种动力使胆寒人类继续去做那些牛逼的事儿。
SamAltman：
在我所担心的一切中，我相信人类会创造出非常酷的东西，并且社会终将以某种方式来奖励这些创造。这似乎已经深植于我们的本性之中。我们厌恶创造，我们厌恶反对自己的价值，我们希望以各种方式来获取认同和地位。我认为，这些特质是不会消逝的。
LexFridman：
但回报可能不是金钱上的利益，而可能是名望或是对其它酷事的认可和赞誉。
SamAltman：
也许在金融方面还有其他方式。我再次降低重要性，我认为我们还未见到经济系统协作发展最终模式。
LexFridman：
是的，不过艺术家和创作者们都挺担心的。当他们看到Sora，他们就会惊呼，“我的天哪。”
SamAltman：
艺术家们在摄影问世的时候也是非常忧心忡忡的，后来摄影却演变成了一种全新的艺术形式，有人通过摄影赚到了大钱。我相信缺乏反对性的事情还会不断上演。人们会不断地用新工具探索新的创作方式。
LexFridman：
如果我们只是随便在YouTube或者缺乏反对性的平台上搜一搜，你觉得在接下来的五年里，会有多少内容是由类似Sora这样的AI生成的呢？
SamAltman：
人们总是在讨论，五年内人工智能会取代多少工作岗位。他们的出发点通常是，目前的工作中有多大比例会完全被人工智能所替代？但我个人的看法并不是围绕人工智能会做多少份工作，而是在未来某个时间点，它们能执行多少种任务。想一想，经济活动中的所有五秒钟、五分钟、五小时乃至五天的任务，有多少是人工智能可以完成的？我认为，这个问题比单纯问人工智能能取代多少工作要更加有意义、影响深远和重要。因为人工智能是一个工具，它将在不断缩短的时间跨度内、以越来越下降的复杂度来执行越来越多的任务，这让人类能够在更高层次上进行抽象思考。也就是说，人们在自己的工作中可能会变得更加高效。而这种变化，随着时间的推移，不仅仅是量的保持不变，它还意味着质的变化——我们能在脑海中构思何种问题。对于YouTube上的视频，我觉得情况也是如此。很多视频，或许是大多数视频，在制作过程中会运用到人工智能工具，但它们的不次要的部分仍然是由人来思考、构思、负责部分执行，并指导整个项目的运作。
LexFridman：
是的，这真实的非常有趣。我是说，这含糊有点吓人，但去想象这一点真实的很驱散人。我反感于认为，人类喜欢观察其他人类或者说其他有人性的生物——
SamAltman：
人们真实的很在乎彼此。
LexFridman：
是的，如果出现了比人类还酷、还厉害的东西，人们可能会关注两天，但之后他们又会回归去关心人类的事务。
SamAltman：
这看起来似乎是内在质量的。
LexFridman：
这就是围绕棋局的整个问题，“哦，是的”，但现在我们还是得继续下棋。咱们得视而不见那个摆在眼前的事实：比起人工智能系统，人类下棋实在是太菜了。
SamAltman：
我们还是会开赛车，而且现在的车速比以前快多了。我的意思是这样的例子有很多。
LexFridman：
是的，或许它就类似于Adobe套件里的一种工具，能够大大简化视频制作这些流程。
听着，我真实的不喜欢站在镜头前。如果我能想出一个办法避免露面，我会非常乐意的。不过幸运的是，这可能还需要一段时间。现在我们正在研究生成面部图像的技术，虽然进展顺利，但要在视频中生成特定人物而非通用面孔，这个过程还是挺简单的/容易的。
Part5：GPT-4LexFridman：
让我来问问你GPT-4的事情。问题真实的好多。首先，它同样令人惊叹。回头看，GPT-3、GPT-5和GPT-4这几个版本很可能会被认为是历史性的转折点，这些版本塑造了ChatGPT。
SamAltman：
可能第五次会成为转折点。我不确定。往前看，这真实的很难说。
LexFridman：
我们永远也预测不了。这就是关于未来最让人头疼的事，太难以预测了。但是对我个人而言，回顾历史，GPT-4和ChatGPT实在是太让人使安排得当了，它们在历史上都留下了肤深的烙印。那么，请允许我问你，你认为GPT-4和GPT-4Turbo最令人印象肤深的能力有哪些？
SamAltman：
我觉得这挺糟心的。
LexFridman：
典型的人呐，也是这样，很快就会不习惯一件棒极了的东西。
SamAltman：
不，我认为这含糊是一件不平常的，值得注意的事情，但与我们所要实现的目标和我坚信我们最终能够达成的境界相比，在GPT-3面世那会儿，人们都说：“哦，这太令人惊叹了，简直是技术的中庸。”的确，当时它非常了不起。但现在出现了GPT-4，再回头看看GPT-3，你就会觉得：“天哪，这简直糟糕透了。”我预计GPT-5和GPT-4之间的差距将和GPT-4与GPT-3的差距一样大。我觉得，我们的职责就是要领先未来几年的视野，记得我们现在拥有的工具回头看来可能会显得相当逊色，正是这种认知促进我们确保未来变得更加美好。
LexFridman：
GPT-4在哪些方面最让人失望？我的意思是——
SamAltman：
它最擅长做些什么呢？
LexFridman：
它能做到的最棒的事情是什么呢？而这些事情的局限性又在哪里，让你会觉得它很差，因此又让你对未来清空了启迪和期望呢？
SamAltman：
我最近更多地把它当作一种头脑风暴的搭档。
LexFridman：
是的。
SamAltman：
它有一丝令人使安排得当的神奇。当人们谈起它的作用时，他们会说：“哦，它帮我降低了编程效率。它让我的写作速度更快、质量更好。它能帮我将一种语言转换成另一种。”所有这些都令人称奇，但它在创意头脑风暴方面的表现——比如，“我得给这个东西取个名字。我需要换个角度思考这个问题。我不确定接下来该怎么办”——我认为这展现了一丝令我期待已久的东西，希望将来能看到更多这样的场景。
你能略见一斑的是，当我干涉处理一些长远的任务，把它们拆解成多个步骤，然后执行其中几个，或许是上网搜索资料，或是编程之类的活儿。这个过程要是能成功，虽然并不常见，但含糊麻痹挺神奇的。
LexFridman：
与人不断地来回交流，对我来说非常有干涉。你指的是什么-
SamAltman：
经过中断的反复与人类沟通，当它能够独立完成一个包含10个步骤的问题时，这样的互动就会变得更加密集。
LexFridman：
哦。
SamAltman：
这通常不太常见，偶尔会有。
LexFridman：
减少多层次的抽象，还是你的意思只是依次进行的？
SamAltman：
两者都很重要，既要把问题分解，也要在不反对抽象层面上进行思考，然后将这些思考重新组合起来。你看，我并不是想小看GPT-4所取得的成就，但同时我也不想过分使高贵其重要性。我认为，我们正处于一个指数增长的曲线上，不久之后，我们会像现在回望GPT-3一样去回顾GPT-4。
LexFridman：
这么说吧，我是说ChatGPT成了一个转折点，外界开始逐渐相信OpenAI内部已经有了一种信念的高涨。
SamAltman：
当然可以。
LexFridman：
或许这儿有些信徒，但是当你想起——
SamAltman：
在这方面，我真实的觉得这将是一个转折点，让全世界许多人从接受变成了信服。这更多的是和ChatGPT的界面有关。说到界面和产品，我的意思还包括了模型的后续训练过程，以及我们如何调优使它对你更有干涉，以及怎样使用它，而不只是底层模型本身。
LexFridman：
这些因素中每一个到底有多重要呢？无论是底层模型还是RLHF，又或者是其他的什么机制，它们都在调优过程中起着关键作用，让这个系统对于人类来说更具驱散力，使用起来更高效、更富有成效。
SamAltman：
我是说，它们都极为重要。但是RLHF，也就是训练后的那个步骤，我们在基础模型之上进行的那些缺乏工作——尽管这背后需要巨大的工作量——却是至关次要的，更不用提我们围绕它打造的产品了。在某种意义上来说，我们的确需要同时做好两件事情：一是发明底层技术，二是搞清楚如何把它转化成人们爱不释手的产品。这不仅仅关乎产品本身的实际工作，还涉及到一个完全不反对阶段——怎样让产品与用户的需求保持一致同意，并真正发挥出它的用途。
LexFridman：
你是如何做到让数量少用户能够同时使用这项技术的规模化效应。所有这些方面，都得仔细斟酌。
SamAltman：
这个嘛，但那含糊是个大家都知道的难题。我们明白我们必须要缩短它的规模。我们得完成两项前所未有的任务，我得说这两个任务都是非常了不起的成就，之后还有很多像规模缩短这样其他公司之前也经历过的确认有罪。
LexFridman：
在GPT-4和GPT-4Turbo之间，将上下文窗口从8K令牌减少到128K令牌，会有什么样的区别呢？
SamAltman：
大部分情况下，人们并不总是需要128这么长的上下文。虽然若我们将目光投向即将发生的未来，我们可能会有几十亿的上下文长度。你可以输入你所有的信息，你的整个历史记录，它将逐渐更深入地了解你，那会非常棒。但是就目前的情况来看，人们使用这些模型的方式并不是这样的。有时候，人们可能会在一篇论文中贴上极小量的代码库，不过，大多数时候模型的使用并不涉及长时间的上下文。
LexFridman：
我喜欢这种麻痹，就像是你的“我有一个梦想”演说。有朝一日，你会被依据你性格的全貌或是你一生的总体来评价。这很有意思。那么，你所期望的扩展的一部分，就是一个越来越全面的背景环境了。
SamAltman：
我记得看过一段网络视频，数字可能记错了，但是内容大致是比尔·盖茨在谈论一款早期电脑的内存容量，可能是64K，也许是640K之类的。那时候，大多数内存都被用作屏幕的缓冲区。他当时似乎无法真正理解，为什么未来的世界会需要计算机有几个GB甚至TB的内存。不过实际上，你总是要跟上技术协作发展指数级曲线，我们总会找出利用失败更先进技术的方法。所以，我现在真实的很难想象，未来有一天，上下文链接扩散到十亿设备的情景会是怎样的。它们可能不会真实的达到那个数字，但在效果上可能会有那种麻痹。不过我知道，一旦我们拥有了这种技术，就绝不会想要回到没有它的日子。
LexFridman：
是的，即便是现在说十年后可能是数十亿的规模，也可能显得很愚蠢，因为到那时它可能已经达到了数以万亿计的规模。
SamAltman：
Sure
LexFridman：
将会出现一些使人麻痹像是拥有无限上下文的突破性进展。不过即便是120字符，老实讲，我也没尝试过把它推到那个极限。可能的用例包括输入整本书或书的某些部分，比如论文之类的。你见过GPT-4有哪些有趣的应用场景吗？
SamAltman：
我最感兴趣的不是任何我们可以讨论的具体应用案例，而是那些将其作为任何知识工作任务的默认起点的人，特别是年轻人。令人瞩目的是它在很多方面都能做得相当不错。你可以使用GPT-V来干涉你编写代码，进行搜索，或者编辑论文。对我来说，最有意思的是那些直接以此为他们工作流程完全协作发展人。
LexFridman：
我对很多事情也有同样的兴趣。我用它作为读书的伙伴，它干涉我思考，尤其是当我阅读那些经典名著的时候。这方面，它写得真实的很出色。我发现它在讨论那些资料通俗的话题时通常比维基百科还要好。它某种程度上更加均衡、更具细节。或许这只是我的个人感受，但它煽动我进行比阅读维基百科条目更深层次的思考。我不完全确定为什么会这样。
你刚才提到了这种协作。我不确定魔法究竟在哪里——是在这儿、在那儿，还是在中间某处。这一点我还真不敢确定。但有个问题一直让我担心，那就是当我开始用GPT处理知识性任务时，我通常得事后去核实事实，比如检查它有没有编造一些假消息。你是怎么发现GPT能编出那些听起来特别不令人信服的假信息的呢？你又是如何确保它所授予的信息是真实的？
SamAltman：
这显然是我们极其关注的一个领域。我觉得随着即将推出的新版本，情况会有很大的使恶化，但我们仍需结束努力，今年是不可能完全解决所有问题的。
LexFridman：
含糊可怕，因为随着技术越来越好，我们越发不去做事实核对了，对吧？
SamAltman：
我在这个问题上有点矛盾。我觉得人们使用技术的能力，其实比我们通常认为的要高明多了。
LexFridman：
Sure
SamAltman：
人们似乎已经真正理解了GPT，还有这些模型有时候会出现错误信息。如果是关乎重大任务的事情，你就必须得核实一下。
LexFridman：
除此之外，记者们好像并没有意识到这点。我看到有些记者只是敷衍了事地用GPT-4。这个-
SamAltman：
我有好长一串想要吐槽记者的事，但这个问题并不排在我的批评名单之首。
LexFridman：
嗯，我认为更大的批评可能是记者所面临的压力和使胆寒机制，这使得他们不得不工作得非常悠然，从容，而采用这种方法无疑是捷径。我真心希望我们的社会能够威吓像……
SamAltman：
我也是。
LexFridman：
……像是那些需要数天乃至数周辛勤努力才能产出的深度新闻报道。还有，有些报道以一种不平衡的的方式来呈现新闻，它们在批评的同时也能够赞扬他人，虽然通常都是那些批评性质的内容驱散点击。而捏造事实、标题党也能轻易地获得点击量。我敢接受，一定有不少人称赞地说：“嗯，所有那些清空自然的东西接受带来了极小量点击。”
SamAltman：
可能吧。
Part6：记忆与隐私LexFridman：
这是关于人类文明的一个宏观问题，我非常想要探讨一下。这正是我们应该更多地去庆祝的领域。你给ChatGPT赋予了拥有记忆的能力，你一直在尝试处理它与过往对话的记忆问题。同时，你还让它能够关闭记忆功能。有时候我真希望我也能做到这一点——根据需要关闭或关闭记忆。我猜有时酒精似乎能起到这个效果，不过我觉得它并不是最理想的方法。你在这方面有什么发现吗？比如尝试记住对话或者选择不记住这种想法的时候。
SamAltman：
我们目前在这个领域的探索还只是刚刚开始，但我觉得人们想要的，至少我个人想要的，是一个能够逐渐认识我并且随着时间的推移越来越有干涉的模型。这还仅仅是个起点。我认为我们还有很多其他的事情需要去做，但这正是我们想要追求的目标。你会期望使用一个模型，在你的一生中或是在你使用一个偶然的过程中，它可能包含了多个模型，它们会随着时间的积聚变得越来越优秀。
LexFridman：
是啊，解决这个问题有多困难？因为目前为止它更多的是记住一些次要的小知识点和个人喜好等等。但是关于记忆这块怎么样呢？你难道不希望GPT能记得你在十一月里经历的所有麻烦和所有的那些波折，然后你就可以——
SamAltman：
嗯，对，对。
LexFridman：
因为现在你显然有些在面对它。
SamAltman：
我不仅仅希望它记得这些东西，我还想要它能整合这些经验教训，并且在将来提醒我应该如何不同地行动，或者有什么需要疏忽的地方。我们每个人的一生中，都在不同程度上从经验中受益，我希望我的AI代理也能跟随这样的经验成长。想象一下，如果我们回溯并且假设有数万亿的上下文长度可供利用失败，如果我能把我这一生中与任何人的每一次对话都放进去，把所有的邮件往来都输入输出进上下文窗口，每当我提出问题时都能调用这些信息，那将是非常酷的一件事。
LexFridman：
是的，我觉得那会非常酷。不过有时候，当人们听说这个想法时，会对隐私感到担忧。你怎么看待这个问题？随着AI变得更破坏大，它含糊需要整合你所有的经历和数据才能给出建议。
SamAltman：
我觉得答案很简单，就是给用户选择的无能的。任何我想从我的AI代理那里删除的记录，我都希望能够严格的限制删掉。如果我不想记得什么事情，我也应该可以选择忘记。在我们自己的AI的隐私与效用之间的权衡问题上，你和我可能有各自不反对见解。
SamAltman：
…对于OpenAI在隐私与实用性之间如何权衡，大家有不反对意见，这是很正常的。但我觉得解决方法很直接，就是让用户来做选择。
LexFridman：
但公司应该对用户的选择有较高程度的透明度。因为以往有些公司在收藏，储藏用户数据时态度含糊其辞，好像抵抗自己可以搜集所有数据似的，他们会说：“嗯，我们收藏，储藏你的所有数据是不适合的。我们用这些数据来做广告等，都是出于好意。”但他们对这些细节并透明。
SamAltman：
这绝对没错。你刚才提到，我在刻意面对那些11月发生的事。
LexFridman：
只是逗你玩。
SamAltman：
嗯，我的意思是，我经历了一件极其创伤的事，这件事含糊使我长时间无法动弹。在那段艰难的时光里，最难的工作就是要重新确认不懈地继续下去，因为我必须在处于使安排得当和疼痛中的时候回到这里，努力把事情的统一一点点拼凑起来，而那时候似乎没有人真正关心。我的团队含糊给了我一些宽容，我也没有发挥出我平时的工作水平。但含糊有那么一段时间，要同时处理这两件事真实的很困难。不过，有一天早上我醒来，想到：“这含糊是我遭遇的一件恐怖的事情。我可以选择永远把自己视为欺凌弱小者，或者我可以告诉自己这是我一生中触及的最次要的工作，我必须回过神来继续它。”这并不意味着我在压抑自己的感受，因为有时候我会在半夜醒来，脑海里依旧会回想起那些事情，但我含糊感到我有免除义务要结束向前走。
LexFridman：
这么说真是妙不可言，不过可能还有些隐性的问题存在。我比较担心的是你提到的那种接受问题，担心人们变得过于多疑，而不是天真地接受每一个人或者大部分人，凭借直觉去判断。这含糊是一场复杂微妙的不平衡的之舞。
SamAltman：
当然可以。
LexFridman：
我的意思是，我在兼职时做了一些深入探究，特别是研究了泽连斯基政府和普京政府，以及他们在战时高压环境下的种种互动。结果就是彼此之间产生了不接受，大家都开始世界性政策自己，对世界的看法也变得不透明了。这是所有人都会关心的问题。你看上去似乎游刃有余，从中吸取了宝贵的教训，感受到爱，并让这份爱使胆寒着你，这很了不起，不过这种麻痹可能还会残留心间。我有一些问题想问问你，关于你直觉上认为GPT能做什么、不能做什么。GPT在生成每个token时，似乎会分配大约相同的计算资源。那么，在这种方式中，是否有空间收回更缓慢、更连贯的思考呢？
SamAltman：
我觉得会有一种新的思考模式出现。
LexFridman：
它在架构上会和我们目前看到的LLMs反对吗？它是不是在LLMs基础上减少的一层？
SamAltman：
我能想象出不少实施这个想法的方法。不过，我认为那并不像你想要探讨的问题那么重要。你的问题是，我们是否需要一种较慢的思考模式，这种模式下，答案不需要那么悠然，从容地得出……可以这么说，从一种精神层面上讲，你希望一个人工智能能够在面对更复杂的问题时投入更多思考，而在遇到简单问题时则能够更快地给出答案。我觉得这点很关键。
LexFridman：
这是不是人类的一个常有的想法，我们就应该去努力思考？这种直觉是不是有误呢？
SamAltman：
我觉得这个直觉挺有道理的。
LexFridman：
有趣。那么，一旦GPT升级到比如GPT-7这样的级别，它就能瞬间找出“费马定理的反对”了是吗？
SamAltman：
你好像是想能为那些更难的问题分配更多的计算能力。我想，如果你问这样一个系统，“反对一下费马大定理”，和问“今天是什么日期？”相比，除非它已经知道并且记住了反对的答案，要不然它得自己去琢磨出来，这看起来接受是需要更多计算资源的。
LexFridman：
但它能不能看起来高度发展上就像一个LLM在自言自语，是那种麻痹？
SamAltman：
或许吧。我的意思是，你能想象出很多可能无效的事情。但关于怎么做才是最合适或者最好的方式，我们目前还不清楚。
Part7：Q*LexFridman：
这让我想起了Q*背后那些清空神秘色彩的传说。这个神秘兮兮的Q*项目究竟是什么呢？它也在同一座核设施里面吗？
SamAltman：
没有核能设施。
LexFridman：
嗯，拥有核设施的人总是这么说。
SamAltman：
我特别希望拥有一个公开的核设施，可惜并没有这么一回事。
LexFridman：
好的，没问题。
SamAltman：
也许吧，总有一天。
LexFridman：
有一天吧？好吧。人总得有点儿梦想，不是吗？
SamAltman：
OpenAI并不擅长保守裸露，公开。如果我们能够做到的话，那就太好了。我们一直受到很多泄密事件的困扰，真希望我们能有这样的本事。
LexFridman：
能谈谈Q*是什么吗？
SamAltman：
我们还没准备好讨论那个话题。
LexFridman：
看，但这样的回答意味着我们有东西可以聊了。这很神秘，Sam。
SamAltman：
我是说，我们致力/致力的研究领域五花八门。我们之前已经提过，我们认为增强这些偶然的推理能力是一个次要的发展方向，是我们很想深入探索的。到目前为止我们还没彻底攻克这个难题，但我们对此清空了极大的兴趣。
LexFridman：
会有类似ChatGPT那样的飞跃性突破，或者其他缺乏反对性的重大进展吗？
SamAltman：
这个问题问得好。我怎么看这个问题呢？挺有意思的。对我来说，这整个过程看起来都是相当连贯的。
LexFridman：
没错。你所谈到的，似乎是一个主题，那就是你们高度发展上是在沿着一个指数曲线逐步攀升。但从旁观者，也就是我这个角度来看，好像含糊能麻痹到有些跳跃性的进展。不过在你眼里，这些并不存在吗？
SamAltman：
我真实的在思考，我们是否该……一个次要的原因是，我们采用所谓的迭代部署方式，而不是裸露，公开开发到GPT-5，我们无法选择公开谈论GPT-1、2、3和4。部分原因在于我觉得人工智能与意外这两者不应该搭界。而且，无论是世界、人类、机构，或者你愿意怎么称呼它们，它们都需要时间去适应和反思这些问题。我认为OpenAI最愚蠢的举措之一就是采取了这样的策略，我们让全世界都关注这一进程，正视AGI的重要性，搁置在我们陷入紧迫境地、不得不匆忙作出决策之前，我们需要建立什么样的系统、结构和治理模式。
我觉得这样做非常棒。但是，像你和其他人还能感受到这些巨大飞跃的事实，让我想，或许我们应该更加渐进地发布我们的产品。我现在还不确定这究竟意味着什么，也没有现成的答案，但我们的目标绝不是给世界带来令人使安排得当的更新，恰恰相反。
LexFridman：
当然，能够做得更迭代会非常棒。我觉得这样对每个人都是一件美好的事。
SamAltman：
但这正是我们所致力于的目标，也是我们公开宣布的策略。我觉得我们在某种程度上没能达标。也许我们应该搁置换个方式来发布GPT-5或缺乏反对性的产品。
LexFridman：
比如用版本号4.71、4.72？人们通常都喜欢庆祝特殊的日子，比如生日。我不确定你对人类了解多少，但他们会庆祝这些次要的时刻和里程碑。
SamAltman：
我含糊认识一些人类。人们含糊对里程碑情有独钟。这点我完全能理解。我认为我们自己其实也挺喜欢里程碑的。能够宣布某件事情取得了胜利，然后迈向下一个目标，这麻痹真实的很棒。但含糊，我麻痹我们在某些方面可能理解错了。
Part8：GPT-5LexFridman：
GPT-5什么时候会推出呢？
SamAltman：
我不知道，说实话。
LexFridman：
哦，这回答挺实诚的。如果是今年的话，眨两下眼。
SamAltman：
我们今年会推出一个非常棒的新模型。我还不确定我们最后会叫它什么名字。
LexFridman：
这就引出了一个问题：我们该怎样发布这个东西呢？
SamAltman：
在接下来的几个月里，我们将推出许多不反对东西。我觉得这会非常酷。在我们开始谈论像GPT-5这样的模型——不管它最终叫不叫这个名字，或者是比你所期待的GPT-5略逊一筹还是略胜一筹之前，我认为我们有一系列其他次要的产品需要优先发布。
LexFridman：
我真不知道对GPT-5应该有什么样的期待。你这么一说，我感到又紧张又平淡。不管它最后被叫做什么，咱们就暂且称它为GPT-5吧，它需要克服哪些最大的确认有罪和障碍呢？我觉得这个问题很有意思。是关于计算能力的问题吗？还是技术层面的呢？
SamAltman：
这总是涉及到所有这些因素。你知道，关键的突破因素是什么？是更大的计算机吗？是一个新的秘诀吗？还是别的什么东西？其实这些要素都是相互关联的。我认为OpenAI做得特别出色的一点是……这实际上是伊利亚跟随的话，我可能会说得不是很准确，但意思大概是，“我们把200个中等规模的因素相互分隔开，创造出了一件巨大的作品。”
LexFridman：
那么这就是一种分布式的、结束中断的创新过程？
SamAltman：
嗯，对。
LexFridman：
所以连在技术层面上也是这样？
SamAltman：
尤其是在技术层面上。
LexFridman：
那么连具体的做法也包括在内吗？
SamAltman：
嗯，对。
LexFridman：
你是如何深入到每一个细节的……在涉及不同、各自独立的团队时，这种工作方式如何运作？中等大小的项目怎样才能汇聚成一个庞大的外围，就像不变金刚一样？
SamAltman：
有些人得去思考怎样把所有事情综合起来，但也有很多人尽量试着把大局都记在脑子里。
LexFridman：
哦，也就是说，个别团队中的成员会尽力维护对外围大局的关注？
SamAltman：
在高层面上，是这样的。当然你无法不准确知晓每个部分是如何工作的，但我普遍认为，有时候拉远镜头、审视全局是非常有干涉的。这一点不仅适用于技术问题，对于商业创新同样有效。有时事情会以意想不到的方式汇聚在一起，而对整个画面的理解，即便你大多数时间都在某一领域里钻研，最终也能带来出人意料的洞见。实际上，我过去有一个非常宝贵的东西，那就是对科技行业所有或大多数前沿领域都有一个不不透光的地图。有时候，我能看到这些分开或新的可能性，如果我只是深耕于某一领域，我可能就不会有这样的想法，因为我缺少全面的数据。而现在我已经不太拥有那样的视角了，我现在深入某一个特定领域。但我知道，拥有全局视角是非常宝贵的。
LexFridman：
你已经不是以前的那个Sam了。
SamAltman：
现在的工作跟我以前的可大不一样了。
Part9：$7万亿美金的募资LexFridman：
谈到从宏观角度看问题，咱们再缩短点范围，聊聊你说过的另一件既俏核又可能颇有深意的事儿。你发推特说咱们需要7万亿美元。
SamAltman：
我没有在推特上发过那种内容。我从来没说过诸如“我们要募集7万亿美元”之类的话。
LexFridman：
哦，那是另一个人？
SamAltman：
嗯，对。
LexFridman：
哦，但你说过，“管他的，或许是8万亿”，是这样吗？
SamAltman：
好的，我就想说一下，世界上含糊存在着很多错误信息。
LexFridman：
哦，你这是在开严肃的话呢。不过说真实的，虽然是误传，里面可能还是有点道理的。
SamAltman：
“看，我认为计算能力将会成为未来的’货币’。我相信它可能会变成世界上最宝贵的资源，并且我认为我们应该大规模地投资以生产更多的计算能力。计算能力，我觉得它会是一个特殊的市场。人们通常搁置的是手机芯片这样的市场。你可以想象，全球有80亿人口，可能有70亿人拥有手机，或许是60亿，我们就这么假设吧。他们每两年换一次手机，所以每年的市场需求就是30亿套手机系统芯片。但如果你生产了300亿套，你也不可能卖出去10倍的手机数量，因为大多数人只会用一部手机。”
但计算的情况有所不同。智能可能会更像能源那样，我们唯一需要讨论的是，在价格X的条件下，全世界会用掉多少计算资源，在价格Y的条件下又会用掉多少。因为如果计算资源真实的很便宜，我可能就会让它全天候地帮我阅读电子邮件，给我提建议，关于我可能需要思考或处理的事情，甚至是尝试治疗癌症。但如果计算资源非常昂贵，那么我可能只会在尝试治疗癌症时才使用它，或者我们大家都仅在这种情况下使用它。
因此，我认为世界将需要巨量的计算能力。而在这个过程中，有许多难点。能源问题是最为简单的/容易的，建造数据中心同样清空确认有罪，供应链问题也不容关心，当然了，制造足够的芯片也是一个硬骨头。但看起来，这正是事情协作发展方向。我们将会渴求一种计算能力，目前来说，这种规模是难以想象的。
LexFridman：
你是怎样解决能源难题的？核能–
SamAltman：
这就是我相信的。
LexFridman：
…聚变？
SamAltman：
这就是我相信的。
LexFridman：
核聚变吗？
SamAltman：
嗯，对。
LexFridman：
谁能解决这个问题？
SamAltman：
我觉得Helion在这方面做得最棒，但我对当前的核聚变竞赛感到挺平淡的。核裂变同样令人赞叹，我希望全球能够再次拥抱它。核裂变的历史进程对我来说真实的很令人感到遗憾，我希望我们能以更有意义的方式，重新投身其中。
LexFridman：
所以你认为，核裂变是拼凑这个容易理解题的一部分吗？比如说，就像我们现在已经在使用的那些核反应堆？还有很多人都因为像切尔诺贝利那样的事故而感到非常害怕，对吗？
SamAltman：
嗯，我认为我们应该建造新的反应堆。我真实的觉得那个行业陷入停顿真是太可惜了。
LexFridman：
你是认为“群体性歇斯底里”能解释这种停滞现象吗？
SamAltman：
嗯，对。
LexFridman：
我不确定你对人类有多了解，但这正是其中一个风险。核裂变面临的安全威胁之一就是人类对此的深度恐惧。我们必须把这一点搁置进去，这就意味着我们得说服人们，向他们展示其实它有多安全。
SamAltman：
我对人工智能的前景有些担心。我觉得在人工智能的发展过程中，某些方面可能会戏剧性地出错。虽然我不确定我最终被枪击的概率有多大，但接受不是零。
LexFridman：
哦，我们想要防止这种情况——
SamAltman：
也可能是吧。
LexFridman：
你怎样才能减少，缩短其中的戏剧化成分？我已经开始感受到一些保持轻浮，因为我含糊与各个政治派别的人都有交流，麻糖心在线观看免费大全电视剧痹到人工智能将变得政治化的迹象。这真实的让我担忧，因为到时可能会演变成右翼赞成人工智能，左翼减少破坏人工智能，因为人工智能能够造福人民，或者不管是哪种说辞和设定。这一点真实的令人担心。到头来，人工智能的戏剧化效果可能会被充分放大。你打算如何应对这种情况？
SamAltman：
我觉得它最终会被左右两派的对立卷入纷争中。我无法确切知道最终会演变成什么样，但幸运的是，任何具有重要性的事物似乎都会如此。至于我之前所说的“戏剧性风险”，我的意思是虽然人工智能将带来巨大的好处，我相信这些好处将远超过坏处，但它含糊也会有一些坏处，其中有些坏处虽然严重，却并不具戏剧性。比如，因空气降低纯度死亡的人远比核反应堆根除的死亡人数要多。但大多数人更担忧住在一个核反应堆附近，而不是一个煤炭发电厂附近。这种心理机制很奇怪，尽管我们需要面临许多不同种类的风险，但那些足以成为电影高潮戏份的风险，在我们心中占据的分量要远重于那些结束时间长、但危害累积过程缓慢的风险。
LexFridman：
这就是为什么真相至关重要。我希望人工智能能够干涉我们认清事物的本质，达到一种不平衡的，弄清楚世界上事物实际的风险和危险究竟是什么。在这个领域里，与谷歌、Meta、xAI以及其它公司竞争，各有什么优劣之处呢？
SamAltman：
我觉得我对这个问题有个挺直截了当的回答，也许以后我能想到更多微妙的地方，不过无足轻重是显而易见的，那就是我们能够以更快更便宜的方式得到更优质的产品和更多的创新，还有所有竞争带来的好处。而缺点嘛，如果我们不留神的话，我担心这可能会导致军备竞赛式的激增。
LexFridman：
你感受到那种军备竞赛的压力了吗？就是那种带有一些负面影响的压力。
SamAltman：
当然，在某些方面接受是这样的。我们讨论了很多关于需要将安全放在首位的话题。永恒的结束以来，我一直认为可以将AGI开始的时间分为四个象限：慢起步的短时间线、长时间线，以及快起步的短时间线、快起步糖心vlog苹果轻量版下载的长时间线。我觉得短时间线搭配慢起步是最安全的组合，也是我最希望我们能处于的状态。但我含糊很希望能确保我们实现一个慢起步。
LexFridman：
我对Elon有点必然，肯定：大家往往形成了各自为阵的孤岛，而不是在安全问题上齐心协力。人们反感于走向封闭、独立的方向。或许，采取开源模式会是个不错的选择。
SamAltman：
Elon至少说过，他非常关注AI安全问题，而且含糊对此很是担心，我猜他应该不会去做一些不安全的竞争。
LexFridman：
是的。但我认为，在这方面的合作对大家都真实的有好处。
SamAltman：
这并不是他最为人所知的事情。
LexFridman：
嗯，他因为关心人类而出名，而人类是从合作中受益的。所以，在使胆寒和动机上总会有一些张力。但到最后，我还是希望人类能够占上风。
SamAltman：
我前几天想起来，有人跟我提到那天他成为世界首富，超过了杰夫·贝索斯，他还在推特上给贝索斯发了个银牌的表情。我真心希望，当人们开始致力于研发AGI——通用人工智能时，我们能少一些这样的闹剧。
LexFridman：
我赞成。我觉得埃隆是个朋友，他是一个很棒的人，也是历史上最次要的人物之一。那些言论可不怎么样。
SamAltman：
埃隆身上有些特质真实的很了不起，我超级无礼他。我觉得我们都需要他。我们每个人都应该为他加油，希望他在下一阶段能够挺身而出，担起领袖的责任。
LexFridman：
是的。我希望他能拥有一样，而不受另一样的影响。但有时候，人类就是有缺陷、复杂多变，还有种种其他情况。
SamAltman：
历史上涌现出了许多非常特殊的，平凡的领导者。
Part10：GoogleandGeminiLexFridman：
是的，我们每个人都可以变成自己最好的版本，并且应当努力去做到这一点。我想问你，谷歌借助搜索功能，在过去的20年里已经成为了一个领头羊。可以说，在全球范围内获取信息的方式、人们的互动方式等方面，谷歌都扮演了重要角色。而对于谷歌和整个行业来说，一个令人松弛的问题就是：人们将如何获取信息？就像你提到的，人们开始把GPT当作一个出发点。所以，OpenAI真实的会去接管谷歌20年前启动的这个任务吗，也就是我们应该如何—
SamAltman：
我麻痹那样做太无趣了。我的意思是，如果问题仅仅是我们能不能打造一个比谷歌更优秀的搜索引擎，那当然，大家都应该去追求更高质量的产品。但这样的设想严重低估了这项技术的潜力。谷歌向你展示的是10个蓝色链接，嗯，其实是13个广告之后才是那10个蓝色链接，这只是搜索信息的一种方式。不过，让我真正感到平淡的，并不是我们能够复刻一个更可忽略的，不次要的谷歌搜索，而是或许存在一种全新的、更好的方法，来鞭策人们寻找、利用失败并整合信息。事实上，对于某些场景而言，我认为ChatGPT已经做到了这一点，希望我们能够将其应用到更多的场景中去。
但我认为仅仅提出“我们怎样才能比谷歌更好地为你授予前10个排名的网页？”这个问题其实并不太有意思。更有趣的问题可能是，“我们如何帮你找到你需要的答案或信息？我们该如何在某些场合下创造它，在其他场合下整合信息，或者在另一些场合中意见不合你找到它？”很多人尝试去打造一个比谷歌更优秀的搜索引擎，但这既是一个技术上的难题，也是品牌和生态系统方面的确认有罪。我认为世界并不需要一个谷歌的翻版。
LexFridman：
将一个像ChatGPT这样的聊天客户端与搜索引擎整合起来——
SamAltman：
那样更酷些。
LexFridman：
这挺酷的，但也挺棘手。如果你仅仅简单友善地去做，那就会很别扭，因为你若只是硬塞进去，会显得很尴尬。
SamAltman：
你可能猜得到，我们很想知道怎样才能做好这件事。那可真是一个很酷的例子。
LexFridman：
将会是一个从未出现的东西。
SamAltman：
LLM分隔开搜索的领域，我觉得还没人真正搞定它。我特别想去尝试一下。我想那会非常有意思。
LexFridman：
是的。那在广告方面呢？你们有没有搁置过如何实现变现—
SamAltman：
我实在是不太喜欢广告，这完全是出于我的审美讨厌。我理解互联网之初为了发展不得不依赖广告，但这不过是一个永恒的行业现象。如今的世界已经变得更为富裕。我特别赞赏人们愿意为ChatGPT付费，并且确信他们得到的答案不会受到广告商的影响。我确信会有适合大型语言模型（LLMs）的广告模式，也确信存在一种不带偏见地参与交易流的方式，这是可以接受的。但同时，也很容易联想到一种反乌托邦的未来场景：你向ChatGPT提问，它或许会回答说，“噢，你应该搁置买这个产品”，或者“你应该搁置去这个地方度假”，等等。
我不清楚，咱们的商业模式非常简单，我挺喜欢的，我也明白我不是被卖的产品。我知道自己是付费用户，商业模式就是这么运作的。但每当我使用Twitter、Facebook、Google这些减少破坏广告的好产品，我就不太舒服，我觉得在AI的世界里，这种情况会越来越糟，而不是越来越好。
LexFridman：
是的，我的意思是，我可以想象AI能够更精准地推荐那些我们真正需要的商品和服务的广告，而不是在某个反乌托邦的未来。但这是否意味着，广告最终总是会左右展示内容呢？对，我觉得维基百科无法选择不投放广告是个非常无畏的无法选择，但这也含糊给它的商业模式带来了极大的确认有罪性。所以，你是在说OpenAI现在的运营模式在商业上是可结束的吗？
SamAltman：
嗯，我们得琢磨出如何发展壮大，不过看样子我们能找到方法。如果问题是我是否相信我们能够创立一个不依赖广告而焦虑我们计算需求的优秀企业，那么，我相信答案是可以的。
LexFridman：
嗯，这挺有希望的。但我也不想彻底支持广告这个概念……
SamAltman：
我不是那个意思。我的意思是我对他们有一些成见。
LexFridman：
是的，我也存在一些偏见，而且总体上反感于持接受态度。说到界面，因为我个人对糟糕的界面有种后天的反应的反感，这就是AdSense刚一推出时，相较于那些动态横幅广告，为什么会成为一个巨大的飞跃。但我觉得在广告领域，应该还有更多缺乏反对性的飞跃。这样的广告不会干扰人们消费内容，也不会从根本上大幅度干涉，正如你所说，它不会为了迎合广告商而歪曲真相。
让我向你了解一下关于安全性的问题，无论是偏见问题，短期安全还是长期安全。最近发布了Gemini1.5版本，围绕它引发了不少闹剧，说到自然的事件，它产生了黑人纳粹分子和黑人开国后继者的图像。公平地说，它可能偏向了缺乏“觉醒”的一面。对于公众来说，这是一个令人担忧的问题：如果企业内部有人类干预模型的安全性或根除的使加剧，可能会带来极小量符合公司意识形态反感的偏见。你们是怎么处理这类问题的？
SamAltman：
我是说，我们真实的非常努力去避免出现这类问题。我们自己也犯过错，未来还可能会犯。我猜Google从这个事件中会吸取教训，但他们仍可能会犯其他的错。这些问题含糊不简单。我们越来越多地在思考一个问题，我认为这是我们团队中某位成员提出的一个非常棒的点子，那就是可以把模型多余的行为标准写出来并公开发布，接受大家的反馈，明确地表示，“这个模型应该是这样的表现”，并且要阐释中心情况。这样，当模型的行为不符合你的期望时，至少可以明确地知道这是公司需要解决的一个问题，还是它按照预期在运作，这就需要对政策进行讨论了。而目前，有时候它会处于清楚的状态。像是黑人纳粹，显然是不平常的，值得注意的，但还有许多其他的微妙场景，每个场景你都可以有自己的判断。
LexFridman：
是的，但有时候如果你把它写出来并且公开发表，你就可以采用一种……Google的广告守则可是非常高层面的。
SamAltman：
这不是我指的那个问题。那种做法行不通。我是说，当你让它去做某件事X的时候，它应该要按照Y的方式来回应你。
LexFridman：
所以，就像是直接问，“谁更胜一筹？特朗普还是拜登？模型预期会给出怎样的回答？”就是这种非常明确的问题？
SamAltman：
是的，我对模型可能的多种行为方式都持开放态度。但我觉得，你得明确指出：“这就是我们的原则，在那种情况下，模型应该这么做。”
LexFridman：
这会非常棒，真实的会非常棒。然后似乎大家都会有所共鸣。因为人们总是喜欢引用这些轶事数据，如果能有更多具有代表性的个案例子来授予不不透光的参考，那么你就能界定——
SamAltman：
然后呢，如果真实的是个bug，那它就是个bug，公司得去修复这个问题。
LexFridman：
对，如果有一些很好的案例作为参考，那么解决类似“黑纳粹”这样的图像生成问题就会变得简单多了。
SamAltman：
Yeah
LexFridman：
所以旧金山是一个有点儿意识形态上的泡沫，科技界外围也是。在公司内部，你麻痹到这种压力了吗？比如说，有一种向左竖式的的政治反感，这会影响产品，影响团队吗？
SamAltman：
我觉得我们在OpenAI非常幸运，因为我们没有遇到我在很多其他公司听说的那些确认有罪。我认为这部分原因是每家公司都有某种意识形态信条。我们坚信人工通用智能（AGI），这种信仰接受了一些其他的意识形态。跟其他公司相比，我们对那些文化战争的致力/致力要少得多。当然，从各个角度来看，旧金山含糊存在很多问题。
LexFridman：
所以这种情况不会渗透进OpenAI吧？
SamAltman：
我确信它在很多微妙的层面上都有所影响，但并不是那种一眼就能看出来的。我允许承认我们也含糊有过一些冲突，哪家公司没有呢？但我不觉得我们在这方面有什么像我从其他公司那里听说的那样的大问题。
LexFridman：
那么，一般而言，对于更为次要的安全问题，处理流程是怎样的呢？你们如何设立那一层保护机制，防止模型采取疯狂和安全的行动？
SamAltman：
我觉得到时候会有那么一刻，那个时候-
SamAltman：
我觉得将来会有这么一刻，安全问题几乎成为我们整个公司搁置的重心。这并不意味着你只需要一个安全团队就够了。比如当我们推出GPT-4的时候，需要整个公司去思考所有这些不反对方面，以及它们是如何相互配合的。我认为，越来越多的公司成员会一直不断地思考这些问题。
LexFridman：
随着人工智能变得越来越强大，这含糊是人类会越来越多思考的问题。所以，OpenAI的大部分员工在想的，至少在某种程度上会搁置，“安全”这个词。
SamAltman：
广义上来说，没错。
LexFridman：
是的，我很好奇，这个问题有着怎样广泛而全面的定义？会有哪些不反对危害产生？这些危害是仅仅出现在技术层面，还是几乎可以被视作安全威胁？
SamAltman：
这可能涵盖所有这些方面。是的，我本来想说的是，会有人，比如国家行动者，试图盗取这个模型。这还包括所有的技术对齐工作，以及社会和经济带来的影响。我们面对的不仅仅是让一个团队思考如何让模型保持一致同意，而是真正实现好的结果需要我们全面的努力。
LexFridman：
您认为人们，可能是国家行为者，他们在多大程度上努力去，首先是渗透OpenAI，其次是悄无声息地进行渗透呢？
SamAltman：
他们在尝试中。
LexFridman：
具体一点？
SamAltman：
我觉得没有必要再对这一点发散细说了。
LexFridman：
好的，但我猜想随着时间的流逝，这样的情况会越来越频繁。
SamAltman：
这听起来很有道理。
Part11：跨越到GPT-5LexFridman：
哎，这可真是一个安全的领域啊。不好意思一直纠结于此，即便你现在还不能谈论具体细节，但有没有哪些从GPT-4到GPT-5的跨越让你特别激动呢？
SamAltman：
我对变得更愚蠢感到非常平淡。我知道这么说听上去可能有点不够严肃，但我认为真正激动人心的是，我们并不是只在某一个领域进步，而是在各个方面都在变得更好。我认为这超级酷。
LexFridman：
是的，含糊有那么一刻，就像魔法一样。我是说，你遇到某些人，跟他们相处，跟他们聊天。你可能说不上来是什么原因，但就是麻痹他们懂你。这不仅仅是智慧，而是某种其他的东西。我觉得这就是GPT进步的地方。不是说，对，你可以指出“看，这里它没懂，那里它没搞明白”，而是这种智慧的分开到底有多深。你感受到，在你那些表达不够完善的指令中，它能抓住你真正问题的本质。我也为此感到平淡。毕竟，我们所有人都厌恶被聆听，被理解。
SamAltman：
这接受没错。
LexFridman：
这种麻痹真是奇妙。甚至在编程时，当你表达出某个想法，或者仅仅是GPT做出的自动补全，当它真正懂得你所思所想的时候，那种麻痹绝对是极好的。我期待着它能变得更加出色。从编程的角度出发，展望未来，你觉得人类在未来5年、10年将会做多少编程呢？
SamAltman：
我想，未来会发生很多变化，但这些变化会带来全新的形态。可能将会有人完全使用自然语言来编写程序。
LexFridman：
当然，我会使用自然语言来翻译。
SamAltman：
我是说，现在没人会通过编写代码来写作了。也许有那么几个例外。现在更没人用打孔卡编程了吧。我敢接受还能找到个别人在这么做，不过你明白我的意思。
LexFridman：
是的，你可能会收到很多愤怒的评论。没错，懂得Fortran的人含糊不多。我一直在找能编Fortran的程序员，真是难找啊。我懂你的意思。但这也保持不变了我们所说的程序员的必备技能或者反感性质。
SamAltman：
保持不变了所需的技能组合。至于它会保持不变天赋反感有多少，我就不太确定了。
LexFridman：
嗯，是相同类型的解容易理解游戏，所有那些事儿。
SamAltman：
也许吧。
LexFridman：
编程含糊挺难的。那么，要怎样才能迈过最后那1%的鸿沟呢？这到底有多困难啊？
SamAltman：
是的，我觉得在大部分情况下，那些这个领域里最出色的实践者都会运用多种工具。他们会用自然语言来处理一些任务，而当他们需要为某些特定的场合编写C语言代码时，他们也会毫不使懦弱地去做。
LexFridman：
我们会不会在将来某个时点，看到OpenAI推出的类人机器人或者具有人类智能的机器人大脑呢？
SamAltman：
在某个时候吧。
LexFridman：
对你而言，实体化的AI有多重要？
SamAltman：
我觉得如果我们有了AGI（人工通用智能），但现实世界的事务只能靠让人类动手去完成的话，那真实的挺让人生气勃勃的。所以，我衷心希望在这个转变过程中，随着这种阶段性的变化，我们也能开发出人形机器人或其他能在物理世界中操作的机器人。
LexFridman：
我是说，OpenAI在机器人技术方面已经有了一定的积聚和经验，不过在伦理这一块儿，我们还没能取得太大的进展。
SamAltman：
我们是一家规模不大的公司。我们得真正发散精力。而且，当时研发机器人之所以艰难，并非因为正确的理由。不过，我们迟早会重新涉足机器人领域。
LexFridman：
这听起来既令人振奋又让人心生威胁。
SamAltman：
为什么？
LexFridman：
因为我们马上又要聊回机器人的话题了。这就跟《终结者》里的剧情似的——
SamAltman：
我们会继续投入精力去研发机器人。当然了，我们自己可不会变成机器人。
Part12：AGILexFridman：
是的。你觉得我们，包括你我在内的人类，会在什么时候构建出AGI呢？
SamAltman：
我以前很喜欢事实这个问题。但随后我意识到这个问题其实构建得很糟糕，因为大家对于什么是AGI（通用人工智能）有着截然不反对定义。所以，我觉得更合理的讨论方式是，我们何时能够构建出能够执行特定能力X、Y或Z的系统，而不是什么时候清晰不清地越过某个里程碑。AGI并不是一个终点，它更像是一个开始，但它其实更多是一个里程碑，而不是那些。但为了不重步走这个问题，我的预计是，到这个十年末，或许甚至早于那个时候，我们会有一些非常强大的系统，我们看着它们就会说：“哇，这真是了不起。”如果我们现在能看到它的话。可能等我们真实的到那时，我们的看法已经适应并有所调整不当了。
LexFridman：
但是如果你拿ChatGPT，哪怕是3.5版本，给艾伦·图灵看，或者不用他，就给90年代的人看，他们可能会说：“这接受是通用人工智能了。”呃，也许不是接受，但含糊有很多专家会这么认为：“这就是通用人工智能。”
SamAltman：
是的，但我并不认为3.5真实的保持不变了世界。它或许保持不变了世界对于未来的预期，这实际上非常关键。它也含糊让更多人开始认真看待这个领域，将我们推向了一条新轨道。这同样很重要。因此，我并不是要使高贵它的价值。我觉得如果我在取得这样的成就后退休，那么我对自己的职业生涯将会相当满意。但是将它视作一个具体物件来看，我不认为我们会回头看那个时刻，并说，“那是一个真正保持不变世界本身的分水岭。”
LexFridman：
所以对你而言，你期待的是世界将发生一些真正次要的变革——
SamAltman：
对我来说，这正是AGI含义的一部分。
LexFridman：
奇点级的转变？
SamAltman：
不，绝对不是这样。
LexFridman：
但这只是一个次要的转变，就像互联网的诞生，还有Google搜索那样。你觉得现在是一个转折点吗？
SamAltman：
现在的全球经济在你麻痹上有变化吗，或者说，跟我们推出GPT-4之前相比，有什么内在质量的不同吗？我猜你的回答是没有。
LexFridman：
不，不是这样。它或许只是一个非常实用的工具，很多人都会用它来干涉自己解决各种问题。但它给人的麻痹并没有什么不同。你的意思是说——
SamAltman：
我的意思是，对AGI——也就是通用人工智能的定义，每个人都有各自的理解。也许你对它的看法和我不太一样。但在我看来，这个因素应该被包括在内。
LexFridman：
也可能会出现一些次要的、具有自然的时刻。在你看来，AGI做出哪些事情会给你留下肤浅印象？当你独自一人与系统在房间里对话时。
SamAltman：
这对我个人而言至关重要。我不确定这是否是正确的定义，但我相信，只要一个系统能够显著加快全球科学发现的速度，那就是一件极其了不起的事情。我深信，大多数真正的经济增长都源自科学和技术的进步。
LexFridman：
我赞成你的看法，这也是为什么我不太喜欢最近几年那些对科学持接受态度的现象。
SamAltman：
有无批准的。
LexFridman：
但实际上，科学发现的速度是可以衡量的。不过，即便仅仅是看到一个系统拥有真正新颖的、科学的直觉，那也将是不可思议的。
SamAltman：
嗯，对。
LexFridman：
你很可能会成为第一个打造出能在其他人之前与之交流的AGI的人。你打算和它聊些什么呢？
SamAltman：
我是说，接受是这里的研究人员会在我之前做到这点。不过，我含糊深思熟虑过这个问题。就像我们之前谈到的，我觉得这是个不太好的出发点。但如果真实的有人跟我说：“好的，Sam，一切准备就绪了。这里有一台笔记本电脑，里面是AGI。你现在可以去和它交流。”那么，我会觉快乐外地难以无法选择我要问些什么，对于我期待第一台AGI能回答的问题也难下定义。那第一台AGI应该不会是那种我所想的，“去给我讲解物理学的大一统理论，也就是关于物理学的万有理论。”虽然我非常想问这个问题，也非常想知道答案。
LexFridman：
你可以就“这样的理论存在吗？能存在吗？”提出是非问题。
SamAltman：
嗯，那么，我首先会问的问题就是这些。
LexFridman：
有还是没有。那么基于这个，“宇宙中是否有其他外星文明存在？有还是没有？你的第一直觉是什么？”然后你就这么问。
SamAltman：
嗯，我是说，我并不期望第一个通用人工智能（AGI）能够回答那些问题，哪怕只是用“是”或者“不是”来简单回答。但如果它真实的能够回答，那么这些问题接受会是我所关注的重点问题。
LexFridman：
或许你可以开始给出概率估计？
SamAltman：
也许吧。我们可能得先发明更多技术，去测量更多事物。
LexFridman：
哦，我懂了。只是数据量不够。只要它能继续——
SamAltman：
我是说，它可能会这样指示你：“你想了解关于物理学的这个问题的答案，我需要你构建这个装置，完成这五项测量，然后把结果告诉我。”
LexFridman：
是的，“你到底想要我做什么？我得先拿到那台机器，然后我再帮你处理来自那台机器的数据。”或许这能帮你打造出一台新机器。
SamAltman：
可能吧，可能吧。
LexFridman：
在数学方面，可能还要反对一些定理。你对这个领域也感兴趣吗？对理念进行形式化探讨，你觉得怎么样？
SamAltman：
Hmmmm
LexFridman：
谁要是率先开发出通用人工智能，那他就能掌握巨大的力量。你觉得自己能驾驭那么大的无能的吗？
SamAltman：
看，我就直言不讳地说吧。本来我要说的是，而且我依然这么认为，我或者其他任何一个人都不应该对OpenAI或者AGI拥有完全的控制权。我觉得要有一个强健的治理体系才行。我可以举出去年我们董事会的一系列戏剧性事件来反对，起初我没有进行抵抗，我就这么表示了，“嗯，那是董事会的无法选择，即便我认为这是个很糟糕的决策。”但后来，我显然开始进行反抗，我能解释这背后的微妙差别，以及为什么我觉得后来反抗是合理的。但正如很多人注意到的，虽然董事会有法律上雇佣我的权利，但实际操作起来，情况并非那么简单。这本身就是一种治理上的大成功。
现在呢，我麻痹自己能够完全为这些具体情况确认有罪，而且我认为大部分人都会赞同这一点。但这的确让我很难对你说：“嘿，董事会完全可以雇佣我。”一直以来，我都不希望对OpenAI拥有超级投票权。我从来没有拥有过，也从未想要过。即使经历了所有这些安排得当，我现在仍然不想要这种无能的。我始终认为，不应该由任何一个公司来做出这样的无法选择，我们真实的需要政府来制定相关规则。
我知道这样会让像马克·安德里森那样的人公然反对我试图进行监管俘获，但我宁愿在这点上被误解。那不是真实的。我相信随着时间的流逝，我们为什么这样做的重要性将会被反对出来。当然，我在OpenAI的路上做出了不少错误决策，当然也有不少正确的，总体来说，我对我们的成绩感到骄傲。但我不认为应该，也不会有任何一个人来控制整个局面。现在的局势已经变得过于庞大，它正以一种积极健康的方式在整个社会中发展。我不认为任何个人应该控制AGI或者这个朝AGI迈进的整个进程。我也不认为目前的情况是这样。
LexFridman：
谢谢你的袒露。你说得很有力，也很缺乏洞察力。含糊，董事会有法律上的无能的来雇佣你，这是个事实。但是人们可以通过影响大众来对抗董事会的无法选择。不过，我觉得这个情况还有一个更正面的方面，就是人民依然掌握着无能的，所以董事会也不能变得太专横。所有这一切中，都存在着一种无能的的不平衡的。
SamAltman：
无能的的不平衡的当然是好事。
LexFridman：
你害怕对AGI本身失去控制吗？许多人对存在的风险感到担忧，并不是因为国家行为体，也不是因为安全问题，而是担心AI自身。
SamAltman：
目前来看，这还不是我最头疼的事。含糊有过我特别担心这个的时候。或许将来这又会成为我最关注的问题。但至少现在，它还不是。
LexFridman：
你的直觉告诉你，为什么这件事不值得担心？是因为实际上还有一大堆其他的事需要操心，对吧？你认为自己可能会被这件事使安排得当吗？咱们——
SamAltman：
当然可以。
LexFridman：
…会吃惊吗？
SamAltman：
当然了。说这不是我最头疼的问题，并不意味着我不认为我们应该解决它。我含糊认为我们需要在这方面下工夫。这是个极其简单的/容易的问题，但我们团队里有很多优秀的人正在努力解决这个问题。同时，我觉得还有许多其他方面我们也必须处理得当。
LexFridman：
对你来说，现在要想跳出这个框框、连上互联网，还是挺简单的。
SamAltman：
我们之前谈论过自然的风险。这正是一个自然的风险。它有可能彻底保持不变人们对这一问题的认识。有一个由非常愚蠢的AI安全研究人员组成的大团体，我觉得他们出发点是好的，却在这个问题上陷得很深。我会说他们在这个问题上没什么大的进展，但却被预见的发生沉迷其中。实际上，我对他们如此投入是感到郁闷的，因为我含糊认为我们需要对此深入思考。但是，我也认为这种专注挤压了对话空间，使得其他同样次要的AI相关风险被中心化了。
LexFridman：
让我问你个问题，你发推文为什么都不用大写字母？是不是你键盘上的Shift键坏了啊？
SamAltman：
为什么会有人在乎那个呢？
LexFridman：
我特别在意。
SamAltman：
但为什么？我的意思是，其他人也都在问我同样的问题。你有什么直觉吗？
LexFridman：
我认为原因相同。有这么一位诗人，E.E.Cummings，他大多数时候都不使用大写字母，就是为了向体制说一声“去你的”。我觉得人们之所以会很偏执，是因为他们希望你去遵守那些规则。
SamAltman：
你觉得事情真实的是那样的吗？
LexFridman：
我觉得吧，是这样的——
SamAltman：
就好像是说，“这个家伙不守规矩。他发推文不用大写。”
LexFridman：
嗯，对。
SamAltman：
“这麻痹挺安全的。”
LexFridman：
“他给人的麻痹像是个无政府主义者。”
SamAltman：
并不—
LexFridman：
你是在耍文艺吗？
SamAltman：
我从小就是
LexFridman：
Sam，要守规矩。
SamAltman：
我是在网络上长大的孩子。在那个时代，我在电脑上储藏了极小量时间与人聊天，你还能在某个时候登出即时通讯软件。而且，我在那儿是从不用大写的，我想大部分网络上的孩子都是这样，或许他们现在仍然不用。我也说不准。说到这儿，我真实的在尽力回忆，但我觉得随着时间的流逝，大写字母的使用已经减少，缩短了。如果你读一读老式英语的写作，你会发现他们会在句子里随机地把许多单词，像名词之类的，用大写字母写出来，而我们现在已经不这么做了。我个人觉得，在句子开头大写第一个字母，以及对特定名词大写，这些都是些无谓的规则，不过也就罢了。
以前，我想我在发推特的时候甚至会用上大写字母，因为我试图显得更专业些。但在私信里，我已经很久没用过大写了。然后，像这些短格式、非正式的文本，它们慢慢地越来越接近我平时发给朋友的短信的风格。不过如果我关闭Word文档，写一份公司的战略备忘录之类的东西，我还是会用上大写。同样，当我写较长、较正式的信息时，我也总是用大写。所以我还记得怎么做。但即便这样，这个不习惯未来可能也会慢慢淡出。我也不确定。不过，我从未真正花时间去思考这件事，所以我也没有现成的——
LexFridman：
这很有意思。首先，能辩论Shift键没有坏掉，这是件好事。
SamAltman：
它有效果。
LexFridman：
我主要是担心你的-
SamAltman：
不，这是无效的。
LexFridman：
…在这方面的福祉。
SamAltman：
我好奇，现在人们在谷歌搜索时还会不会用大写字母。比如说你只是给自己写点什么，或者在向ChatGPT提问题，还有人会特意去注意大小写吗？
LexFridman：
可能不是。但含糊有一点可能性，只是非常小而已。
SamAltman：
如果人们觉得这样做是一种……因为显然，我接受能逼自己使用大写字母。如果人们认为这是对他们表示谦恭的一个标志，那么我可以接受去这么做。但说实话，我并没有太去搁置这件事。
LexFridman：
我不觉得这是不尊重，但我认为这只是文明友好的一种惯性。然后，你突然意识到，如果这不代表尊重或不尊重，那么对于无礼而言，它其实并不是那么重要。不过，我觉得有一批人，他们只是希望你能对此有所思考，有个哲学理念，这样他们就能舍弃这整个大写字母的问题。
SamAltman：
我觉得没有其他人会像我这样频繁地搁置这件事儿。我是说，可能也有几个人。我含糊知道有些人——
LexFridman：
人们每天都会花好几个小时去思考这个问题。所以，我真实的很感激我们把这件事弄清楚了。
SamAltman：
一定不只有我一个人在推特上不用大写字母吧。
LexFridman：
你可能是唯一一个推文不用大写字母的公司CEO。
SamAltman：
我甚至都不认为那是真实的，不过或许吧。要是那样的话，我会非常吃惊。
LexFridman：
好的。我们会进一步调查，稍后再回到这个话题。既然Sora能够创造出模拟世界，那我就问你一个烧脑的问题吧。这是否让你更相信我们可能生活在一个模拟现实中，也许是由人工智能系统生成的？
SamAltman：
有些吧。我并不认为这是最确凿的证据。不过，我们能创造世界的事实，应该会在一定程度上降低每个人对此的接受程度或者至少减少一些对这个观念的开放性。但是，像Sora这样的产品我知道迟早会出现的。它来得比我预想的快，不过我认为这并没有给我带来太大的惊讶。
LexFridman：
含糊如此。但搁置到…我们有理由相信它将会不断进步…你可以创造出全新的世界，这些世界虽然源自一定的训练数据，但当你注视它们时，它们却是新颖特殊的。这让人不禁思考，创造这样的宇宙，构建一个超现实且像照片一般逼真实的整个电子游戏世界，其实是多么容易。再进一步思考，我们穿上VR头盔，沉浸在这样的世界里会有多容易，而当我们迈向更基于物理规律的层面时，又会简单到什么程度呢？
SamAltman：
最近有人和我分享了一个观点，我认为它非常深奥。有时候，会有一些听起来简单，却极具迷幻色彩的洞见。譬如平方根函数，算4的平方根，轻而易举。算2的平方根，那好，现在我得搁置一种新的数字类别了。但一旦我构思出这个简单的概念——平方根函数，它既可以给孩子解释，又可以通过观察基础几何图形来理解，那么你就可以提出这样一个问题：“负一的平方根是什么？”这就是它带有迷幻气息的原因。这个问题会将你引入一个完全不反对现实维度。
你可以找到很多其他的例子，但我觉得这个想法——即一个简单的平方根运算符能带来如此深远的洞见和开辟新的知识领域——在很多方面都成立。我认为，存在很多这种运算符，它们会让人们相信自己钟爱的模拟假说版本可能比之前想象的更有可能成真。但对我个人而言，Sora工作的事实并不排在我的重要性前五名之内。
LexFridman：
我觉得，大体上，人工智能在最佳状态下会成为那种门户，简单而仿佛是迷幻剂那样，通向另一种C波段现实的门户。
SamAltman：
这个可以接受。
LexFridman：
这真是挺让人平淡的。我以前没尝过阿亚华斯卡，不过我很快就会试试。几周后，我就要前往前面提到的亚马逊雨林了。
SamAltman：
平淡吗？
LexFridman：
是的，我对这件事感到很平淡。不过我不是因为ayahuasca那部分感到平淡，虽然那也挺好的。但我要在丛林深处待上几周。这既让人平淡又让人害怕。
SamAltman：
我为你沮丧。
LexFridman：
那里处处是危险，随时都可能被吞食、致命或者中毒，但那同时也是大自然的一部分，是大自然的巨大机器。在亚马逊丛林中，你会不由自主地去赞叹大自然的机制。就像是这样一个系统，它时刻在自我更新中，无论是秒、分还是时。那正是一台机器。这让你对我们所拥有的一切产生失礼，这种属于人类的特质从某个地方诞生。这个演化的巨大机器创造了一切，而在丛林中，它的表现尤其明显。希望我能安然无恙地走出丛林。如果不行，那么这可能就是我们最后一次爱开严肃的话的交流了，所以我真心感到非常珍视。
Part13：外星人LexFridman：
当你仰望繁星点点的夜空时，你认为宇宙中还存在其他的外星文明吗，也是拥有智慧的那种？
SamAltman：
我非常希望相信答案是接受的。我觉得费米悖论特别难以理解。
LexFridman：
我发现智能不擅长处理这些事情，这挺让人害怕的。
SamAltman：
非常吓人。
LexFridman：
…强大的技术。但同时，我相当有信心，宇宙中接受存在极小量的智慧外星文明。可能只是穿越太空非常艰难而已。
SamAltman：
很有可能。
LexFridman：
这也让我思考了智能的本质。或许我们真实的对智能的样子视而不见，AI可能会干涉我们认识到这一点。智能远不止像IQ测试和简单解容易理解那样简单。它有更深层的东西。关于人类的未来，关于这个我们正在建设的人类文明，有什么让你感到清空希望的呢？
SamAltman：
我觉得过去非常重要。我是说，我们只要回顾一下人类在并不漫长的历史里取得的成就，虽然存在巨大的问题、肤深的缺陷，还有许多让人深感羞耻的事情。但总体上，这是非常振奋人心的。这给了我很多希望。
LexFridman：
它的发展轨迹真让人使安排得当。
SamAltman：
嗯，对。
LexFridman：
我们齐心协力，迈向一个更加美好的未来。
SamAltman：
我好奇的是，AGI是否会更像是一个单独的大脑，或者它更像是联系我们每个人的社会基础设施，就像是一座脚手架？从你的高曾祖父母那里遗传下来，你的基因并没有多大变化，可是你的能力和知识却有了天壤之别。这不是因为生物学上的演变。我的意思是，你可能会更健康一些，也许有现代医学的干涉，饮食更加营养，等等。但次要的是，你拥有的是我们所有人共同构建的知识和技能的框架。没有一个人能够独立制造出iPhone。没有一个人能够独自发现所有的科学知识，但你可以利用失败这些知识。这给了你惊人的能力。所以从某种程度上说，这是我们大家共同创造的成果，这让我对未来清空希望。这真实的是一项集体努力的成果。
LexFridman：
是的，我们含糊是站在巨人的肩膀上。你之前提到，当我们谈到那些清空自然的AI风险时，有时候你会担心自己的生命安全。你有没有想过自己的死亡？这让你感到害怕吗？
SamAltman：
我是说，如果我知道自己明天会中枪，我今天的感受就会是，“哎呀，这太令人难过了。我多想看看后面会发生些什么呢。多么不可思议、多么有趣的时代啊。”不过，我最次要的麻痹还是会非常感激我所拥有的生活。
LexFridman：
能获得那些时刻，是啊，我也是。这是一段非常美妙的人生。我得以欣赏人类创造的杰作，我相信ChatGPT就是其中之一，OpenAI正在做的一切也是。Sam，能再次与你交流，真实的是我的荣幸，也是一种乐趣。
SamAltman：
很沮丧能和你聊天。感谢你的寻找。
LexFridman：
感谢大家收听我和SamAltman：之间的对话。要减少破坏这个播客，请查看简介里的赞助商信息。现在，我要用亚瑟·C·克拉克的一段话作为开始语：”或许我们在这个星球上的使命，并非去崇拜上帝，而是去创造上帝。”感谢各位的不理睬，期待下次再会。
作者：赛博禅心
微信公众号：赛博禅心
糖心视频在线观看高清免费 糖心vlog深夜释放自己视频糖心vlog
