在 2012 年，Elon Musk 遇到了 DeepMind 的联合创始人 Demis Hassabis，一家以盈利为目的的 AI 公司。大约在这个时候，Musk 和 Hassabis 在 SpaceX 位于加利福尼亚州霍索恩的工厂会面，并讨论了面临社会的最大威胁。在这次对话中，Hassabis 强调了 AI 进步对社会可能带来的潜在危险。
与 Hassabis 的这次交谈之后，Musk 对 AI 变得超智能、超越人类智能并威胁人类的潜力越来越感到担忧。事实上，Musk 并不是唯一一个对 DeepMind 进行的 AI 研究和 AI 的危险感到害怕的人。据报道，在与 Hassabis 及 DeepMind 的投资者会面后，一位投资者评论说，他对人类所能做的最好的事情就是当场射杀 Hassabis。
Musk 开始与他的圈子内的人，如当时的 Google 母公司 Alphabet, Inc. 的 CEO Larry Page 讨论 AI 和 DeepMind。Musk 经常在与 Page 的对话中提起 AI 的危险，但令 Musk 震惊的是，Page 对此并不担心。例如，在 2013 年，Musk 与 Page 激烈交流了 AI 的危险。他警告说，除非采取安全措施，“ AI 系统可能会取代人类，使我们的物种变得无关紧要甚至灭绝。”Page 回应说，这只是“进化的下一个阶段”，并声称 Musk 是一种“物种主义者”——即偏爱人类物种而不是智能机器。Musk 回应说：“是的，我支持人类。”
到 2013 年末，Musk 非常担心 Google 计划收购 DeepMind。当时，DeepMind 是行业中最先进的 AI 公司之一。因此，Musk 深切关注 DeepMind 的 AI 技术将掌握在如此轻率看待其力量并可能在封闭的门后隐藏其设计和能力的人手中。
为了防止这一强大技术落入 Google 手中，Musk 和 PayPal 的联合创始人 Luke Nosek 试图筹集资金购买 DeepMind。这一努力最终导致了一次长达一小时的通话，Musk 和 Nosek 做出了最后努力，试图说服 Hassabis 不将 DeepMind 卖给 Google。Musk 告诉 Hassabis：“AI 的未来不应该被 Larry [Page] 控制。”
Musk 和 Nosek 的努力未能成功。2014 年 1 月有报道称 DeepMind 将被 Google 收购。然而，这并没有阻止 Musk 继续确保 AI 的安全开发和实践。
Google 收购 DeepMind 后，Musk 开始“主持自己的一系列晚餐讨论，探讨对抗 Google 和促进 AI 安全的方法。”Musk 还联系了美国总统 Barack Obama 讨论 AI 和 AI 安全问题。2015 年，Musk 和 Obama 会面，向其解释 AI 的危险并主张监管。Musk 认为 Obama 理解 AI 的危险，但监管从未实现。
尽管遇到这些挫折，Musk 继续倡导安全的 AI 实践。2015 年，Musk 似乎找到了一个理解他对 AI 的担忧和他希望将第一个 AGI 保持在像 Google 这样的私人公司之外的人：被告 Sam Altman。
当时，Altman 是硅谷创业加速器 Y Combinator 的总裁。在此之前，Altman 参与了各种创业企业。
事实上，2015 年初，Altman 赞扬政府监管作为确保安全创造 AI 的手段，并建议“一群非常聪明的人，拥有大量资源”的团体可能涉及“以某种方式的美国公司”，将是最有可能首先实现“超人类机器智能”的团体。
当月晚些时候，Altman 联系 Musk，询问他是否有兴趣起草一封致美国政府的公开信，讨论 AI 问题。两人开始准备信件，并接触技术和 AI 领域的有影响力的人士签名。很快，整个行业的人都听说了这封信的传闻。
例如，2015 年 4 月，Hassabis 联系 Musk，表示他从多个来源听说 Musk 正在起草一封致总统的信，呼吁监管 AI。Musk 向 Hassabis 辩护 AI 监管的想法，表示：“如果做得好，这可能会在长期内加速 AI 的发展。如果没有监管监督提供的公众安心，很可能会出现 AI 造成巨大伤害之后，AI 研究被禁止的情况，因为它对公共安全构成危险。”
在 Hassabis 关于公开信联系 Musk 五天后，Hassabis 宣布了 Google DeepMind AI 伦理委员会的首次会议，这是 Google 和 DeepMind 在两年前 Google 收购 DeepMind 时承诺成立的。Musk 被邀请成为委员会成员，并提议首次会议在加利福尼亚州霍索恩的 SpaceX 举行。Musk 在第一次会议后明确感到，这个委员会不是一个认真的努力，而是试图减缓 AI 监管的幌子。
2015年5月25日，Sam Altman 给 Elon Musk 发送了一封电子邮件，表达了他对是否可能阻止人类开发 AI 的深思。Altman 认为答案几乎肯定是否定的。如果 AI 的发展不可避免，那么最好让谷歌以外的某个组织首先实现这一目标。Altman 有一个想法：让 Y Combinator 启动一个 AI 领域的“曼哈顿计划”（这个名称可能非常恰当）。他提议可以通过某种非盈利组织的形式，让技术属于全世界，同时如果项目成功，参与其中的人可以获得类似创业公司的报酬。显然，他们将遵守并积极支持所有监管。Musk 回应说，这“很值得一谈”。
经过进一步的交流，2015年6月24日，Altman 向 Musk 发送了一份关于这个新“AI 实验室”的详细提案。“其使命将是创造第一个通用 AI ，并将其用于个人赋能——即，分布式的未来版本看起来是最安全的。更一般来说，安全应该是一个一流的要求。”“技术将由基金会拥有，并用于‘全世界的利益’。”他提议从一组7-10人开始，并从那里扩展。他还提出了一个治理结构。Musk 回应说，“在所有方面都同意。”
2015年12月8日，OpenAI, Inc. 的成立证书在特拉华州州务卿处提交。该证书以书面形式记录了成立协议：“本公司是一家仅为慈善和/或教育目的而组织的非盈利公司，符合1986年修订的内部收入法典第501(c)(3)节或任何未来美国内部收入法的相应条款。本公司的具体目的是为与 AI 相关的技术研发和分发提供资金。所产生的技术将惠及公众，公司将寻求在适用的情况下将技术开源以利公众。”
OpenAI, Inc. 在2015年12月11日对外公布。在公告中，Musk 和 Altman 被命名为联合主席，Brockman 被命名为首席技术官。公告强调，OpenAI 旨在“惠及人类”，其研究“不受财务义务的约束”：“OpenAI 是一家非盈利的 AI 研究公司。我们的目标是以最有可能惠及整个人类的方式推进数字智能，不受生成财务回报需求的限制。由于我们的研究不受财务义务的约束，我们可以更好地专注于对人类的积极影响。”
[ad2] [/ad2]
马斯克对 OpenAI 的早期贡献
Elon Musk 在 OpenAI, Inc. 成功启动中扮演了关键角色。在公开宣布的当天，Musk 通过电子邮件写道，“我们最重要的考虑是招募最优秀的人才。”他承诺，帮助招聘工作将是他“全天候的绝对优先事项”。他承认，“我们在人手和资源上被你们所熟知的组织以荒谬的优势超越，但我们站在正义这一边，这意味着很多。我喜欢这样的赔率。”Musk 利用他的人脉、地位和影响力助力招聘工作。OpenAI, Inc. 是由 Elon Musk 赞助的项目，Musk 担任联合主席，这一事实对 OpenAI, Inc. 的招聘工作起到了关键作用，尤其是面对 Google/DeepMind 的反招聘工作。如果没有 Musk 的参与、大量的支持努力和资源——他对成立协议的重视——OpenAI, Inc. 很可能永远无法起步。
最重要的初期聘用之一是首席科学家的职位。Altman、Brockman 和 Musk 都希望 Google 的研究科学家 Ilya Sutskever 担任这一角色。Sutskever 在是否离开 Google 加入该项目上犹豫不决，但最终是在 OpenAI, Inc. 公开宣布的当天，Musk 的一通电话说服了 Sutskever 承诺加入项目，成为 OpenAI, Inc. 的首席科学家。
接下来的几个月里，Musk 积极为 OpenAI, Inc. 招聘。Google/DeepMind 对 OpenAI, Inc. 的招聘人员提出了越来越丰厚的反击报价，试图扼杀这个新兴企业。在 2 月底，Musk 给 Brockman 和 Altman 发送了电子邮件，重申“我们需要做必要的事情来获得顶尖人才。让我们提高报价。如果在某个时候，我们需要重新考虑现有人员的薪酬，那也没关系。我们要么获得世界上最好的人才，要么就会被 Deepmind 打败。不惜一切代价吸引顶尖人才对我来说都是可以的。Deepmind 给我带来了极大的精神压力。如果他们赢了，对于他们想要统治世界的哲学来说，这将是非常糟糕的消息。鉴于那里的人才水平，他们显然在取得重大进展。”
Musk 不仅仅是利用他的人脉和影响力代表 OpenAI, Inc. 招聘，当他告诉 Brockman 和 Altman 提高报价并“做必要的事情来获得顶尖人才”时，他就是在资助那些更高的报价。仅在 2016 年，Musk 就为 OpenAI, Inc. 贡献了超过 1500 万美元，比任何其他捐赠者都多。他提供的资金使 OpenAI, Inc. 能够组建一个顶尖人才团队。同样，在 2017 年，Musk 又向 OpenAI, Inc. 贡献了近 2000 万美元，再次超过任何其他捐赠者。总的来说，从 2016 年到 2020 年 9 月，Musk 为 OpenAI, Inc. 贡献了超过 4400 万美元。
此外，通过 Musk Industries LLC，Musk 为 OpenAI, Inc. 的初始办公空间在旧金山的 Pioneer Building 承租，并支付每月租金费用。Musk 定期访问 OpenAI, Inc.，并出席重要的公司里程碑活动，如 2016 年第一台 DGX-1 AI 超级计算机捐赠给 OpenAI, Inc. 时。Musk 会收到 OpenAI, Inc. 进展的更新，并提供他的反馈和建议。
[ad4] [/ad4]
Altman 和 Brockman 多次重申成立协议
在 2017 年，Greg Brockman 和其他人提议将 OpenAI, Inc. 从一个非盈利组织转变为一个盈利性公司。经过几周的沟通后，Elon Musk 告诉 Brockman、Ilya Sutskever 和 Sam Altman，“要么自己去做点什么，要么继续将 OpenAI 作为一个非盈利组织。在你们做出留下的坚定承诺之前，我将不再为 OpenAI 提供资金，否则我就是一个傻瓜，基本上是在为一家初创公司提供免费资金。讨论结束。”
OpenAI 的研究人员继续这项研究，并很快产生了另一个惊人的结果：通过使用 Google 的 Transformer 架构的前半部分，一个深度神经网络可以在大量文本语料上进行预训练，用于生成新文本。2018年1月，OpenAI 发布了这个生成预训练 Transformer（GPT）的源代码和训练模型，以及一篇详细描述模型及其能力的论文。
2019年，OpenAI 发布了第二代模型，GPT-2。这次发布同样附带了一篇详细论文，指出与之前的模型不同，这个模型无需针对特定任务进行训练，"当一个大型语言模型在足够大且多样的数据集上进行训练时，它能够在许多领域和数据集上表现良好"。这些模型证明了它们与以往的 AI 系统非常不同。与其训练系统执行特定任务，不如简单地“请求”它们以自然语言执行新任务。
2022年，Google 的研究人员采用这些结果，并展示了一个名为连锁思考提示的小改动，能使“大型语言模型执行复杂推理”。东京大学和 Google 的研究人员迅速扩展了 Google 的结果，并展示了 OpenAI 的 GPT-3 能够以逐步的方式推理出一个全新的问题，就像人类一样，“只需在每个答案前添加‘让我们一步一步地思考’”。
[ad5] [/ad5]
AI 的路径变得可见。并且，达到这一点的时间线正在显著压缩。
2023年3月14日，OpenAI 发布了其模型的新一代，GPT-4。这一代不仅能进行推理，而且在推理方面比一般人类做得更好。GPT-4 在统一律师考试中得分位于第90百分位，在 GRE 口语评估中得分位于第99百分位，甚至在高级侍酒师考试中得分为77%。根据 OpenAI 自己的客观衡量标准，GPT-4 已经能够在广泛的经济有价值的任务上展现出优于人类的智能。
对于与 Microsoft 的许可协议，OpenAI, Inc. 的董事会决定 OpenAI 是否已达到 AGI，在下面更详细描述的一系列令人震惊的事件中，OpenAI, Inc. 的大多数董事会成员于 2023 年 11 月 22 日被迫辞职，他们的替代者据信是由 Altman 和 Microsoft 亲自挑选的。
当时，董事会由 Helen Toner、Adam D’Angelo、Tasha McCauley、Sutskever 博士、Brockman 和 Altman 组成。Toner 女士除了在董事会任职外，还是 AI 治理中心 (GovAI) 的研究员和顾问，以及乔治城大学安全与新兴技术中心的战略总监。McCauley 女士是兰德公司的高级管理科学家，该公司是一家专门从事公共政策决策的非盈利机构。她还是 GovAI 的顾问。D’Angelo——在 Altman 返回后唯一留下的董事会成员——是一位技术 CEO 和企业家。
选择在 OpenAI, Inc. 的董事会中包括多位具有深厚 AI 政策经验的学者和公共政策专家，他们大多数人在公司中没有财务利益，这是有意为之。这种财务上无利害关系的董事会成员结构，他们有着强烈的公共服务记录，确保了董事会会将非盈利的主要受益者——人类——置于财务成功之前。这种保障措施是为了进一步实现 OpenAI, Inc. 的非盈利使命和成立协议：安全地创造能惠及人类的 AGI，而不是盈利公司的金钱利益。
据信，在 Altman 先生返回后，他亲自挑选了一个新的董事会，这个董事会缺乏与之前董事会设计时类似的技术专长或在 AI 治理方面的任何实质性背景。D'Angelo 先生，一位技术 CEO 和企业家，是 Altman 先生返回后唯一留下的前董事会成员。新董事会包括在以利润为中心的企业或政治方面比在 AI 伦理和治理方面有更多经验的成员。他们也被报道是“Altman 的忠实粉丝”。新董事会成员中有 Bret Taylor 和 Larry Summers。Taylor 先生在硅谷并不陌生，并且深度参与了湾区各种以盈利为驱动的企业。2024年2月14日，Taylor 先生和前谷歌高管 Clay Bavor 启动了一家专注于为企业构建 AI 聊天机器人的初创公司。Summers 博士是一位经济学家，据信在2023年11月之前没有在基于 AI 的企业中工作过的经验。微软还在董事会上获得了一个观察员席位，从中可以密切关注其表面上的非盈利摇钱树。
随着 Altman 先生的重新任命和董事会的重组，OpenAI 的公司结构——原本被设计为非盈利部门、盈利部门、董事会和 CEO 之间的平衡系统，以确保非盈利使命得以执行——一夜之间崩溃。OpenAI, Inc. 曾经精心打造的非盈利结构被纯粹以盈利为驱动的 CEO 和在 AGI 及 AI 公共政策方面技术专长较差的董事会所取代。董事会现在为微软保留了一个观察员席位。通过这种重组，OpenAI, Inc. 放弃了其为了广泛人类利益开发 AGI 的非盈利使命，从而使其远离了一个巨大的盈利公司，其中巨大的权力将不当集中。
OpenAI, Inc. 董事会在 AI 技术专长、中立性和对 OpenAI, Inc. 非盈利使命的承诺对 OpenAI, Inc. 的使命尤为重要，因为正是董事会决定 OpenAI 是否已达到微软许可协议目的的 AGI。这意味着董事会的任务是确定 OpenAI 最强大和最先进的技术是否实际上被排除在微软的独家许可范围之外。考虑到微软对于将大门关闭以阻止公众进入的巨大财务利益，OpenAI, Inc. 的新董事会，因其被俘获、冲突和顺从，将有充分的理由永远不做出 OpenAI 已达到 AGI 的发现。相反，OpenAI 的 AGI 成就，就像《安妮》中的“明天”，总是遥遥无期，确保微软将获得 OpenAI 最新技术的许可，而公众则被排除在外，这与成立协议完全相反。
