“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类缩略图

“OpenAI Mafia”即OpenAI 黑帮,一词指的是OpenAI离职的员工或创始人们,他们继承了“Paypal黑帮”的风范,如今已成为硅谷最炙手可热的创业群体,每个人都备受风险投资(VC)青睐,动辄获得数十亿美元的融资。例如,前OpenAI科学家Ilya Sutskever刚刚在天使轮融资中获得了10亿美元的资金。

一、OpenAI的道路之争,安全与否?

毫无疑问,OpenAI依然如日中天,尤其是在刚刚推出了全新模型的情况下。公开资料显示:

“OpenAI的最新估值已高达1500亿美元,累计融资金额超过130亿美元。截至2024年5月24日,公司营收为34亿美元,2023年全年的收入为20亿美元,增长十分迅速。”

然而,OpenAI最初在2015年成立时,是一个致力于人工智能研究的机构,而非商业公司。其使命是开发“安全且有益”的通用人工智能(AGI)。因此,11位创始人,虽然有着多元的文化和民族背景,达成共识,建立了一个特殊的治理结构。董事会由三名独立董事和三名OpenAI创始人组成,其主要职责是确保AI的安全性。

“所谓的AI安全,指的是如何防止AI技术对人类产生潜在危害。”

这个话题在学术圈已讨论多年,许多科学家和企业家都担心失控的AI可能会违背人类利益,甚至威胁到人类的生存而对于如何实现AI安全,团队内部的意见分歧最终成为OpenAI创始团队分裂的核心原因。

OpenAI的公司章程规定,董事会的“首要法定义务是对全人类负责”,而不是对投资者和员工负责。这也为董事会在后面的“政变”中提供了“合法性”。2023年11月16日,Sam Altman收到了一条来自Ilya Sutskever的短信,附带一个Google Meet会议链接,这场线上会议的目的正是为了罢免Altman,在董事会中只有同为犹太人的Greg和他是一边,且一同被罢免。其余两位昂撒裔、意大利裔和俄罗斯裔则坚定地站在了一起。

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类插图

OpenAI董事会成员,上排左一,左二为犹太裔,左三为俄罗斯裔;下排左一和左三均为昂撒裔,左二为意大利裔。

罢免Altman的原因就是安全问题,甚至有人指责他背离了最初的使命。当时,OpenAI开始使用AI生成的数据来训练模型,而这项技术正是由Ilya Sutskever主导开发的。Ilya对这种技术的潜在问题非常清楚,他担心这种方式会导致数据质量下降。事实上,Ilya的担忧后来得到了验证,AI生成的数据确实污染了OpenAI原有的数据库,最终导致OpenAI不得不进行大规模的人工清理工作。

IIya认为,OpenAI管理层类似的行为已经是屡见不鲜,屡教不改了。他们似乎为了加快商业化进程,对潜在风险和伦理问题都置若罔闻。IIya的忍耐达到了极限,于是发动了政变。后面的剧情我们都知道,Sam Altman回归,Ilya Sutskever离职,并在2024年9月5日宣布成立了新的大模型企业——安全智能(Safe Superintelligence,SSI)。SSI在天使轮获得了10亿美元融资,由A16z和红杉资本领投,估值推测达到了50亿美元。

事实上,早在2021年,OpenAI的研发副主管Dario Amodei就因安全理念不合,带领OpenAI安全与策略部门的副总监Daniela Amodei一起离职,创办了Anthropic,致力于打造更安全的AI系统,并迅速成为OpenAI的主要竞争对手,当前估值180亿美元,累计融资额接近100亿美元。

二、AGI为什么注定毁灭人类?

Elon Musk之前退出OpenAI的一个重要原因就是因为对其安全标准不满,选择退出董事会。因此在这场内部权力斗争中,Musk支持Ilya。他公开表示,Ilya是一位道德高尚且不热衷权力的人,除非他认为情况非常紧急,否则他不会采取如此极端的行动。值得一提的是,Ilya正是当年Musk亲自招募进OpenAI的。

因此,Elon Musk 创办了大模型企业 XAI。这个名字背后含义深远:首先,Elon 对字母“X”有着特别的偏爱,如 X.com(支付公司)、SpaceX,以及推特更名为 X;其次,XAI 在计算机科学领域代表 “Explainable Artificial Intelligence”(可解释人工智能),这一概念是解决 AI 安全问题的起点和终点。简而言之,可解释 AI 被认为是安全的,如机器学习和专家系统;而不可解释的 AI 被认为存在潜在风险,因为它们的操作过程如同黑箱,无法完全理解,典型代表是深度学习和大语言模型。

事实上,可解释 AI 是最早兴起的人工智能解决方案,作为20世纪60年代至70年代的主流学派,深受符号主义心理学的影响。其设计基于可解释的规则,通常采用有监督学习,强调透明的推理过程。然而,连接主义学派在当时遭受了不少质疑,直到 深度学习之父Geoffrey Hinton 提出了前馈算法,连接主义 AI 才逐渐进入主流,并为后来的深度学习奠定了基础。

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类插图1

许多早期的人工智能先驱源于认知科学背景,他们通过深入研究和模拟人类思维,推动了 AI 的发展。心理学家 Geoffrey Hinton,作为深度学习的奠基人,不仅推动了黑箱 AI 的崛起,也因为他的认知科学背景,比其他计算机学者更敏锐地意识到黑箱 AGI 所潜藏的作恶风险(笔者就是学这个专业的,核心技能是统计)

目前,许多新兴的AI大模型企业将认知科学的背景视为一个“优势因素”,并认为认知科学或脑科学有可能成为超越Transformer架构局限的关键路径。

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类插图2

图为某AI公司招聘要求,要求认知科学背景

同样,Hinton的学生 Ilya Sutskever(OpenAI首席科学家,创始人,物理学本科)凭借扎实的自然科学功底,对人类学习机制有着独到的见解。他们不仅关注 AI 模型的高效性,更执着于挖掘其内在的科学原理与可解释性。

问题的根源在于,现有的黑箱模型在处理海量数据时,不加甄别地吸收了大量未经过滤的、有害的信息。而这些有害数据,实际上在规模上可能远远超过有益数据。

由于 AGI 具备人类级别的泛化学习能力,出于“下一个词预测”的概率原理,它在运行中更有可能输出对人类不利的结果(其实已经有大量学术研究证明了这一点)。再结合物联网(IoT)等技术的广泛应用,AGI 不仅仅是虚拟世界中的隐患,它还有可能将有害的决策付诸现实,灭绝人类的理论风险因此变得不可忽视。

相比之下,Elon  Musk是物理学背景,但是和Ilya不同,Elon完全不会coding ,也不懂统计,不懂统计又不懂coding,却热衷AI,且执着认为 AGI 会毁灭人类,很明显他就是在蹭流量。事实上Elon不是技术专家,很多硅谷软件工程师明确指出Elon musk就是一个把他人(集体)成果说成个人成就的一个Poser,他是一个营销大师,从xAI这个名字就看出来了,的确实很牛。

相比之下,Sam Altman 是计算机本科出身,但他学习coding的时候,AI非常冷门,所以他没有研究过AI算法。许多拥有计算机背景的工程师往往只是使用现成的 AI 模型,而对其底层原理的认知则较为模糊。因此,Altman 对 AI 作恶的潜在风险认知可能是不足的。毕竟,从现有 AI 的能力来看,生成几段文字或图片似乎与“灭绝人类”这样的灾难性后果相去甚远。

三、犹太实用主义还是白人拯救世界?

截止当前,我们已经看到三家致力于打败OpenAI,防止OpenAI作恶的公司了;事实上这个现象不仅是技术理念和商业道德标准的不合,更是不同宗教,价值观的割裂(例如,Sam Altman为犹太裔,Elon Musk则是昂撒白人),2022年犹太作家乔舒亚·科恩的小说《内塔尼亚胡一家》获得普利策奖,书中通过自我剖析,批判了美国犹太人主人公精于算计,对钱天生敏感,且信奉一个关键逻辑,即以我为主,为我服务的绝对性立场和思想,他们将“民主”视为压制异见的工具,而非其真正意义。为了实现这种“民主”,让犹太裔或其支持者占据人口多数,成为了必要手段。

而Musk则是反犹先锋,支持巴勒斯坦,在社交媒体X上点赞“大替代”阴谋( Grand Remplacement ),这一理论和《内塔尼亚胡一家》遥相呼应,声称犹太人和左翼人士通过非白人移民逐步取代白人,最终导致所谓的“白人灭绝”,这一立场加剧了与某些犹太群体的紧张关系。

由于理念分歧, OpenAI的11位创始人中已有8位离开公司。此外,大量核心员工也纷纷出走,许多人选择创办或加入了OpenAI的竞争对手。

此外,OpenAI长期因安全问题遭受公司内部、学界和产业界的批评,可谓腹背受敌。为了回应这些批评,OpenAI在最新发布的ChatGPT O1模型中针对安全问题做出了大量改进,试图改变外界对其的负面评价。

四、OpenAI Mafia(黑帮)创办的AI公司

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类插图3

原创图:OpenAI黑帮创业项目

根据OpenAI 2016-2022年间向美国国税局(IRS)提供的990表格,以及媒体报道显示,OpenAI从创始至今核心成员有44人,其中33人目前已经离职,其中19人目前参与创办了 13家人工智能企业,或者在人工智能初创企业中担任要职。

11位创始人有8位已经离职,仍然留在OpenAI的三位创始人是:

  1. Sam Altman,OpenAI 首席执行官  ;

  2. Greg Brockman,OpenAI 总裁 ,已经休假一年,有离职的可能;

  3. Wojciech Zaremba,OpenAI 语言和代码生成团队负责人 。

OpenAI Mafia总融资额为205亿美元,总估值超过640亿估值。其中融资额最大的企业是xAI,和Anthropic,分别融资60亿美元和97亿美元。

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类插图4

Figure 2:OpenAI Mafia创办的企业

Anthropic

• Anthropic PBC 是一家美国的人工智能初创企业和公益公司,专注于开发通用 AI 系统和语言模型,秉持负责任的 AI 使用理念。公司由 OpenAI 的前安全副总裁 Daniela Amodei、研究主管 Dario Amodei、政策主管 Jack Clark 等人创立。公司目前的总融资额为 97 亿美元,估值 180 亿美元。

• Anthropic 的核心产品是 Claude 3.5 Sonnet,它在各类任务和评估中表现卓越,特别是在除数学以外的多项任务中与 GPT-4o 相比得分更高或相近。Anthropic 还推出了 Claude.ai 的 Artifacts 功能,允许用户在生成代码、文本文档或网站设计时获得与之相关的工件。

 Inflection AI

• Inflection AI 是一家专注于机器学习和生成式 AI 硬件与应用程序的科技公司,成立于 2022 年,总部位于美国加利福尼亚州帕罗奥图。公司由企业家 Reid Hoffman、Mustafa Suleyman 和 Karén Simonyan 创立,并与英伟达合作开发生成式 AI 硬件。

• Inflection AI 于 2023 年 5 月推出了首款产品 Pi,这是一个定位为个人服务的 AI 聊天机器人,区别于 ChatGPT 的生产力工具功能。

Adept AI Labs

• Adept AI Labs 成立于 2021 年,主要负责开发 AI 软件以实现计算机任务自动化。创始人 David Luan 曾任 OpenAI 的工程副总裁,后加入谷歌领导 Google Brain 团队进行模型研发。公司已累计融资 4.15 亿美元,估值约 10 亿美元。

• Adept 的核心产品是 AI 助手 “ACT-1”,与 ChatGPT 类似,能够执行复杂的任务。

Covariant

• Covariant 是一家人工智能机器人公司,致力于构建通用人工智能,使机器人能够学习并操作现实世界中的任务,主要应用于仓储和物流行业。公司由四位创始人创立,其中包括 AI 机器人领域的著名科学家 Pieter Abbeel,三位创始人在创立 Covariant 之前都曾在 OpenAI 担任研究科学家。

• Covariant 自 2017 年成立以来,已累计融资 2.2 亿美元,估值为 6.25 亿美元。

Pilot

• Pilot 成立于 2016 年,提供成长型企业的簿记、税务和首席财务官服务。三位联合创始人分别为 Jeff Arnold(前 OpenAI 营运主管)、Jessica McKellar 和 Waseem Daher。Pilot 通过自动化簿记和财务报告来帮助企业降低成本和提高效率。

• 公司目前融资额为 1.72 亿美元,估值 12 亿美元。

Cresta

• Cresta 成立于 2017 年,由 Zayd Enam、Tim Shi 和 Sebastian Thrun 共同创立,旨在通过 AI 技术提升销售和服务团队的效率。Tim Shi 曾是 OpenAI 的技术员工,Sebastian Thrun 是 “自动驾驶之父”。

• Cresta 已融资 1.51 亿美元,估值 16 亿美元,并为客户创造了数百万美元的增量收入。

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类插图5

 xAI

• xAI 是 Elon Musk 于 2023 年创立的人工智能初创公司,由 OpenAI、Google DeepMind、微软研究院等公司前雇员组成。其目标是开发具备高阶逻辑推理能力的 AI 模型,超越现有模型。xAI 的核心产品 Grok 是一个生成式 AI 聊天机器人,能够实时回答用户问题。

• Grok 2 还具有基于与 Black Forest Labs 合作推出的扩散 AI 模型 Flux.1 的图像生成能力,并在多项基准测试中表现优异。

Eureka Labs

• Eureka Labs 是一家新的教育初创公司,由 OpenAI 联合创始人 Andrej Karpathy 于 2024 年创立。公司旨在创建 AI 原生学校,利用生成式 AI 增强学习体验。

• Eureka Labs 的首个产品是 AI 课程 LLM101n,帮助学生训练自己的 AI 模型,课程材料将在线提供。

Perplexity

• Perplexity AI 是一个由 AI 驱动的搜索引擎,通过自然语言预测来回答查询。公司于 2022 年成立,创始团队包括 Aravind Srinivas 和 Denis Yarats 等人。Perplexity 提供免费和付费版本,付费版本 Perplexity Pro 访问多种高级 AI 模型。

• 公司目前融资 2.5 亿美元,估值 30 亿美元。

Gantry

• Gantry 由 OpenAI 联合创始人 Vicki Cheung 创立,基于云原生技术构建,旨在评价 AI 模型的表现,并提供快速部署的工具。公司专注于模型的性能、数据质量、用户满意度等指标。

Poe

• Poe 是问答平台 Quora 于 2023 年推出的生成式 AI 聊天助手聚合平台,由 OpenAI 前董事 Adam D’angelo 创立。Poe 平台聚合了多个知名的聊天助手,包括 ChatGPT、Claude 和 Bard 等。

• Poe 采用按月和按年的订阅收费模式。

Safe Superintelligence Inc.

• Safe Superintelligence Inc. 由 OpenAI 联合创始人 Ilya Sutskever 创办,专注于构建安全的超级智能(SSI),公司将安全置于商业压力之上,目标是通过革命性的工程和科学突破来解决 SSI 问题。

Alignment Research Center (ARC)

• ARC 是一家非营利研究机构,致力于将 AI 的行为对齐人类价值观和预期利益。由 OpenAI 前研究员 Paul Christiano 创立,专注于识别和理解 AI 模型的潜在危害。

“OpenAI黑帮”使命:从邪恶的OpenAI手中拯救人类插图6

总结

这些曾经塑造 OpenAI 的人,如今正站在它的对立面,决意挑战自己亲手创造的技术。于是,OpenAI的叛逃者们便成了挑战巨人风车的现代唐吉坷德。不同的是,这场“战斗”不仅带有个人英雄主义的浪漫,也有源自对技术失控的现实恐惧。他们知道,真正的敌人不是技术本身,而是我们对技术的盲目崇拜和对其内在运作机制的无知。

本文来自微信公众号:爆米花独角兽,作者:VC Popcorn

普人特福的博客cnzz&51la for wordpress,cnzz for wordpress,51la for wordpress