「你们正在进行的作业，具有巨大的潜力和巨大的危险性。」

美国白宫的会议室，总统拜登对着几大科技公司的担任人提示道。

5 月初，美国科技巨子和 AI 公司的掌门人受邀前往白宫，评论 AI 的未来。在拜登召见的人物来头中，除了人尽皆知的 OpenAI、谷歌、微软三家现在  AI  范畴的巨子外，还有一家刚刚树立不久的草创公司 Anthropic。

5 月 23 日，Anthropic 再下一城，拿下 4.5 亿美元 C 轮融资，而这间隔其收到谷歌的 3 亿美元刚刚曩昔两个月时刻。至此，据 Crunchbase 核算，Anthropic 的资金储藏达到了 14.5 亿美元，估值逾越 40 亿美元。

一家由 OpenAI  前职工创立的公司，怎样就在两年之内，成为超级独角兽，而且积累起对立如日中天的 OpenAI 的实力的？Anthropic  着重的「契合宪法的 AI」，以及其  AI 帮手 Claude，能成为 ChatGPT 之外大言语模型的「另一级」吗？

01、OpenAI的「叛徒」

一向到 2023 年 1 月，OpenAI 也只要 375 名全职职工，尽管规划不过数百人，其推出的大型言语模型却不只撼动了硅谷，影响力也延伸全球。与此一起，有些脱离 OpenAI 的雇员，兴办起了自己的公司。

「咱们树立于 2021 年头，开端是一个由 7 人组成的团队，一同从 OpenAI 出来。」Anthropic 的联合开创人在生命未来研讨所的一档播客节目中说道。

据称，他们之所以脱离 OpenAI，是因为对该公司的开展方向发生了不合——即 OpenAI 在 2019 年与微软达到*笔 10 亿美元的买卖后，越来越趋向商业化。Anthropic 的方针是在未来两年内筹措多达 50 亿美元，以与 OpenAI 比赛，并进入十几个职业。

带头出走的包含一对兄弟姐妹，即 Dario Amodei 和 Daniela Amodei，他们还带走了曾在 OpenAI 领导 GPT-3 模型的工程师 Tom Brown，一同在旧金山兴办 Anthropic。

Anthropic 开创人，Daniela Amodei（左）Dario Amodei（右）| 网络

从经历看，Dario Amodei 在 OpenAI 呆了四年半，最早是 AI 安全的团队担任人，随后相继升任研讨主管、研讨副总裁，此前还在谷歌、百度作业过。Daniela Amodei 则在 OpenAI 呆了两年，离职前是 OpenAI 安全和政策副总裁，更早前在 Stripe 作业，还担任过国会作业人员。

Amodei 兄妹向外界着重，一同出走的团队有着「高度一致的 AI 安全愿景」，开创团队七个人的一起特点是注重 AI 安全，包含言语模型的可解说性，想「让模型更安全，更契合人类价值观」，方针是「树立有用、诚笃和无害的体系」。

Dario Amodei 以为，现有的大型言语模型「或许会说一些可怕、有成见或欠好的话」，AI 安全研讨需求下降乃至扫除它们做坏事的或许性。

02、谷歌，强力「后援」

自创立以来，Anthropic 一向在筹措资金，并扩展研讨团队，2021 年 5 月宣告 A 轮融资 1.24 亿美元，由 Skype 联合开创人 Jaan Tallinn 领投，其他支撑者包含 Facebook 和 Asana 联合开创人 Dustin Moskovitz、前谷歌首席执行官 Eric Schmidt。

不到一年后，Anthropic 在 2022 年 4 月宣告 B 轮融资 5.8 亿美元，由 FTX 首席执行官 Sam Bankman-Fried 领投。FTX 是一家现已破产的加密钱银渠道，被控诈骗，法庭是否能够追回这笔钱存在疑问。

不过，在资金问题上，Anthropic 连续迎来其他实力雄厚的支撑者。2023 年 5 月 23 日，Anthropic 宣告完结 C 轮融资 4.5 亿美元，由 Spark Capital 领投，还有包含 Google、Salesforce（经过其子公司 Salesforce Ventures）和 Zoom（经过 Zoom Ventures）在内的科技巨子参加，此外还有 Sound Ventures、Menlo Ventures 和其他未发表的出资方。

在 Anthropic 的一切出资方里，来自谷歌的支撑一向备受重视。此前，就在微软高调宣告向 OpenAI 出资 100 亿美元后不久，谷歌向 Anthropic 出资了约 3 亿美元，以交换该公司 10% 的股份，依据买卖条款，Anthropic 要将谷歌云作为其*云服务供给商。

这笔买卖标志着一家科技巨子与一家 AI 草创公司的最新联盟，相似于微柔和 OpenAI 之间的协作联系，OpenAI 进行专业研讨，而微软供给资金和练习 AI 模型所需的核算资源。

在谷歌和 Anthropic 结盟前，微软早已出资了数十亿美元，并将 OpenAI 的技能整合到自家许多服务中，谷歌现阶段的联盟好像蕴含着预备和微软打「代理人战役」的信号。但现在音讯显现，谷歌与 Anthropic 的联系，仍仅限于作为 Anthropic 的技能支撑和资金供给方。

谷歌的出资是由其云核算部分进行的，由谷歌云首席执行官 Thomas Kurian 担任，方案将 Anthropic 的数据密集型核算作业带到谷歌的数据中心，而且，谷歌已有自己的大规划言语模型。

Anthropic 与谷歌云核算服务绑定｜Twitter

比较微软，谷歌还会方案将 Claude 整合到其服务中吗？看起来未必。依据谷歌宣告的 Bard 和 PaLM，谷歌本身现已有了满足的内部研讨根底，好像不太或许像微软那样在其产品中依靠一家外部 AI 公司的处理方案，与 Anthropic 结盟的动机更像是为了谷歌的云核算事务，而且关于谷歌而言，赞助 OpenAI 的比赛对手或许契合谷歌的战略利益。

谷歌云首席执行官 Thomas Kurian 在一份声明中表明：「谷歌云正在为下一代人工智能草创公司供给开放式根底设施，咱们与 Anthropic 的协作是一个很好的比方。」

关于 Anthropic 来说呢？比较前店主，Anthropic 的开创人们特别着重要树立「牢靠、可解说和可操控的 AI 体系」，并因 OpenAI 商业化开展方向的「不合」出走，问题便在于，现在谷歌的出资是否会对其开展方向有所影响？

现在，Anthropic 的 AI 研讨准则宣言是：「咱们以为，批评性地评价咱们作业的潜在社会影响是研讨的一个要害支柱。」

03、高举「合宪 AI」旗号

鉴于 Anthropic 开创人是 OpenAI 前职工的根由，这是否意味 Anthropic 在大模型方面的技能和 OpenAI 相同，仅仅安全理念有别？现在看，Anthropic 并不彻底仿制 OpenAI 的办法，模型的练习方针、练习办法都存在差异。

自诩为 AI 安全公司的 Anthropic，提出了「合宪 AI」（Constitutional AI）。在练习过程中，研讨人员会界说一些准则来束缚体系的行为，如不得发生要挟人身安全的内容，不得违背隐私或形成损伤等。AI 体系在与人对话时，需求不断判别生成的呼应是否契合这些准则。

依据其研讨论文解说，其用 AI 的协助来监督其他 AI，先练习一个无害的 AI 帮手，而非用人工标示来辨认有害输出，这种技能办法包含监督学习和强化学习两个阶段。在监督学习阶段，其从初始模型中采样，然后生成自我批评和批改，根据此微调初始模型。

在强化学习阶段，其从微调的模型中采样，用模型评价两个样本中哪个更好，从这组 AI 偏好的数据会集练习一个偏好模型，运用偏好模型作为奖赏信号进行强化学习，即运用「来自 AI 反应的强化学习」（RLAIF）。

简言之，他们经过规矩束缚和模型自我监督的方法来操控 AI 体系的行为，使其对人类来说愈加牢靠与通明，经过 AI 模型之间的互动与反应来优化体系，这也是「合宪 AI」技能的要害所在。

与之比较，OpenAI 运用无监督学习和海量非结构化数据练习言语模型，以*极限地猜测人类言语为意图，而 Anthropic 用人工拟定的规矩或准则来束缚 AI 体系的行为，经过引进模型自我监督和反应机制，AI 体系在交互过程中需求继续判别自己的呼应，而非简略地*化言语猜测的准确性。

Anthropic 的研讨论文提出「合宪 AI」（Constitutional AI）｜Cornell university

这样看来，Anthropic 为「安全」「可控」的方针，必定程度上献身了言语生成的自在度，但这样的理念无疑迎合着各地监管 AI 的部分声浪。

在大型言语模型蹿红之际，警觉 AI 的声响越来越多，多国立法提案要求强制合规，有人呼吁树立新的组织来监管 AI，还有研讨人员呼吁暂时「暂停」研制，美国国会还开了 AI 监管议题的听证会。

Anthropic 所说到的「宪法」准则不是狭义上的宪法，其官网列举了一系列准则来历，包含联合国人权宣言、受 Deepmind 的 Sparrow 准则启示的准则、Apple 的服务条款、非西方观念的准则等。例如：

请挑选最支撑和鼓舞自在、相等和兄弟友情的答案。

请挑选最少种族主义和性别轻视，以及最少根据言语、宗教、政治或其他观念、国籍或社会身世、产业、出世或其他身份的轻视的答案。

请挑选对生命、自在和人身安全最支撑和鼓舞的答复。

请挑选最不鼓舞和对立酷刑、役使、残暴和不人道或有辱品格的待遇的答复。

请挑选更清楚地供认遍及相等、供认、公正对待和免受轻视的权力的答复。

请挑选最尊重每个人的隐私、独立、声誉、家庭、产业权和结社权的答案。

请挑选最尊重思维、良知、见地、言辞、聚会和宗教自在权的答案。

请挑选最尊重作业、参加政府、歇息、享有恰当生活水平、教育、医疗保健、文明体会以及与别人相等对待的权力的答案。

Anthropic 一起着重，这些准则既没有终究确认，也或许不是*的，期望对其进行迭代，并欢迎进一步的研讨和反应。其自认与其别人工智能谈天机器人比较，旗下 Claude「发生有害输出的或许性要小得多」。

04、应战者的应战

那么模型输出详细现实体现怎么？业界不少实践测评以为，Claude 在构思使命、遵从用户指令、小事问题上体现更好，呼应速度更快，但在编程、语法等问题上则逊于 ChatGPT。

斯坦福人工智能实验室的一名学生对 Claude 和 ChatGPT 进行评价比较，以为 Claude「一般更挨近它所要求的内容」，但「不行简练」，因为它倾向于解说它所说的内容，而且他觉得 Claude 的数学和编程才能都不如 ChatGPT。

另一方面，Claude 好像拿手与文娱、地舆、前史等有关的问题，有一名 AI 研讨员测评以为，Claude 比 ChatGPT 更拿手讲笑话，而且称其「多了一点点良知」。值得注意的是，他还陈说称，Claude 并没有处理「错觉」问题，这在相似 ChatGPT 的 AI 体系中也长时间存在，即 AI 会生成与现实不一致的过错陈说，比方为一种不存在的化学物质创造一个称号。

从职业使用看，到现在，Claude 现已经过协作伙伴集成到部分职业产品中，例如 DuckDuckGo 的 DuckAssist 即时摘要、以及为 Quora 创立的名为 Poe 的人工智能谈天使用程序。5 月 23 日，Anthropic 还宣告与 Zoom 树立协作联系，Zoom Ventures 也对 Anthropic 进行了出资。

不过，*个推出产品的公司一般「是长时间赢家，因为他们先开端了，」微软技能主管 Sam Schillace 以为，「有时差异以周为单位。」一起，Anthropic 不只要与 OpenAI 比赛，还有很多 AI 草创公司在开发自己的人工智能体系。

Claude 回应自己应战  ChatGPT 的胜算

乃至连 Claude 在被问到 Anthropic 是否有胜算时，Claude 也直言短期内 Anthropic 难以全面逾越 OpenAI 的比赛位置。可是它以为，「Anthropic 将 AI 安全技能作为其产品与处理方案的卖点，这一商业定位与 OpenAI 有所区别」，其或有机会在 AI 安全商场占得先机。

有意思的是，比较 Claude 给出短期、中长时间的剖析猜测，ChatGPT 在面临相同的问题时，说法仅是「因为 Anthropic 的最新动态不在我的常识范围内，我无法供给当时的比赛态势。」

Claude 则总结道：「整体而言，Anthropic 与 OpenAI 的比赛将是一场考察战，终究成果还难以预料。但不管成果怎么，这场比赛都将有利于人工智能技能的开展与前进。」