根据 The Information 报导，人工智慧公司 OpenAI 竞争对手 Anthropic 的内部人士透露，Anthropic 可望在 2024 年底达到超过 8.5 亿美元的年收，相较於 Anthropic 在三个月前向投资人表示，2023 年的年收为 1 亿且预计 2024 年底将成长至 5 亿年收，显示短短三个月内对 2024 年的业绩目标已大幅提升，可见其拓展业务的野心。
事实上，Anthropic 在 2023 年下半年陆续获得 Google 20 亿美元及 Amazon 40 亿美元的投资，在 12 月底也传出风投公司 Menlo Ventures 将领投新一轮约 7.5 亿美元的投资，让 Anthropic 的市值已推升至 300 亿美元。
Anthropic 建构人工智慧模型 Claud 的训练框架「合宪 AI」（Constitutional AI，CAI），打造有用、诚实、且无害的人工智慧模型 Claude。Anthropic 参考联合国《世界人权宣言》、多家 AI 实验室的提出的原则（包括 Anthropic 自家及 DeepMind 的 Sparrow 模型原则等）、非西方观点的看法，以及全球数位平台的准则（例如苹果在数位领域中实际服务客户所总结的服务条款）等等，归总出了一套希望模型遵守的指令列表。
此外，在训练的过程中，Anthropic 还鼓励模型考虑非西方、非富裕或工业化文化的价值观，同时加入了基本常识（例如不协助用户犯罪）、到哲学（比如避免暗示人工智慧系统拥有或关心其个性识别）的各类细则，这些原则并没有优先性，而是在训练过程同时多次查看。
Anthropic 训练框架「合宪 AI」是基於 AI 反馈的强化学习（Reinforcement Learning from AI Feedback，RLAIF）来训练，因此 Anthropic 认为「合宪 AI」可以排除向人类偏好靠拢且回避争议回答的弊端，减少偏差、歧视；与此同时，Anthropic 希望藉由「合宪 AI」训练框架强调不同於 OpenAI 人工智慧价值观，让其他的训练模型能向此靠拢，进而掌握训练框架的主导权以及对资料使用的规范，提升在人工智慧业界的影响力。
相较 Anthropic 强调「基於 AI 反馈」，OpenAI 的训练框架则是透过大量的人类训练员对 AI 生成答案的排序，确保 AI 与人类价值观一制性的「基於人类反馈的强化学习」（Reinforcement Learning from Human Feedback，RLHF）。随着人工智慧的快速发展，消减训练框架对人工智慧模型带来的偏差或难以操控的问题是所有人工智慧系统所面临的问题。
目前 OpenAI 的 Superalignment 团队已着手打造可管控、训练超级人工智慧（superhuman AI）的工具，让较强大的的模型透过弱监督者（例如人类反馈）的错误、不足或缺陷，透过弱监督者的意图提升泛化能力，进而解决更为困难且复杂的问题，让身为弱监督的人类仍有能力影响、协助超级人工智慧的发展。
OpenAI 去年陷入执行长 Sam Altman 在一周内突遭解雇又聘回的纷争时，紧追其後的人工智慧模型新创公司 Anthropic 也受到外界不少的关注。不仅是因为 Anthropic 创办人多是由 OpenAI 出走的资深员工，更因为 OpenAI 董事会曾考虑让两家 AI 新创合并，并由曾任 OpenAI 研究部门副总的 Dario Amodei 取代 Sam Altman 担任执行长。
Anthropic 创办人中的兄妹档 Dario Amodei、Daniela Amodei 过去在 OpenAI 分别担任研究副总及安全政策副总，在 2019 年微软重金投资 OpenAI 时，因为对於人工智慧的安全发展与组织管理上想法不同而离开，与另外 5 位 OpenAI 员工共同创 Anthropic，强调秉持高度安全与负责的原则，并以「人类利益」为先来发展的人工智慧使用理念。
Anthropic 和 OpenAI 从不同立场出发而开发训练框架，到底熟胜孰劣还有待时间验证，但两家正力拼市场份额的人工智慧独角兽，都在积极证明无毒且有助人类发展的人工智慧必是未来的趋势。
资料来源：
https://www.reuters.com/technology/anthropic-forecasts-more-than-850-mln-annualized-revenue-rate-by-2024-end-report-2023-12-26/
https://www.anthropic.com/index/claudes-constitution
https://www-files.anthropic.com/production/images/Anthropic_ConstitutionalAI_v2.pdf?dm=1694134767
https://techcrunch.com/2023/12/14/openai-thinks-superhuman-ai-is-coming-and-wants-to-build-tools-to-control-it/?_guc_consent_skip=1704269563
责任编辑：Chris
快加入 INSIDE Google News 按下追踪，给你最新、最 IN 的科技新闻！