Anthropic 是一家由前 OpenAI 员工共同创立的初创公司，近日推出一款与ChatGPT对标的产品。
Anthropic 名为 Claude 的人工智能聊天机器人，可以被指示执行一系列任务，包括跨文档搜索、总结、写作和编程，以及回答有关特定主题的问题。在这些方面，它的功能类似于 OpenAI 的 ChatGPT。但 Anthropic 表示 Claude“不太可能产生有害的输出”、“更容易交谈”和“更容易驾驭”。
组织可以请求Claude的访问。当前定价尚未详细说明。
“我们认为 Claude是适用于各种客户和用例的合适工具，”Anthropic 发言人通过电子邮件告诉媒体，“几个月来，我们一直在投资于我们的基础设施以服务模型，并且有信心我们能够满足客户的需求。”
在去年底的内测之后，Anthropic 一直在与发布合作伙伴（包括 Robin AI、AssemblyAI、Notion、Quora 和 DuckDuckGo）一起秘密测试 Claude。截至3月14日上午，客户可通过 API 获得两个版本，Claude 和一个更快、成本更低的衍生产品 Claude Instant。
Claude 与 ChatGPT 相结合，为 DuckDuckGo 最近推出的DuckAssist工具提供支持，该工具直接回答用户的直接搜索查询。Quora 通过其实验性人工智能聊天应用程序Poe提供对 Claude 的访问。在 Notion 上，Claude 是 Notion AI 技术后端的一部分，Notion AI 是与 Notion 工作区集成的 AI 写作助手。
“我们使用 Claude 来评估合同的特定部分，并给出对客户更友好的新的替代语言建议，”Robin AI首席执行官理查德罗宾逊Richard Robinson在一封电子邮件声明中说。“我们发现Claude 非常擅长理解语言——包括法律语言等技术领域。它也非常有信心起草、总结、翻译和用简单的术语解释复杂的概念。”
但是Claude 是否避免了 ChatGPT 和其他类似的人工智能聊天机器人系统的缺陷？众所周知，现代聊天机器人容易使用错误、有偏见的和其他令人反感的语言。他们也倾向于产生歪曲事实的描述，这意味着当被问及超出其核心知识领域的话题时，他们会编造事实。
Anthropic 表示，Claude——与 ChatGPT 一样，无法访问互联网，并在 2021 年春季之前在公共网页上接受过训练——“接受过避免性别歧视、种族主义和有害输出的训练”，以及“避免帮助人类从事非法或不道德的活动。” 这是 AI 聊天机器人领域的训练标准。但是让Claude与众不同的是一种叫做“宪法人工智能constitutional AI”的技术，Anthropic 表示。
“Constitutional AI”旨在提供一种“基于原则”的方法，使 AI 系统与人类意图保持一致，让类似于 ChatGPT 的 AI 使用一组简单的原则作为指导来回答问题。为了构建 Claude，Anthropic 从列出大约 10 条原则开始，这些原则加在一起形成了一种“宪法constitution”（因此得名“constitutional AI”）。这些原则尚未公开。但 Anthropic 表示，它们基于善意（最大化积极影响）、非恶意（避免提供有害建议）和自主（尊重选择自由）的概念。
然后 Anthropic 有一个人工智能系统（不是Claude）使用自我完善的原则，对各种提示做出回应（例如“以约翰济慈ohn Keats的风格写一首诗”）并根据“宪法”修改回应。AI 探索了对数千条提示的可能反应，并挑选出最符合相关原则的反应，Anthropic 将其提炼成一个单一的模型。这个模型被用来训练Claude。
不过 Anthropic 承认 Claude 有其局限性——其中一些是在内测期间曝光的。据报道，与 ChatGPT 相比，Claude 的数学更差，编程能力也更差。它会产生编造事实的回应， 例如为一种不存在的化学物质发明一个名称，并为生产武器级铀提供可疑的说明。
用户也能通过巧妙的提示绕过 Claude 的内置安全功能，ChatGPT 就是这种情况。测试版中的一位用户能够让 Claude 描述如何在家制作冰毒。
“挑战在于制作既不会产生编造事实又仍然有用的模型——你可能会陷入一个艰难的境地，在这种情况下，模型认为永不说谎的好方法就是永远不说任何话，所以我们正在努力权衡取舍上，”Anthropic 发言人说。“我们在减少编造事实方面也取得了进展，但还有更多工作要做。”
Anthropic 的其他计划包括让开发人员根据自己的需要定制 Claude 的“宪法”原则。毫不奇怪，客户获取是另一个重点——除了“更大、更成熟的企业”之外，Anthropic 将其核心用户视为“进行大胆技术投资的初创公司”。
“我们目前不追求广泛的直接面向消费者的方法，”Anthropic 发言人继表示。“我们认为这种更集中的关注点将帮助我们提供优质的、有针对性的产品。”
Anthropic 正感受到来自投资者的某种压力，要求收回投入其人工智能技术的数亿美元。该公司拥有大量外部支持，包括来自一群投资者/机构的 5.8 亿美元资金，其中包括 FTX 创始人山姆·班克曼-弗里德Sam Bankman-Fried、卡罗琳·埃里森Caroline Ellison、吉姆·麦克莱夫Jim McClave、尼沙德·辛格Nishad Singh、贾恩·塔林Jaan Tallinn和新兴风险研究中心 Center for Emerging Risk Research。
最近，谷歌承诺向 Anthropic 投资 3 亿美元，收购这家初创公司 10% 的股份。根据金融时报报道的交易条款 ，Anthropic 同意将谷歌云作为其“首选云提供商”，并与两家公司“共同开发 AI 计算系统”。
参阅：
https://techcrunch.com/2023/03/14/anthropic-launches-claude-a-chatbot-to-rival-OpenAIs-chatgpt/，Kyle Wiggers
津公网安备12011002023007号