AI模型在避免幻觉方面已经有了很大改进，前沿实验室通常会为其服务设置严格的安全护栏以避免有害内容。但对于信仰组织来说，这还远远不够。他们需要直接与自身价值观保持一致的模型。

这正是Gloo的目标受众。周四，该公司宣布推出Gloo AI Studio。公司称这是"面向信仰导向和使命驱动开发者的生产级AI开发平台"，将价值观对齐和治理直接嵌入基础设施层。

Gloo AI Studio不依赖默认系统提示和临时内容策略，而是为每次模型调用应用可配置的约束框架。由于它与模型无关，因此可以对OpenAI、Anthropic和Google的模型以及开源模型执行此操作。

Gloo AI总裁Steele Billings在接受The New Stack采访时表示，这一直是Gloo使命和路线图的一部分。

"我们构建Gloo AI Studio是为了让治理和价值观对齐成为基础而非可选功能，"他说道。与许多企业一样，教会、非营利组织和信仰导向大学都希望使用AI并提供基于大语言模型的服务，但这些模型必须与他们的价值观保持一致。

在某种程度上，任何世俗企业都是如此。在我们的对话中，Billings暗示Gloo也在与一些大型企业合作，这些企业就像信仰组织一样，正在寻找确保其聊天机器人保持正确轨道的技术。

开发者体验

对开发者而言，使用Gloo Studio与使用Google AI Studio或类似平台没有太大区别。毕竟，Gloo AI Studio本质上是一个多模型AI网关，具有与其他AI初创公司或大型云服务商相似的核心组件。

当然，不同之处在于Gloo为这些模型设置了自己的护栏（并允许用户根据需要进行修改）。但在Gloo上调用这些模型与使用其他任何平台没有区别。

Gloo面临的挑战是在添加对齐约束的同时将开销降至最低。"我们的工作是尽可能减少延迟影响，同时仍提供诸如基础设施和约束等功能，以产生我们正在衡量的价值观对齐输出，"Billings说道。

该平台还支持模型路由，动态为每个请求选择适当的模型，同时维持一致的策略控制。

Gloo合作的组织当然也希望将自己的数据引入这些模型。Gloo AI Studio使用检索增强生成（RAG）作为核心技术，例如允许教会上传教义文本，或大学上传课程和文章。Gloo管理数据丰富化、向量嵌入、基础设施和与外部内容源的实时同步。

开发者可以通过Gloo的API管理所有这些，但也有Studio界面本身。开发者可以在那里管理API密钥并找到入门配方。还有一个用于并行模型比较的实验场。实验场让开发者在不同教派视角之间切换（目前包括天主教、福音派和主流新教），查看相同提示如何提供不同回应。

Gloo开发者和AI研究副总裁Nick Skytland表示，团队通常能在新前沿模型发布数小时内对其进行约束，引入自己的数据，并根据Gloo的人类繁荣基准对其进行评估。

"我们交谈的每个开发者都希望摄取自己的数据，在数据中建立模型基础，然后构建智能体使用基础设施进行部署，"Skytland说道。"这确实是我们交谈的每个人要求的脚本。"

价值观对齐架构

Gloo的重点是将对齐引入基础设施。为此，公司建立了一个"宪法"，一套应用于所有API调用的原则。这个宪法类似于Anthropic对其模型所做的，建立了安全、准确性和合规性的基准。然后每个组织可以在此基础上添加自己的层次，将输出引导向其特定价值观或教义。数据层可以增加另一个定制化程度。

正如我们去年报道的，Gloo开发了FAI（繁荣AI）基准，用于评估前沿模型在人类繁荣标准上的表现，而非通常的速度和成本指标。Gloo声称其价值观对齐模型变体在FAI评分上比开箱即用模型提升13%到22%。

实际应用案例

正如Billings指出的，经文原来是AI准确性的有趣测试案例。"如果你使用大语言模型引用经文，并使用其概率性质，你实际上会成为那些幻觉的受害者，"Billings说道。"我们相信它应该是安全的，应该是准确的，应该是合规的。在信仰世界中，合规意味着与教义和神学保持一致——这是我们花费大量时间的领域。"

Billings指出，通过数据引擎建立在特定圣经文本基础上的灵修助手，例如，远不太可能产生幻觉。其他用例包括基督教大学的神学研究工具到信仰社区应用的内容审核。

但不仅仅是信仰组织感兴趣。Billings表示，国内最大的组织之一——他拒绝透露名称但指出他们在食品行业——正在与Gloo进行对话，其兴趣与宗教无关。

"他们选择我们仅仅是因为我们真正坚持价值观对齐、值得信赖的AI方法，"他说道。"人们为他们的特定食品产品付费，因此，他们实施和采用的技术只是为了帮助他们完成使命。这是我们从服务的组织中经常听到的。

"他们不是为了娱乐甚至以创新名义进入技术业务。他们完全是为了推进自己的使命而进入。他们采取真正有纪律的方法。"

对于Gloo来说，这里有一个远远超越其信仰根基的机会，团队似乎很清楚这一点。AI价值观在各行各业都很重要，公司押注对齐将成为标准基础设施期望，而非小众关注。

Q&A

Q1：Gloo AI Studio是什么？主要功能有哪些？

A：Gloo AI Studio是面向信仰导向和使命驱动开发者的生产级AI开发平台，将价值观对齐和治理直接嵌入基础设施层。它为每次模型调用应用可配置的约束框架，支持OpenAI、Anthropic、Google等模型，并提供模型路由、数据管理和开发者工具等功能。

Q2：Gloo的价值观对齐是如何实现的？

A：Gloo建立了一个"宪法"原则体系，应用于所有API调用，建立安全、准确性和合规性基准。各组织可在此基础上添加自己的价值观层次，通过检索增强生成技术引入自有数据，并使用FAI基准评估模型在人类繁荣标准上的表现。

Q3：除了信仰组织，还有哪些企业对Gloo感兴趣？

A：除信仰组织外，一些大型世俗企业也对Gloo感兴趣，包括食品行业的大型公司。这些企业选择Gloo不是因为宗教原因，而是看重其价值观对齐和值得信赖的AI方法，希望确保技术应用完全服务于自身使命。