AWS扩展了可访问性和控制选项

AWS扩展了可访问性和控制选项

根据最新公告,亚马逊的云计算服务Amazon Web Services(AWS)将一些工具移至普通用户可用的范围内。这些工具旨在成为人工智能(AI)的保护措施,包括模型评估工具和新的大型语言模型(LLMs)。

亚马逊的AI保护措施(GFA)是去年展示并在一年前作为预览版发布的系统。该公司表示,Amazon Bedrock的保护措施将以向导的形式出现,可以模糊约85%的有害信息。它可以用于调整过的模型、AI代理和Bedrock库中的所有LLMs。

定制的保护措施

在各种LLMs中,有Amazon Titan Text、Anthropic Claude、Meta Llama 2、AI21 Jurassic和Cohere Command等。组织可以使用保护措施向导根据其公司政策制定定制的保护措施,并使用这些保护措施。

接下来将推出的是Amazon Bedrock的保护措施,这是一款软件,可以进行PII(个人身份信息)遮蔽。目前尚不清楚,但使用此软件可能会隐藏LLM响应中的电子邮件和电话号码等个人信息。

此外,Amazon Bedrock的保护措施还可以整合Amazon CloudWatch,以便企业可以收到违反保护措施中定义的政策的模型输入或响应的警报。

为了证明IBM等竞争对手在这一业务中也是合适的,AWS正在努力迎头赶上。然而,对于AWS来说,这个问题并不是独有的,其他模型提供商如IBM、Google Cloud、Nvidia和Microsoft也都提供类似的功能,帮助企业控制偏见。

满足企业需求

尽管伊坎先生声称IBM是现有不同模型提供商中的落后者,但他并没有忽视IBM在开发AI保护措施方面的垄断地位,IBM已经为其AI助手Watson以及其他AI供应商工作了十多年。

“尽管IBM的努力结果并不成功,但该组织在设计AI保护措施方面取得了领先。因为事实上,AWS在为AI引入保护措施方面仍处于起步阶段,它的稀缺性可能会给它提供一个先机,毕竟生成性AI和LLMs仍处于非常初级的阶段,”Park说道。

除了这些变化,AWS还引入了一个新的功能,即导入客户内置模型,这将减少操作开销并提高应用程序开发速度。

AWS应用科学总监Sherry Marcus回应了关于云服务提供商是否增加了一般功能、是否存在企业需求以及一些企业是否已经在构建自己的模型或调整公开可用的模型,以及一些企业是否通过Bedrock平台雇佣模型评估工具等问题。

本文来源于Infoworld。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注