Google对于讽刺和荒诞查询限制AI概览

Google对于讽刺和荒诞查询限制AI概览

谷歌正在缩减一些搜索结果中AI概述的呈现方式。该决定是在谷歌发布一些公开犯错误并引起公众强烈反对后做出的。

周四,谷歌搜索部门负责人莉兹·里德承认公司正在限制名为“AI概述”的人工智能生成摘要。该基于人工智能的功能在开始展示要求人们吃石头和将奶酪粘在披萨上的内容时受到了批评。

谷歌在两周前的年度I/O大会上向美国用户展示了AI概述,该大会推出了几个基于人工智能的产品。从周四开始,用户注意到问题变少了,结果是AI回应的减少。

识别虚假AI概述需要仔细分析

里德在一篇博客文章中写道,社交媒体上的人们分享了一些AI概述的截图,其中提出了奇怪的解决方案。她说,公司的AI犯了一些错误,但其中许多是虚假的,从未由谷歌的AI系统生成。

她承认确实出现了一些奇怪或不准确的AI概述。这突显了该功能需要改进的方面,但这些并不是常见的搜索查询。她指出了虚假的例子,并表示:

里德表示,谷歌没有展示任何关于怀孕期间吸烟或将狗留在车里的AI概述。她鼓励在社交媒体上看到这些截图的用户自己进行搜索和核实。

谷歌的AI现在可以识别讽刺性内容

谷歌确定讽刺性内容和荒谬的查询是需要解决的问题,以产生不准确的AI概述。谷歌表示,在“我应该吃多少块石头?”这个查询的截图走红之前,没有人提出这个问题。里德表示,可以通过谷歌趋势查看确认。

另一个因素是特定主题上可用的内容很少,也称为数据空白,这也是不准确的AI概述的原因之一。关于吃石头的查询,里德表示,内容的讽刺性质触发了AI概述。该内容还被地质软件网站转载,并与AI概述链接。她解释说:

里德没有提及社交媒体上流传的其他AI概述,许多大型出版商也对其进行了报道。例如,《华盛顿邮报》发表了一篇关于谷歌告诉人们巴拉克·奥巴马是穆斯林的报导。该报还报道了另一种情况,谷歌的AI概述告诉用户应该喝尿以帮助排除肾结石。

谷歌对公共论坛有着痴迷

谷歌搜索负责人指出,在向公众推出该功能之前,公司进行了广泛的测试。她还承认,在测试阶段很难模拟真实世界的使用情况,但公司进行了强有力的红队测试和典型用户查询的抽样调查。

一些用户和互联网内容分析师指出,谷歌最近开始在搜索结果中显示来自Reddit等公共论坛的许多结果。一些人质疑谷歌与Reddit的协议,但谷歌的发言人告诉英国广播公司,协议中没有包含给予Reddit更多搜索结果可见性的条款。

Amsive营销机构的SEO战略与研究副总裁莉莉·雷表示,现在,许多查询结果都来自Reddit。她还在X(之前是Twitter)上嘲笑谷歌,说全世界的知识(Reddit内容)与人工智能相结合。

里德表示,AI概述功能在某些示例中包含了讨论论坛中的讽刺内容。她说,论坛是第一手信息的好来源,但在某些情况下,它们可能会触发一些不那么有帮助的回答,比如将奶酪粘在披萨上。

谷歌的AI也会误解语言,导致AI概述中出现错误信息,但据该公司称,这类回答的比例非常低。里德指出,他们通过改进或删除不符合谷歌政策的回应迅速解决了这些问题。

谷歌搜索的副总裁还表示,在健康和新闻等主题上存在强大的保护措施。该公司推出了针对健康的增强质量保护的新触发细化功能。里德表示,检测系统还针对荒谬的查询进行了更新,以避免将其显示为AI概述。她还暗示了对讽刺性查询AI概述的减少的确认,称:

“我们更新了我们的系统,限制了回应中可能提供误导性建议的用户生成内容的使用。”

由Aamir Sheikh报道的Cryptopolitan

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注