开yun体育网这种说法可能不够准确-开云官网kaiyun切尔西赞助商 「中国」官方网站 登录入口

发布日期：2026-01-09 10:55    点击次数：79

IT 之家 12 月 4 日讯息，亚马逊云科技（AWS）发布了一款新器用，旨在处治 AI 模子产生的幻觉问题。

IT 之家把稳到，在拉斯维加斯举办的 re:Invent 2024 大会上，AWS 推出了"自动推理搜检"（Automated Reasoning checks）器用，该器用通过交叉援用客户提供的信息来考证模子的反应准确性。

AWS 宣称，这是"第一个"亦然"惟一"的针对幻觉的驻防程序。但是，这种说法可能不够准确。微软本年夏天推出的"修订"功能与"自动推理搜检"果真接头，齐不错记号可能存在事实造作的 AI 生成文本。谷歌的 Vertex AI 平台也提供了一个器用，允许客户通过使用第三方提供商的数据、我方的数据集或谷歌搜索来使模子的回复更可靠。

"自动推理搜检"通过 AWS 的 Bedrock 模子托管做事（相当是 Guardrails 器用）提供，试图弄明晰模子是如何得出谜底的，并判断谜底是否正确。客户上传信息以斥地一种事实基础，然后"自动推理搜检"创建轨则，这些轨则不错被优化并应用于模子。

当模子生成回复时，"自动推理搜检"会考证它们，并在可能出现幻觉时，利用事实基础得出正确谜底。其会将这个谜底与可能的造作谜底总共呈现，以便客户不错看到模子偏离正确谜底的进度。

AWS 清楚，普华永说念还是运利用用"自动推理搜检"为其客户策画 AI 助手。AWS 的 AI 和数据副总裁 Swami Sivasubramanian 示意，这种类型的器用恰是眩惑客户使用 Bedrock 的原因。

但据 Techcrunch 报说念，一位大家本年夏天称，试图放手生成式 AI 的幻觉就像试图从水中放手氢相同。AI 模子之是以会产生幻觉，是因为它们内容上并"不知说念"任何东西。它们是统计系统，通过识别一系列数据中的形状，并笔据之前看到的例子展望下一个数据是什么。因此，模子的反应不是谜底，而是对问题应该如何回复的展望 —— 在一定的格外范围内。

AWS 宣称"自动推理搜检"使用"逻辑准确"和"可考证的推理"来得出论断开yun体育网，但该公司莫得提供任何数据来解说该器用的可靠性。