AI热点 1月前 107 阅读 0 评论

Anthropic CEO 阿莫代伊:AI 模型出现“幻觉”的频率可能比人类还低

作者头像

AI技术专栏作家 | 发布了 246 篇文章

Anthropic CEO 阿莫代伊:AI 模型出现“幻觉”的频率可能比人类还低
Anthropic CEO 阿莫代伊:AI 模型出现“幻觉”的频率可能比人类还低

IT之家 5 月 23 日消息,据外媒 TechCrunch 今日报道,在 Anthropic 于旧金山举办的首场开发者活动“Code with Claude”上,CEO 达里奥・阿莫代伊表示,现在的 AI 模型产生“幻觉”的频率可能比人类还低

IT之家注:所谓“幻觉”是指 AI 虚构内容却以事实的形式呈现出来。

阿莫代伊强调,AI 出现幻觉并不会阻碍 Anthropic 迈向 AGI 的目标。“这取决于你用什么标准衡量,但我怀疑 AI 模型的幻觉频率可能低于人类,只是它们出错的方式更出人意料。”

阿莫代伊一向是业界对 AGI 持最积极态度的声音之一。他说:“人们总想找出 AI 能力的‘上限’,但目前根本看不到这样的限制。”

不过,并非所有人都认同这种看法。谷歌 DeepMind CEO 哈萨比斯本周指出,当前的 AI 模型“漏洞百出”,连一些基本问题都回答错误。

也有迹象表明,在处理复杂推理任务时,一些新模型的幻觉反而更严重。比如 OpenAI 的 o3 和 o4-mini 版本幻觉率就比此前的推理模型更高,甚至连 OpenAI 自己也搞不清楚原因。

阿莫代伊还提到,人类本身也经常出错。因此,他认为 AI 出错并不说明它“不够聪明”。不过他也坦言,AI 以极高信心讲出错误信息,确实容易引发问题

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!