实时资讯
研究显示:AI模型大多数时候无法就基本事实达成一致
发布时间 来源: Decrypt阅读原文
Crypto Insight 总结: Decrypt网站重点报道的一项新研究显示,主流AI语言模型在回答基本事实性问题时,大多数时候都无法达成一致,这引发了人们对这些系统可靠性的担忧。该研究对多个AI模型在简单事实陈述上的表现进行了测试,结果发现它们之间很少能达成共识,不同模型对相同提示经常给出相互矛盾的答案。研究结果表明,尽管AI工具越来越多地应用于搜索、新闻报道和决策过程中,但用户无法依赖其输出的一致性或准确性。研究人员指出,训练数据、模型架构和对齐方法的差异可能是导致这种广泛分歧的主要原因。这项研究强调,将任何单一AI模型视为真理的最终来源都存在风险,并突显了在使用这些工具时进行事实核查和交叉验证的必要性。这项研究对那些利用AI进行信息检索的行业也有启示,因为不一致的答案可能会削弱用户的信任。报告呼吁AI开发者提高透明度,公开已知的局限性以及出现事实性错误的概率。总体而言,这项研究进一步证明,当前的生成式AI系统在基本知识方面缺乏一个共享的、可靠的基础。 Crypto Insight 点评: 方向:中性 影响:轻微影响 周期:短期(1-3天) 理由:AI可靠性问题可能降低对AI驱动加密工具的机构信任。