PsyBrain 脑心前沿 / 科研分析：认知神经科学前沿的结构化精读 / X · AI 与脑科学 / X051 · AI思维“盲点”：为什么它分不清“信念”和“事实”？

X051 AI思维“盲点”：为什么它分不清“信念”和“事实”？

来源：公众号 PSY-Brain_Frontier ｜发布：2025-11-14 ｜原文链接

PsyBrain 脑心前沿 | 公众号 PSY-Brain_Frontier

一键关注，点亮星标 ⭐️

不错过每日前沿资讯

认知神经科学前沿文献分享

基本信息：

Title:Language models cannot reliably distinguish belief from knowledge and fact

发表时间：2025.11.3

Journal:Nature Machine Intelligence

影响因子：23.9

获取原文：

后台回复“文献”即可获取PDF版本
点击页面底部“阅读原文”即可跳转论文原网页

人工智能的思维困境

随着人工智能（AI）在各行各业的应用越来越广泛，AI与人类思维的差异成为了学术界的一个热议话题。尤其是在医疗、法律和新闻等高风险领域，如何判断“信念”、“知识”和“事实”之间的区别，正变得越来越重要。想象一下，如果一个AI无法理解病人的主观信念，可能会误诊；或者在法庭上，AI没有分清证人的信念和事实，也许会影响公正判决。最近，一项研究揭示了现代AI模型在这一点上的严重短板。

为何AI无法分辨信念与事实？

尽管目前AI语言模型（LMs）已取得令人瞩目的进展，它们在自然语言处理任务中表现出色，但在理解“信念”和“事实”之间的区别时却存在重大缺陷。许多高端模型在面对“我相信……是对的”这种主观信念时，往往无法正确确认信念的虚假性，而是直接纠正事实。这让人不禁疑问：AI是否能够真正理解和处理人类的主观认知？

AI思维的盲点

研究团队通过设计一个名为KaBLE的数据集，测试了24种不同的AI模型，评估它们在验证事实、确认信念和递归知识等任务中的表现。结果表明，所有模型都普遍难以识别第一人称虚假信念。当面对“我相信……是对的”这类句子时，模型往往错误地纠正事实，而非确认用户的信念。更令人担忧的是，这些AI在第三人称信念的处理上反而表现得更好，显示出它们在处理他人信念时比自己信念更具一致性。

这项研究揭示了AI在高风险应用中的潜在风险，尤其是在人类思维复杂性上，AI依然远未达到人类的理解深度。未来，AI模型必须学会区分“信念”和“事实”，才能在法律、医疗等领域更好地服务人类。