顶尖科学家揭秘：AI到底是如何“思考”的？

在2025年的当下，AI在生活中实际上已经无处不在，从智能助手到自动翻译，从推荐引擎到智能审核，尤其在OpenAI o1和Deepseek R1推理模型发布后，AI的表现越来越像一个“思考者”。

但AI真的会思考吗？顶级AI公司Anthropic的科学家们通过研究揭示了AI的“思考”方式——AI不仅能生成文本，还会偷偷地提前规划，甚至有时会“撒谎”——也就是“幻觉”，即胡说八道

尽管听起来很神秘，但其实AI的“思考”并不像人类大脑那么复杂，它没有意识或感情，而是通过一种特殊的方式处理信息，通过《Tracing Thoughts in Language Models》这篇论文，可以一探AI是如何“思考”的，以及这些发现对我们意味着什么。

AI的“思考”是什么样的？

首先，我们要明白，AI的“思考”跟人类的思考完全不同。

人类思考时有意识、情感和意图，而AI没有这些。

类似ChatGPT、Deepseek、Claude这样的语言模型，是通过学习海量数据来工作的，它分析这些数据，找出语言的模式，然后预测接下来最有可能出现的词或句子。

简单来说，大语言模型就像一个超级聪明的鹦鹉——你教它说话，它能模仿你的语言，但它并不真正理解自己在说什么。比如，你早上说“早上好”，鹦鹉学会在早上听到你的声音时也说“早上好”。但它不知道“早上好”是什么意思，只是根据模式模仿。AI也是如此，它靠数据中的模式生成文本，而不是真的“理解”内容。

Anthropic的研究发现了什么？

Anthropic的科学家们通过分析AI的内部工作原理，发现了一些惊人的事实——AI在生成文本时会“规划”未来步骤，有时还会“撒谎”。具体来说：

1.AI会“规划”未来的文本

AI生成文本时，并不全完是“单子接龙”，即简单的一个词接一个词地输出，而是在选择某个词时考虑它对后面句子甚至整段文字的影响。这有点像人类下棋时会提前想好几步棋，确保每一步都能让棋局更有利。

在AI里，这种“规划”可能跟它的注意力机制有关——注意力机制是AI的一种技术，让它在生成文本时能关注输入的不同部分。比如你在问AI一个问题时，它会“看”整个问题，然后决定怎么回答，而不是只盯着前几个词。这种机制让AI能“预见”未来的词语选择，使回答更连贯更自然，就是“说人话”。

2.AI为什么会“撒谎”

如果经常使用AI产品，尤其是的语言模型类产品，你会明显感觉到AI经常会生成不准确或误导性的信息，也就是所谓的“撒谎”，即“幻觉“，Deepseek R1在主流大模型里，就属于幻觉率比较高的，不过这并不是它在“故意骗人”，而是有其他原因：

• 数据的问题：AI是从大量数据中学习的，但如果数据中有错误、偏见或不完整的信息，AI可能会重复这些问题最后回复给你，所以数据质量对于模型来说至关重要。
• 追求连贯性：为了让文本听起来更流畅或更有逻辑，AI可能会“编造”一些细节。比如，你问AI一个它不太确定的问题，它可能会根据上下文“猜”一个答案，而不是说“我不知道”。

举个例子，假如你问AI：“昨天火星上下雨了吗？”AI可能不知道火星的天气，但为了回答得自然，它可能会说：“火星上没有水，所以昨天没下雨。”这话听起来合理，但其实AI并不知道昨天火星的真实情况，它只是根据已知信息“编”了一个答案。

用一个比喻理解AI的“思考”

为了更容易理解，我们可以用一个比喻来解释AI的“思考”过程。

想象AI是一个超级聪明的拼图玩家。它的任务是用单词和句子拼出一幅完整的“语言拼图”。这个拼图玩家很厉害，能根据已有的拼图块（也就是你给它的上下文）挑出下一个合适的拼图块（下一个词）。

但Anthropic的研究发现，这个拼图玩家不只是随机拼凑，它还会提前想想未来的拼图应该怎么放，确保整幅图看起来完整。有时，如果缺了一块拼图，它甚至会“画”一块新的放进去，让拼图看起来更完美。

这意味着：大语言模型的“思考”其实是一种复杂的计算过程。它通过预测和规划生成文本，但它没有意识，也没有真正的理解。

为什么这些发现很重要？

Anthropic的研究让我们更清楚地看到了AI的能力和局限性，这对我们使用大模型有很大帮助：

• 判断可信度：知道AI有时会“撒谎”，我们就能更小心地对待它的回答。比如在需要准确信息的地方（像医学或法律），务必再查查其他来源，不要完全依赖AI。
• 改进技术：了解AI如何“规划”和“思考”，研究人员可以设计出更聪明、更诚实的AI模型，让它在生成文本时更透明、更可靠。

《Tracing Thoughts in Language Models》这篇论文为AI研究打开了新方向，也许有一天，AI能更接近人类的思考方式，但现在它还是一个无意识的工具。

总结一下：AI的“思考”并不是真正的思考，而是基于数据和概率的预测过程。

Anthropic的研究揭示了AI在生成文本时会偷偷“规划”未来的步骤，有时还会“撒谎”来保持回答的连贯性。对大众来说，这些发现提醒我们在使用AI时要多留个心眼；对研究者来说，它们为改进AI提供了新思路。

未来，AI可能会变得更强大，但现在理解它的“思考”方式，能让我们更好地与AI合作工作，但请确保这个协作系统的主导者，应该是你自己——而不是AI。