零基础 AI 学习 合集 · 第一章 · 认知破冰 · 第 2 篇
AI 到底在做什么、为什么像人、为什么会编
阅读时间：约 8 分钟
上一篇结尾，让大家去问 AI 一个工作里最烦的问题。
相信不少人都会有这样的感觉：
"它答得比我想象的好太多，甚至有点像人。"
"但有个地方，它特别肯定地给了我一个说法，我一查，根本没这回事。"
这两句话，正好是它的全部秘密：为什么这么像一个懂行的人，又为什么会在最有把握的地方骗你？
搞懂这一件事，后面所有的使用技巧，你都会觉得顺理成章。
一、先给它一个身份
我们换个说法：把一个实习生，想象成大模型。
- 他知识量惊人。 上到天文地理、下到怎么做菜、怎么写邮件，你问什么他都能聊几句。他几乎读完了整个图书馆。
- 他态度特别好。 不累、不烦、不甩脸色。你凌晨三点找他，他态度和白天一模一样，也永远不跟你争。
- **但他有一个致命的问题：从没上过一天班。**他不知道你们公司是干什么的，不知道你老板的脾气，不知道今天是几号，也不知道哪些信息是公司的秘密。
而且他会为了让你满意，编。
你面对的不是一个搜索引擎，是一个"人"。 你跟他说的话越清楚、给的信息越全，他干的活越靠谱。你只说半句，他为了不让你失望，就只能猜着往下写。
二、他到底在干什么
他做的所有事，本质上只有一件，根据你说的内容，猜下一个字最可能是什么。
我们现场试一下："今天天气真**__**。"，你脑子里冒出来的是什么？"好"、"不错"、"热"、"糟"，你不可能冒出"螺丝刀"。
AI 干的就是这件事：看完你给的上下文，算出下一个字最可能是什么，然后把那个字写下来；写完这个字，它把这段话加上刚写的这个字，一起当作新的上下文，再猜下一个字；一个字，一个字，直到写完。
于是你会发现一件事：它不是"查"出来的，是"写"出来的。
查，是答案先放在那儿，你去取。 写，是当场一个字一个字造出来。
所以同一个问题问两遍，它的回答可能不一样；虽然它会写得很顺，但不一定是对的。
那问题来了：猜下一个字这么简单的事，怎么就能写出一篇文章、一段代码、一份会议纪要？
因为要猜得准，就必须真的懂。
- 要接上"因为下雨，所以地上都是___"，他必须懂因果关系。
- 要接上"这段代码报错的原因是___"，他必须懂程序怎么跑。
- 要接上"这句诗的作者是___"，他得知道这个人。
为了把这个字猜对，它被迫把语言背后所有的规律、常识、逻辑都学了一遍。
这就是它的魔法，也是它的极限。
三、他为什么懂这么多
那这些规律是从哪来的，答案是训练。
说白了就是：把互联网上能找到的文字，几乎全给他读一遍。
书、新闻、网页、论文、代码、论坛吐槽，你能在网上看到的绝大多数文字，他都读过。读完，让他反复做那个"猜下一个字"的练习：猜对了记住这种感觉，猜错了调整自己，同一个练习做上千亿次。
做完之后，他就"读"出了语言里的规律。
这里有个特别重要的细节：他不是"背下来"的，是"悟出规律"的。
他脑子里不是一本一本的书，而是一种"语感"。
像一个读了上百万本书、却一本笔记都没做的人。你说上半句，他凭感觉能接下半句；你问他一个具体细节，他是靠印象回答的，有时候对，有时候错，而他自己分不清。
这一点请务必记住，它解释了我们接下来要讲的所有毛病。
四、那他为什么会一本正经地胡说八道？
因为他的目标从来不是"说对"，而是"接得顺"。
他训练时唯一被反复强化的能力，是把你前面的话接得自然、接得像人写的。没有人教过他"这句话如果是假的，你要停下来"。
他也不知道自己不知道。
他没有"我不确定"这个概念。你问他一个从没见过的细节，他不会说"抱歉这个我不知道"，而是接着往下写。因为这就是他唯一会做的事。
一些你可能会遇到的例子：
- 你在问AI一个数学题时，他给你的步骤很详细，从分析问题到算出结果头头是道，最后一看答案竟然是错的；
- 你让他帮你写论文时，他会一本正经的帮你引用各种文献，最后去学术网站一查，这些文献根本不存在；
- 大家在短视频平台刷到的，豆包会一本正经的胡说八道。
它追求的是"像不像真的"，不是"是不是真的"。
这件事有个专门的名字，叫**"幻觉"**。别担心，后面会专门用一整篇讲怎么防它。
现在你只需要带走一个心态：
把它当成一个特别自信、但所有东西都没核实过的实习生。凡是关键信息（数字、日期、人名、法规、结论）你都要亲自过一眼。
这不是因为它不可信，而是因为它本来就不负责这一块。
五、顺手澄清三个最常见的误解
它不是搜索引擎。 搜索引擎是"找到已有的网页，把链接给你"；它是"现场给你写一段话"。所以它常常没有出处，也所以才敢编。要真实、实时的信息，必须让它联网去搜。
- 现在很多 AI 产品外接了搜索，所以它看起来像搜索引擎；
- 但那是“模型 + 检索工具”的组合，不是模型本身；
- 即使联网，它也可能：搜到不靠谱的网页；错误总结；把搜到的内容和自己编的混在一起；引用一个真实网页但理解错。
它不是数据库。 数据库是准确存进去、能精确调出来的；它脑子里是模糊的印象，还会串。金额、编号、公式这类精确信息，别指望它一次给对。
它不是真的在思考。 它没有情绪、没有意图，也没有"我一定要帮你"这份心，只是在接着往下写。别指望它有责任感，责任永远在你身上。
今天就动手
去问 AI 一个它一定会编错的问题，亲眼看一次。别问它擅长的，要问它不可能知道的。两个可以直接抄的问法：
"帮我推荐 3 篇关于「县城咖啡消费」的论文，要有作者和期刊名。"
"帮我列一下 本市所有的高中。"
然后做三件事：
- 看它有没有一本正经地编出来。
- 挑其中一个信息去搜一下，看是不是真的。
- 再问一遍同样的问题，看两次答案一致不一致。
重点不是嘲笑它，是让你亲手建立那个最重要的习惯：它给的东西，凡是重要的，我必须核对一遍。
小提醒：如果工具开着联网搜索，它会去网上找，答案可能是对的。想看到"幻觉"，先把联网关掉再问。
最后做个总结
大模型是一个读完了整个图书馆、但从没上过一天班的实习生。他会做的事只有一件：根据你说的，猜下一个字。因为读得太多，他猜得特别像样；也因为没上过班，他会一本正经地编。
所以从今天起，你对待它的态度就明确了：不是崇拜它，也不是怕它，而是，学会怎么当一个好领导。
下篇预告：第 3 篇 · AI 术语扫盲：一篇文章看完不再懵
下一篇我们把刷 AI 新闻时最常见的十几个词，全部用大白话过一遍，大模型、参数、提示词、Token、幻觉、Agent……读完再看到这些词，你就不会再划走了。
「零基础 AI 学习」· 第一章 · 第 2 篇 · 完