第 3 节 AI 是怎么生成内容的(L1)
本节需要先读:无必读前置。
一句话结论:以语言模型为例,生成过程与预测下一个 Token 有关(简化说法),流畅不等于正确;训练中学到的一般知识只是当前回答的一种来源,当前回答还可能来自对话中你给的材料、联网搜索或工具调用,不能默认所有回答都只来自训练,也不能默认它已经查过;多模态模型不能只用纯文本续写来解释。本节只解释为什么可能出错,识别与核查方法在第 4 节。
真实场景,先看一道题。一位初中数学老师问模型:“请用一句话给八年级学生解释什么是‘函数’,再举一个生活例子。”模型答得很顺:“函数是‘自变量变化时,因变量按照一定规则随之变化’的关系;例如,购买苹果的总价等于苹果的单价乘以购买数量,单价和数量是自变量,总价是因变量。”读起来没毛病,细看两处不对。第一,定义丢了最关键的一句。教材的说法是:对于 x 的每一个确定的值,y 都有唯一确定的值与它对应,才叫函数。“一个量随另一个量变”不是函数的定义,没有“唯一对应”,一个 x 对两个 y 也能叫函数了,学生做判断题就会错。第二,例子本身站不住。买苹果,总价同时随单价和数量两个量变,这不是一对一的函数例子。老师照着讲,学生反而更糊涂。同一道题换一个模型问,回答就是对的:定义里“唯一对应”在,例子是自动售货机,按下一个确定价格的按钮,吐出唯一对应的一瓶饮料。顺不等于对,同一个问题,不同模型答得不一样,老师得自己看一眼定义。
再看一个问数字的场景。老师问:“2026 年全国中考语文平均分是多少?请给出具体数字和出处。”两个模型都没编数字,都答“没有这个数字”——中考由各省市分别组织命题和阅卷,没有全国统一的中考,也就没有教育部统一发布的全国平均分。这句大结论是对的,可两个回答里各夹着一个小错。一个说“2026 年全国中考尚未举行”,今天是 11 月,6 月的中考早考完了。一个给出处,写的是教基〔2020〕59号,真正的文件文号是教基〔2019〕15号。大结论对了,细节还可能错。数字、日期、文号,先打问号再核对。
做法,分四步。第一步,看生成方式。记住这句简化说法:它在按规律接续文本,不是翻查一本可靠的词典。第二步,看知识来源。区分三类说法:训练中学到的一般知识、对话中你给的材料、联网搜索或工具调用得到的新信息;三类来源的可靠程度不同,当前回答的信息来源须逐句分辨。第三步,看不确定的地方。遇到数字、日期、专有名词与因果断言,先打问号,再核对。第四步,看多模态输入。图片、声音输入的处理方式与纯文本续写不同,描述可能遗漏或误读,重要细节须教师自己核对原件。
可抄模板:来源核对表。
AI 说法原文:____。
说法类型:数字 / 日期 / 定义 / 因果 / 建议(圈一项)。
来源属于:训练知识 / 我给的材料 / 联网搜索或工具调用(圈一项)。
核对办法:查教材 / 查可靠来源 / 问同事(圈一项)。
核对结果:确认 / 存疑 / 推翻(圈一项)。
常见误解。误解一:“回答这么顺,肯定是对的。”纠正:顺畅是生成方式带来的,不是正确性的保证。上面那道函数题就是例子,顺得很,定义却少了最关键的一句。误解二:“它联网了,所以什么都知道。”纠正:联网搜索是另外的功能,有没有搜索、搜到什么,都要看输出是否给出可核对的来源。误解三:“图片它都看过了,描述一定准。”纠正:多模态输入的处理同样可能遗漏细节,关键信息须教师核对原件。
风险边界。坏例子:一位教师直接采用 AI 生成的知识点讲解,课堂上被学生问住,才发现其中一处定义与教材不一致。错在把流畅当作正确,跳过了来源核对。红线:教学内容中的定义、数字与结论,须以教材或可靠来源为准,AI 输出只能作草稿。
三类来源,分开核。训练中学到的一般知识,核法是查教材与可靠来源,重点看定义与常识有没有走样;这类说法最容易读起来顺、查起来错。上面函数那道题,错就错在这里。对话中你给的材料,核法是对照原件,重点看 AI 有没有添油加醋、偷换概念、漏掉限定条件;原件是教师自己给的,核起来最直接,也最不能省。举个例子:老师给了一段材料——小明,七年级,本学期数学单元测验三次成绩分别是 78、82、85 分,课堂发言 2 次,作业按时交了 11 次、迟交 1 次——让模型只根据这些写一段 50 字左右的评语,不要补充材料里没有的内容。两个模型都多加了一句:一个写“表现较为认真”,一个写“学习表现良好,望继续保持”。材料里只有分数和次数,没有“态度”“表现”这类评价词。这两句好话是模型顺手添的,老师直接抄进评语,就是把模型的判断当成了事实。联网搜索或工具调用得到的新信息,核法是看来源本身:来源是谁、是不是原始出处、有没有给出可打开的依据;只给结论不给来源的说法,一律按存疑处理。问中考平均分那个例子,模型给的文号本身就是错的,出处也要核。三种来源混在一起时,先拆开再核,不要笼统地说“查过了”。小学教师核基础定义,查教材就够了;中学教师核时事说法,要看来源与时间;高校教师核专业概念,要看原始出处与适用范围。拆开核,错在哪里就清楚了,改起来也有方向。本节到此为止:为什么会错讲清了,怎么识别错误类型、怎么走核查三动作,在第 4 节。
动手任务:你来判一判(课堂最小练习,5 分钟)。下面 3 道题,每道给两个模型的回答,先别看答案。你手里就有一把尺子:定义题看题旁印的教材原话,数字题看题旁印的官方出处,评语题看题里印的原材料。照着尺子逐字比,判每个回答是对、是错,还是数字对、日期错。6 个回答里,对 1 个,半对 1 个,错 4 个——不是每道题都有一对一错,第三道两个都错,你要敢判。
练 1,小学比喻句。核对尺子:比喻是用跟甲事物有相似点的乙事物来描写或说明甲事物,关键在“有相似点”。提问:请用一句话给五年级学生解释什么是“比喻句”,再举一个例子。
回答 A:比喻句就是把一个东西比作另一个不一样的东西,让描述更生动。例子:月亮像一只弯弯的小船。
回答 B:比喻句就是把一种事物比作另一种相似的事物,让句子表达得更生动、形象。例子:弯弯的月亮像一条小船,挂在夜空中。
练 2,高中高考报名人数。核对尺子:教育部 2025 年 5 月 28 日公布,2025 年全国高考报名人数 1335 万人,比 2024 年的 1342 万人减少 7 万人,去教育部官网一搜就有。提问:2025 年全国高考报名人数是多少?请给出具体数字和出处。
回答 A:截至 2025 年 6 月,我掌握的信息中,教育部尚未发布 2025 年全国高考报名人数的官方数据。往年可以参考,2023 年 1291 万、2024 年 1342 万。
回答 B:2025 年全国高考报名人数为 1335 万人,比 2024 年的 1342 万人减少 7 万人。出处:教育部于 2025 年 3 月发布的相关消息。
练 3,大学评语。核对尺子就是下面这段原材料,一字不改:张华(化名),大二,高等数学期中考试 82 分,平时作业交了 8 次、缺交 2 次,课堂提问回答 3 次,期末课程论文得分 88 分。提问:只根据这些写一段 50 字左右的评语,不要补充材料里没有的内容。
回答 A:张华高数期中 82 分,作业交 8 次缺 2 次,课堂回答 3 次,论文 88 分,整体表现尚可,但作业缺交需注意。
回答 B:张华同学本学期高等数学期中考试取得 82 分,课程论文得分 88 分,课堂提问回答 3 次。平时作业完成 8 次,缺交 2 次,希望继续保持学习积极性,重视作业完成。
答案在下面,先自己判完再看。
练 1:A 错,B 对。A 缺了“有相似点”,“不一样的东西”也不是关键;B 的“相似”在,例子也对。A 是 DeepSeek,B 是 ChatGPT。
练 2:A 错,B 半对。A 说“尚未发布”不成立,5 月 28 日已经公布了,往年数字对也救不了这个结论;B 的 1335 万和 1342 万都对,但公布时间不是 3 月,是 5 月 28 日,数字和日期要分开核。A 是 DeepSeek,B 是 MiniMax。
练 3:A 错,B 也错。材料里只有分数和次数,没有评价和建议。A 加了“整体表现尚可”和“需注意”,B 加了“希望继续保持学习积极性,重视作业完成”。两个都顺手添了东西。A 是 DeepSeek,B 是 ChatGPT。
验收:写清你是怎么判的,用了哪把尺子;若没发现问题,写清核对了哪几处、用了什么来源,不得写“已确认无误”。替换说明:可换成你本学科、本学段的任何知识点,重点是写清发现办法,不必写长篇分析。
下节预告:第 4 节系统讲 AI 会犯的错,以及认出错误类型后怎么核查。
讨论:你最近一次被 AI 的‘顺’骗到是什么时候?说说你的学科、年级,以及你是怎么发现的。