显影· 三主题树 术语表

抓 AI 的错

AI 的错不穿小丑服,穿西装。

⏱ 5–8 分钟讲 · 例 · 练 · 卡编号 ask-10
学习证据 学完后,怎么核对? 如何核对 · 适用边界 · 最后复核

把学习结果留在一个可以回看、可以复做的动作里;这一区只写学生能自己检查的证据。

如何核对

  • 来源核查记录
  • 主张—证据—推理检查

适用边界

用于审查一般 AI 输出;不能替代原始来源、学校规则或专业判断。

最后复核

这是内容复核日期,不是学习截止日期。

先认三种「说理毛病」

不管是人说话还是 AI 说话,有三种毛病最常见。认得它们,走到哪都用得上:

  1. 以偏概全:用一两个例子就下全体结论。「我们班两个近视的都爱玩手机,所以近视都是手机害的。」——两个例子撑不起「都」。
  2. 偷换话题:不答你问的,悄悄换成好答的。你问「这个方法适合我吗」,它答「这个方法很流行」。——流行不流行,不是你问的。
  3. 诉诸人多:拿「大家都这么说」当理由。——人多是现象,不是证据;地球是圆的这件事,也曾经「大家都不信」。

聪明 AI 的错,长什么样

现在的 AI 很强,大多数时候答得又快又对——正因为如此,它剩下的错更难看见。低级笑话式的错误少了,留下来的错都很体面,主要有三副面孔:

  1. 过时信息说得斩钉截铁:它的知识有「截止日期」,之后的新变化它不知道——但语气不会因此变虚。凡是带「最新」「现在」「今年」的说法,都值得再查。
  2. 顺着你的暗示走:你问「是不是因为 X?」,它可能就势把 X 说圆——哪怕 X 并不是重点。
  3. 像模像样的假出处:书名、作者、数据的格式全都对,一搜,查无此物。
核心句:AI 的错不穿小丑服,穿西装。越体面的话,越要看它的证件:出处、日期、有没有被你带偏。

两个抓包现场。第一个抓「顺着暗示走」——小舟写作文让 AI 提意见,他先用了带暗示的问法:

小舟这篇作文是不是主要毛病在开头?(附全文)
AI开头确实可以更抓人:第一句偏平,背景交代占了太多字数,建议把第三段那个细节提到开篇……
小舟换个问法:忘掉我刚才说的。这篇作文最大的毛病是什么?只说最大的一个。
AI最大的问题不在开头,在结尾:最后两段离题了,写着写着从「坚持」滑到了「感恩」,和开头立的题呼应不上。

两次答案不一样——第一次它顺着「开头」这个暗示挑了一堆开头的毛病,句句在理,却不是要害。抓包动作:换成不带暗示的中立问法,再问一遍,两次对一对。

第二个抓「假出处」:AI 给小雨推荐了一本书,书名、作者、出版社齐全,看着特别真。她搜了一下——查无此书。她没生气,回了一句「这本书我查不到,请只推荐你能确认存在的书,并说明你为什么确认」。出处再漂亮,搜到实物才算数。

你问 AI「这部电影好看吗」,它答「这部电影票房很高,很多人都去看了」。它犯了哪两个毛病?

上手 · 8 分钟 · 设个圈套
  1. 挑一个你已经学扎实的知识点,故意用带错误暗示的问法问 AI(比如把原因说错:「植物晚上也进行光合作用,是因为月光吧?」),看它顺不顺着你走。
  2. 再用中立问法问一遍同一件事,两次答案对一对。
  3. 这周内 AI 若给过你任何书名、数据或出处,挑一个去搜——搜得到,算它过关;搜不到,你就抓到了一个「西装错误」。

怎么算过关:写下两行——①AI 有没有被你的暗示带偏(纠正了你,也要记下来,那是它的加分项);②你核查的那个出处,是真是假。

加练 练功房 · 淘洗一段回答 开练 ›

复习卡 · 点一下翻面

聪明 AI 的三种「西装错误」是什么?各用什么招抓?

答案

过时信息说得斩钉截铁(带「最新/现在」的说法一律再查);顺着你的暗示走(换中立问法再问一遍);像模像样的假出处(不搜到实物不算数)。

  • 三个说理毛病人机通用:以偏概全、偷换话题、诉诸人多。
  • 暗示会带偏答案——中立问法再问一遍,两次对一对。
  • 出处再漂亮,搜到实物才算数。