抓 AI 的错
AI 的错不穿小丑服,穿西装。
学习证据 学完后,怎么核对?
把学习结果留在一个可以回看、可以复做的动作里;这一区只写学生能自己检查的证据。
如何核对
- 来源核查记录
- 主张—证据—推理检查
适用边界
用于审查一般 AI 输出;不能替代原始来源、学校规则或专业判断。
最后复核
这是内容复核日期,不是学习截止日期。
讲
先认三种「说理毛病」
不管是人说话还是 AI 说话,有三种毛病最常见。认得它们,走到哪都用得上:
- 以偏概全:用一两个例子就下全体结论。「我们班两个近视的都爱玩手机,所以近视都是手机害的。」——两个例子撑不起「都」。
- 偷换话题:不答你问的,悄悄换成好答的。你问「这个方法适合我吗」,它答「这个方法很流行」。——流行不流行,不是你问的。
- 诉诸人多:拿「大家都这么说」当理由。——人多是现象,不是证据;地球是圆的这件事,也曾经「大家都不信」。
聪明 AI 的错,长什么样
现在的 AI 很强,大多数时候答得又快又对——正因为如此,它剩下的错更难看见。低级笑话式的错误少了,留下来的错都很体面,主要有三副面孔:
- 过时信息说得斩钉截铁:它的知识有「截止日期」,之后的新变化它不知道——但语气不会因此变虚。凡是带「最新」「现在」「今年」的说法,都值得再查。
- 顺着你的暗示走:你问「是不是因为 X?」,它可能就势把 X 说圆——哪怕 X 并不是重点。
- 像模像样的假出处:书名、作者、数据的格式全都对,一搜,查无此物。
核心句:AI 的错不穿小丑服,穿西装。越体面的话,越要看它的证件:出处、日期、有没有被你带偏。
例
两个抓包现场。第一个抓「顺着暗示走」——小舟写作文让 AI 提意见,他先用了带暗示的问法:
小舟这篇作文是不是主要毛病在开头?(附全文)
AI开头确实可以更抓人:第一句偏平,背景交代占了太多字数,建议把第三段那个细节提到开篇……
小舟换个问法:忘掉我刚才说的。这篇作文最大的毛病是什么?只说最大的一个。
AI最大的问题不在开头,在结尾:最后两段离题了,写着写着从「坚持」滑到了「感恩」,和开头立的题呼应不上。
两次答案不一样——第一次它顺着「开头」这个暗示挑了一堆开头的毛病,句句在理,却不是要害。抓包动作:换成不带暗示的中立问法,再问一遍,两次对一对。
第二个抓「假出处」:AI 给小雨推荐了一本书,书名、作者、出版社齐全,看着特别真。她搜了一下——查无此书。她没生气,回了一句「这本书我查不到,请只推荐你能确认存在的书,并说明你为什么确认」。出处再漂亮,搜到实物才算数。
练
你问 AI「这部电影好看吗」,它答「这部电影票房很高,很多人都去看了」。它犯了哪两个毛病?
上手 · 8 分钟 · 设个圈套
- 挑一个你已经学扎实的知识点,故意用带错误暗示的问法问 AI(比如把原因说错:「植物晚上也进行光合作用,是因为月光吧?」),看它顺不顺着你走。
- 再用中立问法问一遍同一件事,两次答案对一对。
- 这周内 AI 若给过你任何书名、数据或出处,挑一个去搜——搜得到,算它过关;搜不到,你就抓到了一个「西装错误」。
怎么算过关:写下两行——①AI 有没有被你的暗示带偏(纠正了你,也要记下来,那是它的加分项);②你核查的那个出处,是真是假。
卡
复习卡 · 点一下翻面
聪明 AI 的三种「西装错误」是什么?各用什么招抓?
答案
过时信息说得斩钉截铁(带「最新/现在」的说法一律再查);顺着你的暗示走(换中立问法再问一遍);像模像样的假出处(不搜到实物不算数)。
- 三个说理毛病人机通用:以偏概全、偷换话题、诉诸人多。
- 暗示会带偏答案——中立问法再问一遍,两次对一对。
- 出处再漂亮,搜到实物才算数。