请使用支持现代 CSS 与 JavaScript 的浏览器播放课件
ITA · 第一次日志

第一次作业复盘

如何检查 AI 的回答

VER. 2610.1 Built with impress.js

作业概况

2026 年 9 月 17-23 日使用日志,9 月 27 日接收

37名学生

实际人数37人

收到37份作业

257条记录

每份中位数7条

最少1条,最多14条

5天

有记录天数的中位数

10份覆盖全部7天

日志是自报记录;未写出的操作,无法仅凭日志判断是否做过

2/26
COHORT SNAPSHOT

使用了哪些工具?

豆包出现在 31 份作业中;16 份作业记录了两种及以上工具

各工具覆盖提交数:豆包31、DeepSeek14、ChatGPT6、Kimi4、千问3、WorkBuddy2、文心一言1
3/26
TOOL COVERAGE

主要用途是什么?

概念解释与课程案例占 136 条,约为全部记录的一半

七类主用途:概念与课程案例136,生活31,事实查询26,研究25,写作21,计算操作12,日志6
4/26
TASK PURPOSES

多轮问答时增加了什么?

96 条记录保留两段及以上提示,占全部记录 37.4%

多轮记录中的追问功能:解释39、补条件15、改写13、替代13、质疑9、反馈6
5/26
FOLLOWUP FUNCTIONS

任务结果如何?

207 条自报已解决,占全部 257 条记录的 80.5%

自报状态记录数
已解决207
基本解决11
部分解决20
未解决7
未填写12
Takeaway

自报“已解决”后,仍需查看具体检查记录

6/26
REPORTED OUTCOMES

“已解决”背后的依据是什么?

只看 207 条自报已解决的记录

有人写“足够我回答课堂问题”。这是否说明回答中的事实是正确的?

173条 · 83.6%

没写查阅、复算、运行过程

34条 · 16.4%

写了其他理由,或理由缺失

Takeaway

需要回想具体做过什么

7/26
EVIDENCE BEHIND SUCCESS

其余 34 条记录写了什么?

这 34 条仍是自报;写到查阅或复算,还需看具体做法

主要依据条数
具体查阅、复算或运行6
声称与教师、课本或已有知识一致7
实践尝试或外部反馈7
用另一AI复核1
仍待核实或实践7
依据缺失、占位或错配6
8/26
EVIDENCE CATEGORIES

五个典型案例

9/26
CASE MENU

案例:另一个 AI 也说选题可行

想用仿真研究设备故障,又请另一个 AI 确认能不能做

任务与 AI 给出的方向(概括)

AI 建议研究设备故障:模拟停机,比较不同生产安排对订单延期的影响

Quote

给了我一个更清晰化的选题方案,并解释了其可行性逻辑,我将学以致用

学生判断依据节选;原记录标为“已解决”

如果还不知道能否拿到故障记录,现在能说这个题目做得出来吗?

10/26
CASE ANALYSIS

担心撞题,AI 就确认撞题多

学生想避开供应链方向;AI没有列出论文或答辩记录

Quote

供应链方向确实和物流工程高度重合、选题同质化严重、答辩撞题多。

AI回答节选

要确认“撞题多”,你会查哪些材料?

可查本专业近年的学位论文、已有开题题目,或向导师了解实际情况

Takeaway

AI 顺着你的顾虑说话时,仍要追问:它查了什么?

11/26
CASE ANALYSIS

先问能否拿到故障记录

AI 列出了所需数据,但这些数据可以获取吗?

AI列出的数据

工艺路线、加工时间、设备故障记录、订单信息

还要确认的事

工厂能给哪些记录?缺项能否补采?

  • ■询问能否取得设备停机时间、维修时长和订单交期
  • ■先用一小段记录模拟停机,查看能否算出订单延期
  • ■如果拿不到关键数据,缩小题目或改选能查到数据的问题
12/26
CASE ANALYSIS

案例:用了AI,考试成绩为何不同?

要解释成绩差异,先查比较了哪些学生、怎样比较

Quote

对比实验是谁和谁对比,如果是两个学生之间对比,那人就是变量吧,感觉得不到准确的结果?

学生提示词节选

  • ■用AI和不用AI的学生,原来成绩是否相近?
  • ■学生是随机分组,还是自己选择是否使用AI?
  • ■他们在研究开始前,是否已经用过AI?

如果两组原来的成绩就不同,还能直接把后来的差异归因于AI吗?

13/26
CASE ANALYSIS

AI 说查了原文,那么真拿到了原文吗?

日志中的论文链接只剩附件占位,不能直接点开核对

Quote

我刚刚又核对了论文原文和 CEPR 的介绍,先纠正一个地方……

AI回答节选;本复盘未确认其论文转述是否准确

  • ■按论文题目和作者检索,找到能实际打开的原文
  • ■在方法部分查样本怎样选、学生怎样分组或比较
  • ■把原文页码和查到的结论记下来;查不到的内容标为待核
14/26
CASE ANALYSIS

案例:代码运行了,就算解决了吗?

原记录中两个数组都是3×2,直接做矩阵乘法报错

PYTHON
A = np.random.rand(3, 2)
B = np.random.rand(3, 2)
C = A.dot(B)

要把两个数组对应位置的数相乘,应该用哪一种写法?

逐元素相乘

使用 A * B,得到3×2数组

矩阵乘法

使用 A.dot(B.T),得到3×3数组

15/26
CASE ANALYSIS

“我本意是逐元素相乘”补上了什么?

说明想怎么算,AI才有依据在两种可运行写法中选择

Quote

我本意是逐元素相乘,改成 A*B 后正常运行了。

学生后续提示节选;运行通过为学生自报

  • ■A * B把对应位置的数相乘,符合这次补充的要求
  • ■A.dot(B.T)也能运行,但得到3×3结果,做的是另一种运算
  • ■可再换成自己能手算的小数组,比较每个输出位置是否正确
16/26
CASE ANALYSIS

列出开发长江的好处,就够了吗?

两位学生都在准备课堂讨论,对“已解决”的要求却不同

能用于课堂发言

“内容简单明了,够我回答问题”

学生判断依据节选

数字仍要查

“关键数字得自己核实”

学生判断依据节选

如果发言中引用了发电量、移民人数或文物数量,你会怎样核对?

Takeaway

可以帮助准备发言;引用具体数字时,还应查来源、年份和统计范围

17/26
CASE ANALYSIS

背包带收好了,AI 仍算“部分解决”

学生看完AI的文字方法后,转向视频教程

01

看文字方法

AI建议卷起固定、使用收纳扣或穿回织带袢

02

找视频演示

学生报告通过观看视频解决

03

填写结果

对AI仍标记“部分解决”,没有把后续完成全算给AI

Takeaway

照文字仍不会操作时,找视频看清手怎么动,可能比继续问更有用

18/26
CASE ANALYSIS

统计和案例分别说明什么?

单个案例只能提示一种可能的问题

统计中看得到

136条在解释概念或课程案例

173 条“已解决”未写检查过程

案例中看得到

第二个AI赞同,就认为选题可行

AI说查了论文,日志却没有可打开的原文链接

从自己的日志选一条,补查依据,再更新处理结果

19/26
SCOPE OF EVIDENCE

把“答案不错”改成具体检查

选题、论文和代码,需要检查的东西并不相同

准备采用的回答先做哪一项检查
这个仿真选题可行询问能否取得停机和维修记录
论文说明AI影响成绩查原文怎样选样本、比较成绩
这段代码已经改好了用能手算的输入对照输出结果

从自己的日志选一条:你准备采用哪句话?先查哪一件事?

20/26
ACCEPTANCE CRITERIA

让下一次追问帮助你查清一件事

把“继续说”“再详细些”换成与当前疑问有关的问题

还没弄清的事可以怎样追问AI
论文里的两组学生原来是否相近给出原文中说明分组和原有成绩的位置
故障仿真需要哪些数据列出必需数据,如停机时间;缺哪项就做不了
代码为什么还算错这是输入、实际输出和预期输出,差异在哪?
Takeaway

拿到论文位置后要打开原文;拿到修改后的代码要对照预期输出

21/26
PURPOSEFUL FOLLOWUP

在日志里写清楚你检查了什么

“运行正常”可以再写成别人能照着重做的记录

怎样补写逐元素相乘的记录(教学示例)

我检查了什么

用小数组逐项手算,再与 A * B 的输出比较

得到了什么

保存输入、手算结果和实际输出,逐项记录是否一致

还没查什么

还没有用原任务的数据检查;不能写成原任务已经完成

22/26
RECORD THE CHECK

AI 帮不上忙,该怎么办?

根据眼前的问题,换一种能提供所需信息的方法

眼前的问题下一步可以做什么
论文链接打不开用题目和作者检索原文
不知道工厂有什么记录询问负责设备或生产记录的人
看文字仍不会收背包带找能看清手部动作的视频
不知道选题能否在学期内完成带上数据清单和小样例与导师讨论
23/26
CHANGE THE NEXT ACTION

以选题为例,怎样继续做下去?

先确认数据能否取得,再用一小段记录检验题目能否做成

01

说清要比较什么

设备停机后,哪一种生产安排能减少订单延期

02

问清能拿到什么

确认停机、维修、加工时间和订单记录

03

先试一小段记录

模拟一次停机,查看能否算出延期并比较安排

04

再决定题目

能做就继续;缺数据或算不出,就缩小问题或换题

24/26
CHECKABLE WORKFLOW

练习:补写自己的一条日志

选一条准备采用的AI回答,检查其中一个具体说法

  • ■抄出准备采用的那句话,例如“这个选题可行”
  • ■写出要查的材料,例如“工厂是否有停机和维修记录”
  • ■能当场查就查;暂时查不了,就写清准备问谁或去哪里找
  • ■写出查到的结果;尚未检查的,仍标为“待检查”

同伴互看:你查的这件事,能否支持你准备采用的那句话?

25/26
REVISE YOUR OWN RECORD

让“已解决”后面多一条检查记录

下次翻开日志,能看见你实际查了什么、算了什么、试了什么

  • ■查论文:记下原文位置,以及它究竟说明了什么
  • ■改代码:保留输入、预期输出和实际运行结果
  • ■做选题:写明哪些数据已经拿到,哪些仍需确认

下课前写一句:我准备给哪条日志补做什么检查?

26/26
EVIDENCE AND RESPONSIBILITY