Large Language Models Cannot Self-Correct Reasoning Yet

自纠错实验常把更多调用、Oracle 提示或外部工具与修订机制混在一起。本文问的是更窄的问题：没有外部正确性反馈的固定 LLM，能否仅凭自身判断改善 Reasoning？它提醒研究者为强结论准备匹配的信息与计算对照。

若只挑错误答案进入修订，系统实际上已经获得了“哪些题错了”的信息。若修订比基线多用几倍调用，也不能确定收益来自诊断能力。先消除这些混淆，再统计 Wrong→Right 与 Right→Wrong，便能看见净变化来自哪里。

判断何时应保留正确答案，本身就是 self-correction 的关键能力。若研究者用真实标签阻止 model 把正确答案改错，便给循环注入了强外部信息；这种成绩不能直接归因于 model 独立 reflection。

沿用原文 GSM8K 与 CommonSenseQA 设置：先生成初答，在不告知对错的条件下要求检查并修订，最后统一用标签评分。另设 Oracle Feedback 和等量多样本等对照。输出是各类答案转移和总准确率，而非新的训练算法。原文发现部分 Model 会把原本正确的选择改错。

设初始正确率为 a，正确答案被改错的条件概率为 p，错误答案被修正的概率为 q。一次修订后的正确率为 a(1−p)+(1−a)q。净增益是 (1−a)q−ap。因此基础 Model 越强，可供修复的错误越少，保护正确答案越重要。这是基于转移分类的教学推导，不是论文给出的不可能性定理。

a_new = a·(1−p) + (1−a)·q
Δa = (1−a)·q − a·p
p: Right→Wrong; q: Wrong→Right

假设原始 Accuracy 为 a=0.8，修订会把原来正确答案中的 p=0.1 改错，同时把错误答案中的 q=0.2 改对。保留下来的正确比例是 0.8×0.9=0.72，新救回来的比例是 0.2×0.2=0.04，合计 0.76。虽然有一些错误确实被修好，整体表现仍下降。一般地，只有救回的 (1−a)q 大于损失的 ap，Self-Correction 才产生净收益。这是由两类条件概率直接得到的分解，不是论文对所有任务使用同一 p、q 的假设。

这篇论文最有价值的结论是评价协议，而非标题的绝对语气。任何自纠错报告都应公布反馈权限、调用预算和正确答案被破坏的比例。

最脆弱的外推是假定当时的固定 Model 和 Prompt 已代表全部可训练纠错能力。负结果限制的是所测条件；不同训练、可验证工具或新信息可能改变结论。

该结论有明确的时间、model 与任务范围，不能作为新一代 model 的免检结论。作者承认可验证 external feedback，以及风格或偏好调整等任务中 self-correction 的作用；本条核读方法、结果和局限，未复现实验。