主题

为什么要核对来源：来源记忆、可信度判断与生成模型的引用

  • 文献综述

Mars Research · 2026 年 11 月 3 日

摘要

一条无法追溯来源的说法很难核对，而人和生成模型都会弄丢来源。本文综述四组研究证据：第一，记忆可能留住说法却丢掉出处：判断一段记忆来自哪里是一种会出错的归因，来自不可信来源的信息会随时间变得更有说服力，重复会让说法显得更真实，即使人本来知道正确答案 (Johnson et al., 1993; Kumkale & Albarracín, 2004; Fazio et al., 2015)；第二，人们判断网络信息可信度主要依赖启发式，而专业事实核查员会离开页面去查清背后是谁，这一策略可以教会学生 (Metzger et al., 2010; Wineburg & McGrew, 2019; Wineburg et al., 2022)；第三，生成模型容易产生幻觉内容，包括虚构的参考文献，以及无法完全支持对应陈述的引用来源 (Ji et al., 2023; Walters & Wilder, 2023; Wu et al., 2025)；第四，相信虚假标题更多与缺少反思有关，而非党派偏见，把注意力转向准确性能改善人们分享的内容，而在检索需求含糊时，澄清式提问有帮助 (Pennycook & Rand, 2019; Pennycook et al., 2021; Zamani et al., 2020)。基于这些证据，Mars 深度研究先给出调研提案卡片，等你确认方向；多位研究助手的进展以卡片实时展示；报告引用的每个网页链接都显示页面的真实标题；Mars 以未登录访客身份读取公开网页，没读到时直接告诉你而不是去猜；执行前用最多五个问题和你对齐方向。本文同时说明这些证据的边界：它们支持设计方向，并不等同于对 Mars 本身效果的实验验证；单靠突出发布者，并不能有效降低人们对错误信息的易感性 (Dias et al., 2020)。

关键词：来源监控 · 错误信息 · 横向阅读 · 可信度启发式 · 幻觉 · 引用准确性 · 准确性提示 · 澄清式提问 · 深度研究 · AI 研究助手

1. 引言

错误信息很难被清除。一篇认知研究综述指出，撤回错误信息往往难以更新人们的记忆，撤回的尝试甚至可能适得其反 (Lewandowsky et al., 2012)。一项纳入 32 项研究（N = 6,527）的元分析发现，平均而言，更正并不能完全消除错误信息的影响；当错误信息被归于可信来源、更正前已被多次重复，或更正与错误信息之间存在时间间隔时，更正的效果更差 (Walter & Tukachinsky, 2020)。与此同时，问题有了新的来源：深度学习语言生成模型写出的文字流畅连贯，却容易产生幻觉内容 (Ji et al., 2023)。

因此，核对来源不只是形式。本文要回答的问题是：人为什么会弄丢来源？熟练的读者如何核对来源？生成模型写出的引用为什么同样需要核对？这些答案又对一款 AI 研究助手的设计意味着什么？

研究方法说明：本文是一篇叙述性文献综述，涵盖认知心理学、传播学、信息素养与自然语言处理。我们优先选取经同行评审、可通过 DOI 访问的研究，优先采用元分析、预注册实验、实地实验和大规模评估，并纳入一项重复研究和若干限定流行干预手段的研究；文中每一处事实陈述都标注了出处，文末列出完整参考文献和原始链接。

2. 记住了说法，忘掉了出处

来源监控框架认为，判断一段记忆来自哪里，是依据所记经验的特征做出的归因；这类判断依照灵活的标准进行，容易出错和受到干扰。它解释的现象包括错误归因的熟悉感、潜隐记忆（把别人的想法当成自己的）以及把虚构内容并入事实 (Johnson et al., 1993)。

丢掉来源会改变一条信息的说服力。在“睡眠者效应”中，人们在接收信息的同时得到一个削弱可信度的线索，例如来源不可信，此时他们当下受到的说服小于事后；元分析发现，当论点和这一线索最初的影响都较强，以及削弱线索出现在信息之后时，随时间增加的说服力更明显 (Kumkale & Albarracín, 2004)。重复会放大这一风险：重复过的陈述更容易加工，也被判断为更真实；即使参与者本来知道正确答案，这种“虚幻真相效应”依然出现 (Fazio et al., 2015)。

当来源始终附在说法旁边，而不是交给记忆时，说法更容易核对。基于此，Mars 深度研究报告引用的每个网页链接都显示页面的真实标题，网页端和 iOS 一致，报告里的每个来源都能按它本来的样子被认出 (Johnson et al., 1993; Kumkale & Albarracín, 2004)。

3. 人们如何判断可信度，专家又如何核对

大多数人并不会费力地评估网络信息。一项有 109 名参与者的焦点小组研究发现，多数用户依赖他人来判断可信度，常常借助基于群体的工具，并且惯常使用认知启发式，而不是系统地加工信息 (Metzger et al., 2010)。

熟练的核对方式截然不同。Wineburg 与 McGrew 请 10 位历史学博士、10 位专业事实核查员和 25 名斯坦福大学本科生，一边评估真实网站一边出声思考。历史学者和学生常被看似官方的标志、域名等容易伪造的特征误导，并且“纵向阅读”，一直停留在同一个网站内；事实核查员则“横向阅读”，快速浏览后就离开该网站，打开新的浏览器标签页去判断原网站的可信度，用少得多的时间得出更有依据的结论 (Wineburg & McGrew, 2019)。这一策略可以教会：在一项全学区的实地研究中，老师按事实核查员的策略讲授六节一小时课程的高中生（n = 271），判断数字内容可信度的能力，比普通班级的同龄人（n = 228）有显著更大的提升 (Wineburg et al., 2022)。

横向阅读的前提，是知道一个来源是什么，并且能打开原文。基于此，Mars 深度研究用页面的真实标题展示每个引用来源；对于会员、私信等需要登录的内容，Mars 会让你打开原文链接：网页版在新标签页打开，iOS 在应用内浏览器打开，并可一键转到 Safari (Wineburg & McGrew, 2019; Wineburg et al., 2022)。

4. 生成模型也会弄丢和虚构来源

一篇关于自然语言生成幻觉的综述指出，基于深度学习的文本生成容易产生非预期的幻觉内容，并回顾了摘要生成、对话生成、生成式问答、数据到文本生成和机器翻译中的评测指标与缓解方法 (Ji et al., 2023)。

引用是最容易看见的一类。用 ChatGPT-3.5 和 ChatGPT-4 就 42 个主题写短篇文献综述时，GPT-3.5 的引用中有 55% 是虚构的，GPT-4 为 18%；在真实存在的引用中，分别有 43% 和 24% 含有实质性错误 (Walters & Wilder, 2023)。按 11 篇系统综述的纳入标准检索文献时，GPT-3.5、GPT-4 和 Bard 生成的参考文献幻觉率分别为 39.6%、28.6% 和 91.4%，作者据此认为，这类模型生成的任何参考文献都需要研究者彻底核实 (Chelli et al., 2024)。即使引用真实存在也不够：在 7 个模型、800 个医学问题和 58,000 组“陈述—来源”配对中，50% 到 90% 的回答没有得到所引来源的完全支持，有时甚至与来源相矛盾；即使是带联网搜索的 GPT-4o，也有约 30% 的单条陈述缺乏来源支持 (Wu et al., 2025)。

因此，模型给出的引用必须能被核对，模型没读到的页面也不该靠猜测补全。基于此，Mars 以未登录访客身份读取公开网页；遇到登录或安全验证页，会直接告诉你没读到，而不是去猜内容，最终的调研报告也会自动跳过只有安全验证的页面 (Walters & Wilder, 2023; Chelli et al., 2024; Wu et al., 2025)。

5. 停下来想一想，动手前先问清楚

人们为什么会相信虚假说法？在两项共 3,446 名 Mechanical Turk 参与者的研究中，认知反思测验成绩与对假新闻准确性的评价呈负相关，与区分真假新闻的能力呈正相关，即使标题符合参与者的政治立场也是如此；作者据此认为，人们容易相信假新闻，更多是因为懒于思考，而不是党派偏见本身 (Pennycook & Rand, 2019)。

缺少的往往是注意力，而不是价值观。标题的真假对分享意愿影响很小，对准确性判断的影响却很大；在四项问卷实验和一项 Twitter 实地实验中，不着痕迹地把注意力引向准确性，提高了人们随后分享的新闻质量 (Pennycook et al., 2021)。检索一开始的含糊会带来相关的问题：检索词往往很短、意图不明，用户研究和大规模在线实验发现，在网页搜索中提出澄清式问题是有用的；作者还为每个问题生成候选答案，供用户直接选择 (Zamani et al., 2020)。

基于此，Mars 在调研中留出了停顿。发起公司、人物或行业深度调研时，Mars 先给出调研提案卡片，等你确认方向再开工；需要你拍板时，Mars 会在输入框上方展开提问面板，每次最多五个问题，点选编号选项或自己填写都可以 (Pennycook et al., 2021; Zamani et al., 2020)。确认后，每位研究助手的进展都以卡片实时展示，不再是一个转圈的黑箱。

6. 从证据到设计

上述发现共同指向一个结论：一款让人能够核对的研究助手，需要让来源始终可见、让原文容易打开、如实说明没读到什么，并在开工前先定好方向。Mars 的设计逐条对应这些要求：

  1. 记忆会把说法与来源分开 → 每个引用链接都显示真实标题Mars 深度研究报告引用的每个网页链接都显示页面的真实标题，网页端和 iOS 一致。每条陈述的来源都留在报告里，而不必依赖日后可能张冠李戴的记忆 (Johnson et al., 1993; Kumkale & Albarracín, 2004; Fazio et al., 2015)。
  2. 专家通过离开页面来核对来源 → 原文容易打开每个来源都以真实标题出现，你可以打开它，横向阅读，查清背后是谁。想看会员、私信等需要登录的内容，打开原文链接即可：网页版在新标签页打开，iOS 在应用内浏览器打开，并可一键转到 Safari (Metzger et al., 2010; Wineburg & McGrew, 2019; Wineburg et al., 2022)。
  3. 模型会虚构和错配引用 → 没读到的页面不靠猜Mars 读到的就是未登录访客能看到的内容，不带任何账号、cookie、密码或登录状态。遇到登录或安全验证页，会直接告诉你没读到，而不是去猜内容；报告也会自动跳过只有安全验证的页面 (Ji et al., 2023; Walters & Wilder, 2023; Chelli et al., 2024; Wu et al., 2025)。
  4. 准确需要注意力，意图需要澄清 → 先确认调研方向，最多五个问题Mars 先给出调研提案卡片等你确认，需要你拍板时展开最多五个编号问题的提问面板，并以卡片实时展示每位研究助手的进展。方向你定，过程你看 (Pennycook & Rand, 2019; Pennycook et al., 2021; Zamani et al., 2020)。
深度研究全程透明，每个来源都看得清

图 1：深度研究全程透明，每个来源都看得清

关键决定你来拍板，每条回答都能再利用

图 2：关键决定你来拍板，每条回答都能再利用

7. 局限与边界

第一，本文引用的研究检验的是人和生成模型如何处理来源，而不是 Mars 本身。这些证据支持我们的设计方向，但不能证明 Mars 会减少报告中的错误；产品效果需要另行评估。

第二，样本各有特定范围：在线问卷参与者 (Pennycook & Rand, 2019; Pennycook et al., 2020)，45 位历史学者、事实核查员和斯坦福本科生 (Wineburg & McGrew, 2019)，单一城市学区的高中生 (Wineburg et al., 2022)，以及医学问题和医学文献 (Chelli et al., 2024; Wu et al., 2025)。生成模型的错误率取决于所测的模型版本，不同版本之间差异很大 (Walters & Wilder, 2023)，它们说明的是一种风险，而不是固定比率。

第三，流行的干预手段没有听起来那么有效。一项对准确性提示研究（以新冠相关标题为材料）的预注册直接重复，第一阶段（n = 701）未能重复出结果，合并样本（N = 1,583）中只得到小而显著的效应 (Roozenbeek et al., 2021)。一般性警告和事实核查标签只能适度降低人们对虚假标题准确性的评价，而一般性警告也降低了人们对真实标题的相信程度 (Clayton et al., 2020)；只给部分虚假标题加警告，会让未加警告的虚假标题显得更准确 (Pennycook et al., 2020)；突出显示发布者则没有效果，甚至可能适得其反 (Dias et al., 2020)。

第四，来源标注不等于结论。页面的真实标题告诉你来源是什么，而不是内容是否正确。因此，Mars 把原文链接留在手边，而不是要你相信一个标注；信什么，最终由读者自己判断。

8. 结论

来源会在两个地方丢失：一是人的记忆，它可能记住说法却忘掉出处；二是生成的文字，它可能引用并不存在、或并不支持其说法的文献。本文综述的研究表明，让来源始终可见、打开原文核对，以及停下来想清楚准确性与意图，是对应的解法，而单靠标注作用有限。Mars 深度研究的调研提案卡片、实时展示的研究助手卡片、每个引用链接的真实标题、未登录读取网页，以及执行前最多五个问题的对齐，正是依据这些证据设计的。

参考文献

按 APA 第 7 版格式列出；每条均附 DOI 原始链接。

  1. Chelli, M., Descamps, J., Lavoué, V., Trojani, C., Azar, M., Deckert, M., Raynier, J.-L., Clowez, G., Boileau, P., & Ruetsch-Chelli, C. (2024). Hallucination rates and reference accuracy of ChatGPT and Bard for systematic reviews: Comparative analysis. Journal of Medical Internet Research, 26, e53164. https://doi.org/10.2196/53164
  2. Clayton, K., Blair, S., Busam, J. A., Forstner, S., Glance, J., Green, G., Kawata, A., Kovvuri, A., Martin, J., Morgan, E., Sandhu, M., Sang, R., Scholz-Bright, R., Welch, A. T., Wolff, A. G., Zhou, A., & Nyhan, B. (2020). Real solutions for fake news? Measuring the effectiveness of general warnings and fact-check tags in reducing belief in false stories on social media. Political Behavior, 42(4), 1073–1095. https://doi.org/10.1007/s11109-019-09533-0
  3. Dias, N., Pennycook, G., & Rand, D. G. (2020). Emphasizing publishers does not effectively reduce susceptibility to misinformation on social media. Harvard Kennedy School Misinformation Review, 1(1). https://doi.org/10.37016/mr-2020-001
  4. Fazio, L. K., Brashier, N. M., Payne, B. K., & Marsh, E. J. (2015). Knowledge does not protect against illusory truth. Journal of Experimental Psychology: General, 144(5), 993–1002. https://doi.org/10.1037/xge0000098
  5. Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1–38. https://doi.org/10.1145/3571730
  6. Johnson, M. K., Hashtroudi, S., & Lindsay, D. S. (1993). Source monitoring. Psychological Bulletin, 114(1), 3–28. https://doi.org/10.1037/0033-2909.114.1.3
  7. Kumkale, G. T., & Albarracín, D. (2004). The sleeper effect in persuasion: A meta-analytic review. Psychological Bulletin, 130(1), 143–172. https://doi.org/10.1037/0033-2909.130.1.143
  8. Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest, 13(3), 106–131. https://doi.org/10.1177/1529100612451018
  9. Metzger, M. J., Flanagin, A. J., & Medders, R. B. (2010). Social and heuristic approaches to credibility evaluation online. Journal of Communication, 60(3), 413–439. https://doi.org/10.1111/j.1460-2466.2010.01488.x
  10. Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. Cognition, 188, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011
  11. Pennycook, G., Bear, A., Collins, E. T., & Rand, D. G. (2020). The implied truth effect: Attaching warnings to a subset of fake news headlines increases perceived accuracy of headlines without warnings. Management Science, 66(11), 4944–4957. https://doi.org/10.1287/mnsc.2019.3478
  12. Pennycook, G., Epstein, Z., Mosleh, M., Arechar, A. A., Eckles, D., & Rand, D. G. (2021). Shifting attention to accuracy can reduce misinformation online. Nature, 592(7855), 590–595. https://doi.org/10.1038/s41586-021-03344-2
  13. Roozenbeek, J., Freeman, A. L. J., & van der Linden, S. (2021). How accurate are accuracy-nudge interventions? A preregistered direct replication of Pennycook et al. (2020). Psychological Science, 32(7), 1169–1178. https://doi.org/10.1177/09567976211024535
  14. Walter, N., & Tukachinsky, R. (2020). A meta-analytic examination of the continued influence of misinformation in the face of correction: How powerful is it, why does it happen, and how to stop it?. Communication Research, 47(2), 155–177. https://doi.org/10.1177/0093650219854600
  15. Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5
  16. Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11), 1–40. https://doi.org/10.1177/016146811912101102
  17. Wineburg, S., Breakstone, J., McGrew, S., Smith, M. D., & Ortega, T. (2022). Lateral reading on the open Internet: A district-wide field study in high school government classes. Journal of Educational Psychology, 114(5), 893–909. https://doi.org/10.1037/edu0000740
  18. Wu, K., Wu, E., Wei, K., Zhang, A., Casasola, A., Nguyen, T. P., Riantawan, S., Shi, P., Ho, D. E., & Zou, J. (2025). An automated framework for assessing how well LLMs cite relevant medical references. Nature Communications, 16, 3615. https://doi.org/10.1038/s41467-025-58551-6
  19. Zamani, H., Dumais, S., Craswell, N., Bennett, P. N., & Lueck, G. (2020). Generating clarifying questions for information retrieval. Proceedings of The Web Conference 2020, 418–428. https://doi.org/10.1145/3366423.3380126

引用本文

Mars Research. (2026). 为什么要核对来源：来源记忆、可信度判断与生成模型的引用. MarsDataAI. https://marsdata.ai/zh-CN/research/checking-sources-in-research

事件
用户设置
资料库