主題

為什麼要核對來源：來源記憶、可信度判斷與生成模型的引用

  • 文獻回顧

Mars Research · 2026 年 11 月 3 日

摘要

一則無法追溯來源的說法很難核對，而人和生成模型都會弄丟來源。本文回顧四組研究證據：第一，記憶可能留住說法卻丟掉出處：判斷一段記憶來自哪裡是一種會出錯的歸因，來自不可信來源的訊息會隨時間變得更有說服力，重複會讓說法顯得更真實，即使人本來知道正確答案 (Johnson et al., 1993; Kumkale & Albarracín, 2004; Fazio et al., 2015)；第二，人們判斷網路資訊可信度主要依賴捷思，而專業事實查核員會離開頁面去查清背後是誰，這項策略可以教給學生 (Metzger et al., 2010; Wineburg & McGrew, 2019; Wineburg et al., 2022)；第三，生成模型容易產生幻覺內容，包括虛構的參考文獻，以及無法完全支持對應陳述的引用來源 (Ji et al., 2023; Walters & Wilder, 2023; Wu et al., 2025)；第四，相信假標題更多與缺少反思有關，而非黨派偏見，把注意力轉向準確性能改善人們分享的內容，而在搜尋需求含糊時，澄清式提問有幫助 (Pennycook & Rand, 2019; Pennycook et al., 2021; Zamani et al., 2020)。根據這些證據，Mars 深度研究先給出調研提案卡片，等你確認方向；多位研究助手的進展以卡片即時展示；報告引用的每個網頁連結都顯示頁面的真實標題；Mars 以未登入訪客身份讀取公開網頁，沒讀到時直接告訴你而不是去猜；執行前用最多五個問題和你對齊方向。本文同時說明這些證據的邊界：它們支持設計方向，並不等同於對 Mars 本身效果的實驗驗證；單靠突顯發布者，並不能有效降低人們對錯誤資訊的易感性 (Dias et al., 2020)。

關鍵詞：來源監控 · 錯誤資訊 · 橫向閱讀 · 可信度捷思 · 幻覺 · 引用準確性 · 準確性提示 · 澄清式提問 · 深度研究 · AI 研究助理

1. 引言

錯誤資訊很難被清除。一篇認知研究回顧指出，撤回錯誤資訊往往難以更新人們的記憶，撤回的嘗試甚至可能適得其反 (Lewandowsky et al., 2012)。一項納入 32 項研究（N = 6,527）的後設分析發現，平均而言，更正並不能完全消除錯誤資訊的影響；當錯誤資訊被歸於可信來源、更正前已被多次重複，或更正與錯誤資訊之間存在時間間隔時，更正的效果較差 (Walter & Tukachinsky, 2020)。與此同時，問題有了新的來源：深度學習語言生成模型寫出的文字流暢連貫，卻容易產生幻覺內容 (Ji et al., 2023)。

因此，核對來源不只是形式。本文要回答的問題是：人為什麼會弄丟來源？熟練的讀者如何核對來源？生成模型寫出的引用為什麼同樣需要核對？這些答案又對一款 AI 研究助理的設計意味著什麼？

研究方法說明：本文是一篇敘述性文獻回顧，涵蓋認知心理學、傳播學、資訊素養與自然語言處理。我們優先選取經同儕審查、可透過 DOI 存取的研究，優先採用後設分析、預先註冊實驗、實地實驗和大規模評估，並納入一項再現研究和若干限定流行介入手段的研究；文中每一處事實陳述都標註了出處，文末列出完整參考文獻和原始連結。

2. 記住了說法，忘掉了出處

來源監控架構認為，判斷一段記憶來自哪裡，是依據所記經驗的特徵做出的歸因；這類判斷依照彈性的標準進行，容易出錯和受到干擾。它解釋的現象包括錯誤歸因的熟悉感、潛隱記憶（把別人的想法當成自己的）以及把虛構內容併入事實 (Johnson et al., 1993)。

丟掉來源會改變一則訊息的說服力。在「睡眠者效應」中，人們在接收訊息的同時得到一個削弱可信度的線索，例如來源不可信，此時他們當下受到的說服小於事後；後設分析發現，當論點和這個線索最初的影響都較強，以及削弱線索出現在訊息之後時，隨時間增加的說服力更明顯 (Kumkale & Albarracín, 2004)。重複會放大這項風險：重複過的陳述更容易處理，也被判斷為更真實；即使參與者本來知道正確答案，這種「虛幻真相效應」依然出現 (Fazio et al., 2015)。

當來源始終附在說法旁邊，而不是交給記憶時，說法更容易核對。根據這一點，Mars 深度研究報告引用的每個網頁連結都顯示頁面的真實標題，網頁端和 iOS 一致，報告裡的每個來源都能依它本來的樣子被認出 (Johnson et al., 1993; Kumkale & Albarracín, 2004)。

3. 人們如何判斷可信度，專家又如何核對

大多數人並不會費力地評估網路資訊。一項有 109 名參與者的焦點團體研究發現，多數使用者依賴他人來判斷可信度，常常藉助以群體為基礎的工具，並且習慣使用認知捷思，而不是系統地處理資訊 (Metzger et al., 2010)。

熟練的核對方式截然不同。Wineburg 與 McGrew 請 10 位歷史學博士、10 位專業事實查核員和 25 名史丹佛大學大學部學生，一邊評估真實網站一邊放聲思考。歷史學者和學生常被看似官方的標誌、網域名稱等容易偽造的特徵誤導，並且「垂直閱讀」，一直停留在同一個網站內；事實查核員則「橫向閱讀」，快速瀏覽後就離開該網站，開啟新的瀏覽器分頁去判斷原網站的可信度，用少得多的時間得出更有依據的結論 (Wineburg & McGrew, 2019)。這項策略可以教會：在一項全學區的實地研究中，老師依事實查核員的策略講授六堂一小時課程的高中生（n = 271），判斷數位內容可信度的能力，比一般班級的同儕（n = 228）有顯著更大的提升 (Wineburg et al., 2022)。

橫向閱讀的前提，是知道一個來源是什麼，並且能開啟原文。根據這一點，Mars 深度研究用頁面的真實標題呈現每個引用來源；對於會員、私信等需要登入的內容，Mars 會讓你開啟原文連結：網頁版在新標籤頁開啟，iOS 在應用內瀏覽器開啟，並可一鍵轉到 Safari (Wineburg & McGrew, 2019; Wineburg et al., 2022)。

4. 生成模型也會弄丟和虛構來源

一篇關於自然語言生成幻覺的回顧指出，以深度學習為基礎的文本生成容易產生非預期的幻覺內容，並回顧了摘要生成、對話生成、生成式問答、資料到文本生成和機器翻譯中的評估指標與緩解方法 (Ji et al., 2023)。

引用是最容易看見的一類。用 ChatGPT-3.5 和 ChatGPT-4 就 42 個主題寫短篇文獻回顧時，GPT-3.5 的引用中有 55% 是虛構的，GPT-4 為 18%；在真實存在的引用中，分別有 43% 和 24% 含有實質性錯誤 (Walters & Wilder, 2023)。依 11 篇系統性回顧的納入標準檢索文獻時，GPT-3.5、GPT-4 和 Bard 產生的參考文獻幻覺率分別為 39.6%、28.6% 和 91.4%，作者據此認為，這類模型產生的任何參考文獻都需要研究者徹底查證 (Chelli et al., 2024)。即使引用真實存在也不夠：在 7 個模型、800 個醫學問題和 58,000 組「陳述—來源」配對中，50% 到 90% 的回答沒有得到所引來源的完全支持，有時甚至與來源相矛盾；即使是帶聯網搜尋的 GPT-4o，也有約 30% 的單條陳述缺乏來源支持 (Wu et al., 2025)。

因此，模型給出的引用必須能被核對，模型沒讀到的頁面也不該靠猜測補全。根據這一點，Mars 以未登入訪客身份讀取公開網頁；遇到登入或安全驗證頁，會直接告訴你沒讀到，而不是去猜內容，最終的調研報告也會自動跳過只有安全驗證的頁面 (Walters & Wilder, 2023; Chelli et al., 2024; Wu et al., 2025)。

5. 停下來想一想，動手前先問清楚

人們為什麼會相信虛假說法？在兩項共 3,446 名 Mechanical Turk 參與者的研究中，認知反思測驗成績與對假新聞準確性的評價呈負相關，與分辨真假新聞的能力呈正相關，即使標題符合參與者的政治立場也是如此；作者據此認為，人們容易相信假新聞，更多是因為懶於思考，而不是黨派偏見本身 (Pennycook & Rand, 2019)。

缺少的往往是注意力，而不是價值觀。標題的真假對分享意願影響很小，對準確性判斷的影響卻很大；在四項問卷實驗和一項 Twitter 實地實驗中，不著痕跡地把注意力引向準確性，提高了人們隨後分享的新聞品質 (Pennycook et al., 2021)。搜尋一開始的含糊會帶來相關的問題：搜尋詞往往很短、意圖不明，使用者研究和大規模線上實驗發現，在網頁搜尋中提出澄清式問題是有用的；作者還為每個問題產生候選答案，供使用者直接選擇 (Zamani et al., 2020)。

根據這一點，Mars 在調研中留出了停頓。發起公司、人物或行業深度調研時，Mars 先給出調研提案卡片，等你確認方向再開工；需要你拍板時，Mars 會在輸入框上方展開提問面板，每次最多五個問題，點選編號選項或自己填寫都可以 (Pennycook et al., 2021; Zamani et al., 2020)。確認後，每位研究助手的進展都以卡片即時展示，不再是一個轉圈的黑箱。

6. 從證據到設計

上述發現共同指向一個結論：一款讓人能夠核對的研究助理，需要讓來源始終可見、讓原文容易開啟、如實說明沒讀到什麼，並在開工前先定好方向。Mars 的設計逐條對應這些要求：

  1. 記憶會把說法與來源分開 → 每個引用連結都顯示真實標題Mars 深度研究報告引用的每個網頁連結都顯示頁面的真實標題，網頁端和 iOS 一致。每則陳述的來源都留在報告裡，而不必依賴日後可能張冠李戴的記憶 (Johnson et al., 1993; Kumkale & Albarracín, 2004; Fazio et al., 2015)。
  2. 專家透過離開頁面來核對來源 → 原文容易開啟每個來源都以真實標題出現，你可以開啟它，橫向閱讀，查清背後是誰。想看會員、私信等需要登入的內容，開啟原文連結即可：網頁版在新標籤頁開啟，iOS 在應用內瀏覽器開啟，並可一鍵轉到 Safari (Metzger et al., 2010; Wineburg & McGrew, 2019; Wineburg et al., 2022)。
  3. 模型會虛構和錯配引用 → 沒讀到的頁面不靠猜Mars 讀到的就是未登入訪客能看到的內容，不帶任何帳號、cookie、密碼或登入狀態。遇到登入或安全驗證頁，會直接告訴你沒讀到，而不是去猜內容；報告也會自動跳過只有安全驗證的頁面 (Ji et al., 2023; Walters & Wilder, 2023; Chelli et al., 2024; Wu et al., 2025)。
  4. 準確需要注意力，意圖需要澄清 → 先確認調研方向，最多五個問題Mars 先給出調研提案卡片等你確認，需要你拍板時展開最多五個編號問題的提問面板，並以卡片即時展示每位研究助手的進展。方向你定，過程你看 (Pennycook & Rand, 2019; Pennycook et al., 2021; Zamani et al., 2020)。
深度研究全程透明，每個來源都看得清

圖 1：深度研究全程透明，每個來源都看得清

關鍵決定你來拍板，每條回答都能再利用

圖 2：關鍵決定你來拍板，每條回答都能再利用

7. 限制與邊界

第一，本文引用的研究檢驗的是人和生成模型如何處理來源，而不是 Mars 本身。這些證據支持我們的設計方向，但不能證明 Mars 會減少報告中的錯誤；產品效果需要另行評估。

第二，樣本各有特定範圍：線上問卷參與者 (Pennycook & Rand, 2019; Pennycook et al., 2020)，45 位歷史學者、事實查核員和史丹佛大學部學生 (Wineburg & McGrew, 2019)，單一城市學區的高中生 (Wineburg et al., 2022)，以及醫學問題和醫學文獻 (Chelli et al., 2024; Wu et al., 2025)。生成模型的錯誤率取決於所測的模型版本，不同版本之間差異很大 (Walters & Wilder, 2023)，它們說明的是一種風險，而不是固定比率。

第三，流行的介入手段沒有聽起來那麼有效。一項對準確性提示研究（以新冠相關標題為材料）的預先註冊直接再現，第一階段（n = 701）未能再現結果，合併樣本（N = 1,583）中只得到小而顯著的效果 (Roozenbeek et al., 2021)。一般性警告和事實查核標籤只能適度降低人們對假標題準確性的評價，而一般性警告也降低了人們對真實標題的相信程度 (Clayton et al., 2020)；只替部分假標題加上警告，會讓未加警告的假標題顯得更準確 (Pennycook et al., 2020)；突顯發布者則沒有效果，甚至可能適得其反 (Dias et al., 2020)。

第四，來源標示不等於結論。頁面的真實標題告訴你來源是什麼，而不是內容是否正確。因此，Mars 把原文連結留在手邊，而不是要你相信一個標示；該相信什麼，最終由讀者自己判斷。

8. 結論

來源會在兩個地方遺失：一是人的記憶，它可能記住說法卻忘掉出處；二是生成的文字，它可能引用並不存在、或並不支持其說法的文獻。本文回顧的研究顯示，讓來源始終可見、開啟原文核對，以及停下來想清楚準確性與意圖，是對應的解法，而單靠標示作用有限。Mars 深度研究的調研提案卡片、即時呈現的研究助手卡片、每個引用連結的真實標題、未登入讀取網頁，以及執行前最多五個問題的對齊，正是依據這些證據設計的。

參考文獻

依 APA 第 7 版格式列出；每筆皆附 DOI 原始連結。

  1. Chelli, M., Descamps, J., Lavoué, V., Trojani, C., Azar, M., Deckert, M., Raynier, J.-L., Clowez, G., Boileau, P., & Ruetsch-Chelli, C. (2024). Hallucination rates and reference accuracy of ChatGPT and Bard for systematic reviews: Comparative analysis. Journal of Medical Internet Research, 26, e53164. https://doi.org/10.2196/53164
  2. Clayton, K., Blair, S., Busam, J. A., Forstner, S., Glance, J., Green, G., Kawata, A., Kovvuri, A., Martin, J., Morgan, E., Sandhu, M., Sang, R., Scholz-Bright, R., Welch, A. T., Wolff, A. G., Zhou, A., & Nyhan, B. (2020). Real solutions for fake news? Measuring the effectiveness of general warnings and fact-check tags in reducing belief in false stories on social media. Political Behavior, 42(4), 1073–1095. https://doi.org/10.1007/s11109-019-09533-0
  3. Dias, N., Pennycook, G., & Rand, D. G. (2020). Emphasizing publishers does not effectively reduce susceptibility to misinformation on social media. Harvard Kennedy School Misinformation Review, 1(1). https://doi.org/10.37016/mr-2020-001
  4. Fazio, L. K., Brashier, N. M., Payne, B. K., & Marsh, E. J. (2015). Knowledge does not protect against illusory truth. Journal of Experimental Psychology: General, 144(5), 993–1002. https://doi.org/10.1037/xge0000098
  5. Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., Ishii, E., Bang, Y. J., Madotto, A., & Fung, P. (2023). Survey of hallucination in natural language generation. ACM Computing Surveys, 55(12), 1–38. https://doi.org/10.1145/3571730
  6. Johnson, M. K., Hashtroudi, S., & Lindsay, D. S. (1993). Source monitoring. Psychological Bulletin, 114(1), 3–28. https://doi.org/10.1037/0033-2909.114.1.3
  7. Kumkale, G. T., & Albarracín, D. (2004). The sleeper effect in persuasion: A meta-analytic review. Psychological Bulletin, 130(1), 143–172. https://doi.org/10.1037/0033-2909.130.1.143
  8. Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest, 13(3), 106–131. https://doi.org/10.1177/1529100612451018
  9. Metzger, M. J., Flanagin, A. J., & Medders, R. B. (2010). Social and heuristic approaches to credibility evaluation online. Journal of Communication, 60(3), 413–439. https://doi.org/10.1111/j.1460-2466.2010.01488.x
  10. Pennycook, G., & Rand, D. G. (2019). Lazy, not biased: Susceptibility to partisan fake news is better explained by lack of reasoning than by motivated reasoning. Cognition, 188, 39–50. https://doi.org/10.1016/j.cognition.2018.06.011
  11. Pennycook, G., Bear, A., Collins, E. T., & Rand, D. G. (2020). The implied truth effect: Attaching warnings to a subset of fake news headlines increases perceived accuracy of headlines without warnings. Management Science, 66(11), 4944–4957. https://doi.org/10.1287/mnsc.2019.3478
  12. Pennycook, G., Epstein, Z., Mosleh, M., Arechar, A. A., Eckles, D., & Rand, D. G. (2021). Shifting attention to accuracy can reduce misinformation online. Nature, 592(7855), 590–595. https://doi.org/10.1038/s41586-021-03344-2
  13. Roozenbeek, J., Freeman, A. L. J., & van der Linden, S. (2021). How accurate are accuracy-nudge interventions? A preregistered direct replication of Pennycook et al. (2020). Psychological Science, 32(7), 1169–1178. https://doi.org/10.1177/09567976211024535
  14. Walter, N., & Tukachinsky, R. (2020). A meta-analytic examination of the continued influence of misinformation in the face of correction: How powerful is it, why does it happen, and how to stop it?. Communication Research, 47(2), 155–177. https://doi.org/10.1177/0093650219854600
  15. Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, 14045. https://doi.org/10.1038/s41598-023-41032-5
  16. Wineburg, S., & McGrew, S. (2019). Lateral reading and the nature of expertise: Reading less and learning more when evaluating digital information. Teachers College Record, 121(11), 1–40. https://doi.org/10.1177/016146811912101102
  17. Wineburg, S., Breakstone, J., McGrew, S., Smith, M. D., & Ortega, T. (2022). Lateral reading on the open Internet: A district-wide field study in high school government classes. Journal of Educational Psychology, 114(5), 893–909. https://doi.org/10.1037/edu0000740
  18. Wu, K., Wu, E., Wei, K., Zhang, A., Casasola, A., Nguyen, T. P., Riantawan, S., Shi, P., Ho, D. E., & Zou, J. (2025). An automated framework for assessing how well LLMs cite relevant medical references. Nature Communications, 16, 3615. https://doi.org/10.1038/s41467-025-58551-6
  19. Zamani, H., Dumais, S., Craswell, N., Bennett, P. N., & Lueck, G. (2020). Generating clarifying questions for information retrieval. Proceedings of The Web Conference 2020, 418–428. https://doi.org/10.1145/3366423.3380126

引用本文

Mars Research. (2026). 為什麼要核對來源：來源記憶、可信度判斷與生成模型的引用. MarsDataAI. https://marsdata.ai/zh-TW/research/checking-sources-in-research

事件
用户设置
资料库