AI 會影響記憶嗎？研究發現，AI 摘要與聊天機器人可能製造假記憶

你確定腦海裡那些畫面，真的全都是你親眼見過的嗎？

麻省理工媒體實驗室的 Pat Pataranutaporn、Pattie Maes 等研究者找來 200 人做實驗。受試者先看 24 張日常照片，包括婚禮、街景與賽跑。接著，有些人再次看到原圖，另一些人看到經過 AI 修改的圖片或由修改圖生成的影片。畫面裡可能多出軍人、人物特徵被改變，或原本可見的氣候變遷痕跡被移除。

到了記憶測驗時，看過 AI 修改內容的人更容易記錯細節。更值得注意的是，他們講起錯誤細節時，往往依然很有把握。

AI 編修圖片與影片造成假記憶的示意圖 — 圖 1：AI 編修媒體可能如何改變人們對事件的記憶。來源：*Synthetic Human Memories*，Pat Pataranutaporn et al.，CC BY 4.0。

2.05×假記憶數量

由 AI 修改圖片再生成的影片，影響最明顯。這組受試者產生的假記憶數量是對照組的 2.05 倍，對假記憶的信心也最高。

1. AI 改個圖，直接在你腦海裡憑空造景

研究團隊把 200 人分成四組，分別觀看原圖、AI 修改圖、由原圖生成的影片，以及由 AI 修改圖生成的影片。

結果顯示，最後一組產生的假記憶最多，是對照組的 2.05 倍；對錯誤記憶的信心則是對照組的 1.19 倍。換句話說，他們不只答錯，還更確定自己沒有記錯。

這篇研究後來收錄於 CHI 2025。作者為 Pat Pataranutaporn、Chayapatr Archiwaranguprok、Samantha W. T. Chan、Elizabeth Loftus 與 Pattie Maes。

2. 聊天機器人問錯問題，目擊者就被帶偏了

另一項研究同樣找來 200 人觀看犯罪影片，接著安排不同形式的訪談。其中一組受試者與聊天機器人對話，而機器人的問題混入了影片裡根本沒有的細節。

AI 以誤導式問題影響目擊者記憶的示意圖 — 圖 2：AI 以不存在的槍作為提問前提，可能讓目擊者形成錯誤記憶。來源：*Conversational AI Powered by Large Language Models Amplifies False Memories in Witness Interviews*，Samantha Chan et al.，CC BY 4.0。

結果，受誤導的聊天機器人組在訪談後立即產生的假記憶，是對照組的 三倍以上；一週後，這些錯誤細節仍然留在記憶裡。

這項研究由 Samantha Chan、Pat Pataranutaporn、Aditya Suri、Wazeer Zulfikar、Pattie Maes 與 Elizabeth F. Loftus 共同完成。它提醒我們，聊天機器人不必直接斷言一件假事，只要問題本身帶有錯誤前提，就可能把人往錯誤的記憶方向推。

3. AI 不必問錯問題，也能在閒聊中偷偷改寫記憶

2025 年，Pat Pataranutaporn 團隊把研究情境從犯罪目擊訪談拉回一般資訊閱讀。180 名受試者先閱讀文章，再被分到五種情境：沒有後續介入、閱讀正確摘要、閱讀誤導摘要、與誠實的聊天機器人討論，或與暗中混入錯誤資訊的聊天機器人討論。

結果，誤導型聊天機器人造成的假記憶是對照組的 2.92 倍，也降低了受試者對正確記憶的信心。互動式聊天機器人造成的影響最明顯，因為它會根據使用者回應繼續對話，逐步補強錯誤細節。

這篇研究把風險帶到更常見的使用情境：AI 不需要像警察問話那樣直接提出誘導問題，只要在整理文章、陪你討論或回答追問時，悄悄混入幾個原文沒有的細節，就可能改變你對原始內容的記憶。

AI 摘要與聊天機器人將錯誤資訊混入使用者記憶的示意圖 — 圖 3：LLM 可透過誤導摘要或多輪聊天，將原文沒有的資訊帶入使用者記憶。來源：*Slip Through the Chat*，Pat Pataranutaporn et al.，CC BY 4.0。

4. 讀了寫錯的 AI 摘要，你看到的畫面也可能被改寫

喬治城大學的研究團隊讓受試者觀看車禍影片，再閱讀事件摘要。研究者在部分摘要中刻意放入錯誤的交通標誌資訊。

看過正確摘要的人，有 83.6% 能記起影片中正確的標誌；看過誤導摘要的人，只剩 44.8% 答對。

實驗還把完全相同的摘要分別標示成「AI 撰寫」或「人類撰寫」。結果並沒有顯著差異。也就是說，光是告訴大家這段文字來自 AI，並不足以抵消錯誤內容對記憶的影響。

5. 為什麼我們這麼容易把 AI 的版本當成自己的記憶？

人的大腦不是一台精密錄影機。每次回想過去，我們都在用零散線索重新拼起事件。後來看到的圖片、摘要和提問，也可能混進這個重建過程。

AI 產生的文字通常流暢、細節完整，修改後的圖片與影片也可能十分自然。當這些內容與原始記憶混在一起，人可能還記得那個細節，卻忘了它來自後來看過的 AI 內容，而不是原本發生的事件。

6. 最危險的，往往不是故意騙人的 AI

這不只是假影片或網路謠言的問題。日常生活裡，可能影響記憶的 AI 內容已經到處都是：

家庭照片：手機相簿自動移除路人、調整表情，幾年後我們可能只剩修改版。
工作紀錄：AI 會議摘要若寫錯一個決定，可能改變團隊對「當時談了什麼」的記憶。
新聞與影音：自動摘要若省略或改錯關鍵細節，讀者未必會回頭查看原始內容。
目擊與訪談：警察、律師或調查人員使用 AI 輔助整理時，錯誤提問與摘要可能影響證詞。

AI 不需要抱持惡意。它只要在摘要、修圖或提問時多放進一個錯誤細節，就可能讓人類原本用來監督 AI 的記憶先受到影響。

7. 怎麼保住自己的原始記錄？

保存最原始的檔案保留原始照片、影片、錄音與一手文件，不要只留下修過或生成後的版本。
不要只問 AI重要資訊應改用獨立網站、官方文件或原始資料交叉查證；換另一個模型再問一次，仍不等於完成查證。
把摘要和原文放在一起閱讀 AI 摘要時，同時打開原始文件，核對數字、人物與事件順序。
高風險領域一定回到原文只要涉及醫療、法律、金融或目擊證詞，就不要讓摘要成為唯一版本。
把「我記得」和「我有紀錄」分開記憶可能被後來的資訊干擾，重要判斷要留有可回看的證據。

8. AI FactScan 能幫上什麼忙？

在防止被 AI 誤導這件事上，AI FactScan 扮演的是幫忙踩煞車的角色：

整理引用與連結：找出 AI 回答中實際出現的引用網址。
檢查連結狀態：協助查看引用頁面是否仍可存取。
顯示來源品質：以 A–F 評級與風險訊號，幫助你決定哪些來源需要優先打開。
回到引用資料：降低只憑 AI 的流暢摘要就直接採信內容的機會。

AI FactScan 會把 AI 回答中的引用整理成可檢查的來源清單，讓你快速查看連結狀態與來源品質，再回到原始資料核對重要資訊。

Chrome 免費安裝 Edge 免費安裝

AI 說錯之後，錯誤可能還留在你腦中

AI 最讓人不安的時刻，未必是它當下說錯話的時候。更麻煩的是幾天之後，你已經忘了那段話來自 AI，卻依然相信那是自己看過、聽過，甚至親歷過的事。

知道 AI 可能出錯只是第一步。保存原始紀錄、回到引用來源，才有機會把「我記得」和「真的發生過」重新分開。