AI FactScan生成式 AI 普及後，幾乎每個人都聽過「AI 會產生幻覺」「AI 回答不一定準確」這類警告。但當我們真的把內容放進報告、拿去回答客戶，或據此做出決定時，大家有沒有仔細檢查？
答案沒有那麼單純。
1. 70% 的人早就知道 AI 不一定可靠
Patrick Gage Kelley 等研究者在 AIES 2026 發表的研究 Why and How People Check Generative AI Output for Mistakes，調查了 1,503 名美國成年人如何看待及檢查生成式 AI 的錯誤。問卷於 2025 年 5 月進行，研究成果於 2026 年發表。
調查顯示，70% 的受訪者認為 AI 至少有時會出錯，可能包括答錯事實、捏造不存在的資料、不依照提示詞回答，以及出現文法錯誤。只有 2% 認為 AI 從不出錯。
另一個問題問的是信任程度。只有約 11% 的受訪者認為 AI 回答「非常值得信任」。這兩個數字不能混為一談，但都指向同一件事：使用者並不是完全不知道 AI 的風險。
研究還發現一個有意思的現象：自認非常熟悉生成式 AI 的人，比不熟悉的人更可能認為 AI 經常出錯。用得多，不一定會更盲目；也可能因為看過更多失誤，反而更清楚它的限制。
2. 說自己會檢查，不代表真的查了來源
在「是否檢查 AI 回答」這道開放式問題中，研究共取得 890 份有效回答。其中約 75% 表示自己至少有時會檢查，13% 表示每次都會檢查。
但「檢查」可以代表很多不同的事。有人會確認答案是否符合自己的知識，有人檢查內容是否切題、文法是否自然，也有人會真的搜尋其他資料。在這些開放回答裡，約 25% 明確提到會使用其他來源交叉核對。
這不代表其餘75%完全沒有查證，只是他們沒有具體提到這種做法。研究記錄的是受訪者如何描述自己的行為，並不是瀏覽器或工作流程的實際操作紀錄。
3. 人們怎麼檢查 AI 回答？
願意進一步查證的使用者，常見方法包括：
- 搜尋關鍵字把 AI 提到的專有名詞、數據或事件放進搜尋引擎。
- 打開引用連結確認頁面是否存在，以及內容是否與 AI 的說法相符。
- 比較其他網站尋找官方網站、原始研究、可信媒體或其他獨立資料。
- 詢問專業人士向同事、專家或熟悉該領域的人求證。
也有少數受訪者表示，會換另一個 AI 再問一次。這可以幫助使用者發現不同模型之間的矛盾，卻不能單獨證明哪一個答案正確。不同模型可能使用相似資料，也可能重複同一個錯誤。
要求 AI「再檢查一次」，或在提示詞裡加上「不要產生幻覺」，也有相同限制。這些做法可能讓回答變得謹慎，卻不能保證資料正確。原因可參考〈輸入「不要產生幻覺」真的有用嗎？〉；真正的查證，仍要回到 AI 以外的來源。
研究還發現，約 11% 的有效回答表示，通常要等到內容看起來可疑、荒謬，或與既有知識衝突時才會檢查。問題是，有些錯誤並不顯眼。越流暢、越像真的錯誤，反而越可能躲過這一關。
4. 仍有四分之一很少查，原因不只是懶
多數受訪者表示至少有時會檢查 AI 回答，但仍有約 24% 很少檢查或完全不查，其中18%直接表示不會檢查。這些人放棄查證的原因，不只是怕麻煩，也與使用情境和長期累積的信任有關。
- 事情不重要：如果只是找食譜、娛樂或處理低風險工作，使用者不一定願意花時間核對。
- 用久了逐漸產生信任：有些人一開始會檢查，後來因為多次使用都沒有遇到明顯問題，便降低了查證頻率。
- 查證太花時間：使用 AI 原本就是為了加快工作，再多做一輪搜尋和閱讀，很容易讓人覺得失去使用 AI 的意義。
論文中甚至有受訪者直接承認，自己就是因為懶得查。這種說法很坦白，但它也指出產品設計真正需要處理的問題：查證不能永遠依賴使用者額外投入大量時間。
5. 「AI 可能出錯」這句警告，大家已經看膩了
許多 AI 工具會在畫面底部顯示：「AI 仍可能出錯，請核對重要資訊。」
研究發現，受訪者對這類模糊、反覆出現的警告評價較低。相較之下，「檢查結果」「分享前再次確認」等具有明確動作的提示，更容易被認為有幫助。
受訪者真正想知道的是：應該查什麼、去哪裡查，以及怎麼在不花太多時間的情況下完成檢查。有人直接表示，如果查證會抵銷 AI 帶來的效率，那麼產品就應該提供更快、更容易執行的方法。
6. 企業也卡在同一個問題
這種難以追溯答案來源的問題，也出現在企業導入 AI 的過程中。
Graphwise 與 MarketsandMarkets 的白皮書調查了 384 名企業 AI 與資料主管。Graphwise 公布的摘要顯示，約64%的組織已經擴大部分 AI 使用案例，但只有28%進入企業全面部署。
報告還指出，受訪企業平均使用約957個應用程式，彼此連通的比例只有27%。當不同系統對同一個客戶、產品或指標有不同定義時，AI 即使能生成答案，也不一定能說清楚它依據的是哪一套資料。
個人使用者面對的是「查證太花時間」；企業面對的則是資料分散、定義不一致，以及答案缺乏可追溯性。
這組數字和一般使用者也有關：AI 能快速整理資訊，不代表背後的資料已經互相對得上。當來源分散、定義不一致時，答案看起來再完整，仍值得回到原始資料確認。
7. 怎麼查證，才不會把省下的時間全部花回去？
比較實際的做法，不是把整份 AI 回答重新研究一次，而是先找出引用了哪些資料，以及哪些來源最需要進一步確認。
AI FactScan 已提供幾種方式縮短這段流程：
- 要求 AI 附上來源AI FactScan Prompt 可要求支援的 AI 平台先搜尋網路，並列出來源標題、完整網址與日期。
- 掃描回答中的引用使用者可以自動掃描、手動選取回答，或直接貼上引用網址。
- 查看來源品質與風險訊號每筆引用會顯示 A–F 來源分級、分級原因及來源組成，也會標示只有第一方來源或缺少獨立來源的情況。
- 確認特定學術引用是否存在DOI、arXiv 與 PubMed 引用可進一步進行驗證。
- 先查看需要留意的來源優先打開低評級、無效或缺少獨立佐證的來源，再決定是否採用 AI 的回答。
AI FactScan 先整理引用來源與風險訊號，讓有限的查證時間花在更需要注意的地方。
知道 AI 會錯，只是第一步
我們使用 AI，通常就是為了節省時間。
查證工具不該要求使用者把 AI 做過的工作全部重做一遍。它更實際的價值，是先找出答案引用了什麼、哪些來源值得注意，再讓使用者回到真正重要的原始資料。