AI FactScan在生成式 AI 普及的今天，許多人遇到金融消費爭議時，第一反應是打開 ChatGPT 或 Claude，請它協助寫出一封結構完整、語氣正式的申訴信。然而，這種看似「引經據典」的文本背後，也藏著一項不能忽略的風險：AI 幻覺（AI hallucination）。
英國金融申訴服務機構（Financial Ombudsman Service，FOS）最近揭露，在一宗由 AI 輔助撰寫的金融申訴案件中，申訴方列出了 39 項法律條文與過往案例，調查後發現，其中有 37 項引用不正確。
1. AI 寫的申訴看起來完整，不代表資料正確
AI 確實是很方便的文書處理助手，能迅速把混亂的抱怨整理成架構清楚、語氣嚴謹的正式書信。
但大型語言模型（LLM）是依照機率生成文字，並不是先查核事實再回答。當使用者要求它補上法源、判例或監理規定時，AI 可能給出語氣篤定、格式完整，實際上卻不存在或不適用的引用。
FOS 營運長 Marc Harris 指出，他們看到的問題包括虛構法律、錯誤引用監理規定，以及捏造過往的 Ombudsman 決定。有些引用確實存在，卻被錯解原意，或根本不適用於申訴人的案件。
2. 英國金融申訴服務機構發現了什麼？
這項情況由《Financial Times》報導。在英國，當消費者與銀行、保險公司等金融機構發生爭議且無法達成共識時，可向 Financial Ombudsman Service（FOS）提出申訴。FOS 是處理消費者與金融業者爭議的獨立機構。
FOS 發現，隨著 AI 輔助申訴逐漸普及，收到的申訴內容篇幅變長、引用更多，卻不一定更清楚，甚至經常出現冗餘與錯置資訊。FOS 也曾收到專業申訴代理人提交的文件：針對一份約六頁的暫定決定，回覆超過 200 頁，其中包含不少錯誤。
為了從冗長文件中釐清真正的訴求，FOS 增加了電話聯繫，直接向申訴人確認發生了什麼事、爭議重點在哪裡，以及希望業者如何處理。
3. 「39 項錯 37 項」代表什麼？
看到這個數字，不必因此全盤否定 AI。「39 項錯 37 項」是單一案件，不是整體申訴案件的平均錯誤率。
FOS 另做過一次小規模抽樣，結果顯示，在消費者回覆初步評估的內容中，最多約有三分之一看起來由 AI 生成或經過大量協助。解讀這些數字時，必須分清楚兩件事：
- AI 使用比例：有多少申訴內容使用 AI 輔助撰寫。
- AI 幻覺率：生成內容中有多少資料或引用不正確。
兩組數據不能混在一起。AI 使用比例高，不等於每份文件的錯誤率都高；但只要缺少人工查證，錯誤資料就可能進入正式的金融爭議處理程序。
4. AI 幻覺如何進入金融糾紛申訴？
在金融申訴的情境中，AI 幻覺通常會以幾種方式出現：
- 引用不存在的法律與判例：生成名稱聽起來很正式，實際上卻查無資料。
- 錯誤解讀金融監理規定：混淆不同機關的規範，或把不適用的條款套進案件。
- 捏造過往決定：虛構類似案件的處理結果或賠償紀錄。
- 錯置真實但無關的資料：引用確實存在，內容卻無法支持申訴主張。
- 將簡單爭議無限擴寫：把單純的帳務或理賠問題寫成數十頁長文，反而遮蔽關鍵事實。
5. 為什麼金融糾紛特別需要小心？
相較於一般內容創作，金融案件更依賴精確性。金融爭議涉及實際金額、契約細節、時間點與責任歸屬，AI 幻覺帶來的影響也更直接：
- 模糊真正的爭點：當信件塞滿虛構引用時，真正的訴求，例如「我並未授權這筆扣款」，反而容易被掩沒。
- 拉長處理時間：調查人員必須花時間核對不存在或錯置的條文與案例。
- 削弱申訴可信度：文件若充滿錯誤引用，可能讓申訴內容更難被理解與採信。
6. 用 AI 協助寫申訴前，至少檢查這五件事
如果要使用 AI 協助整理金融或法律申訴草稿，送出前至少完成以下五項檢查：
- 查驗真實性確認文中提到的法律、規定與過往決定是否真的存在。
- 評估關聯性引用的條文或案例，是否確實能支持目前的主張。
- 核對細節確認金額、日期與事件先後順序是否正確。
- 刪掉無關內容刪除 AI 生成、但與核心爭議無關的長篇論述。
- 回到原始文件以合約、帳單與對話紀錄原檔為準，不要只相信 AI 的轉述。
7. AI FactScan 能幫忙到哪裡？
如果你使用 ChatGPT、Claude、Gemini 或其他支援平台整理申訴方向，AI FactScan 可以協助檢查 AI 回答中附帶的引用來源：
- 找出 AI 回答中的網址、DOI、arXiv 與 PubMed 等引用。
- 檢查引用連結是否有效，並以 A 到 F 顯示來源品質與風險訊號。
- 標示低評級、無效或需要留意的來源，方便優先打開原始資料查證。
AI FactScan 能協助確認引用是否存在、查看來源品質分級與風險訊號，並判斷哪些原始資料需要優先查證，再決定是否採用 AI 回答。