AI FactScanAI FactScan
← Blog

AI 幻覺與消費者信任:當 AI 答案遇上現實考驗

ChatGPT 憑空說出一款產品,顧客興沖沖跑來詢問,店家卻壓根沒聽過。在相信 AI 的答案之前,先點開 AI 答案的來源,可能就能省去一場尷尬又莫名其妙的對話。

在你相信答案之前,先點開一個來源

不必把所有來源都查一遍,先點開一個就好。這個網頁還在嗎?資訊是最新的嗎?內容真的支持 AI 的說法嗎?光是這一次點擊,就能過濾掉不少荒謬答案。

「顧客永遠是對的」,但聊天機器人顯然「更對」

在科技媒體 The Verge 最近的一篇報導中,記者 Gaby Del Valle 採訪了幾位第一線工作人員。他們正面臨一種奇特的新型顧客糾紛:「但 AI 就是這樣說的啊。」

一位對海鮮過敏的餐廳顧客質疑服務生,因為 ChatGPT 告訴他那道菜很安全;有饕客點了餐廳根本沒進過、甚至可能不存在的酒款;有遊客帶著 AI 生成的行程跑去聯邦保護區,結果發現其中一天居然得逆流划船;還有家長寧可相信聊天機器人給的兒童睡眠建議,也不願採信整天看著孩子精神不濟的老師。

不知不覺中,客戶服務的範圍被擴大了。員工不只要熟悉菜單、庫存、在地地理和兒童發展,還得應付語言模型五分鐘前憑空捏造的內容。

以前顧客抱怨:「你們網站上明明寫有貨啊!」至少員工還有個網頁可以查。

現在顧客說:「ChatGPT 說你們有貨啊!」但 ChatGPT 通常不會告訴你,它究竟在哪個網頁看到的。

Reddit 成了這場實地測試的紀錄庫

The Verge 報導裡的案例聽起來有點荒謬,直到同樣的情況開始在不同地方出現。

在一篇 Reddit 零售業討論串中,一名五金行員工提到,顧客跑來找店裡沒賣、甚至根本不存在的商品。有些顧客拒絕店員推薦的同等替代品,只因為 AI 點名了某個特定品項。甚至有人整個購物過程都盯著聊天機器人,彷彿身邊跟著一位極度自信、卻從未進過五金行的朋友。

另一位零售業員工分享,有顧客堅持店裡有一款 稀有威士忌,只因為 ChatGPT 這麼說。店裡當然沒有,而 ChatGPT 也不需要走進庫房確認庫存。

問題也不限於零售業。在一篇 小型企業討論中,有潛在客戶拿著 AI 生成的產品設計圖找上製造商。那些檔案根本無法投產,但聊天機器人向客戶保證沒有問題。最後,廠商得向客戶解釋,為什麼一台無法製造、無法退款,也不會尷尬的機器說錯了。

這些是個案,不是嚴謹的學術研究。但它們指出一個很實際的問題:AI 幻覺會跳出對話框,變成商家真實營運上的麻煩。

為什麼「ChatGPT 說的」聽起來像鐵證?

消費者使用 AI 並不傻,它確實省時省力。大家不必逐一比較十個連結,就能直接得到一個聽起來像是已經完成所有查證的冷靜答案。

問題在於,這個答案隱藏了產出過程的不確定性。一個猜測,看起來可能像即時庫存;一份被抓取下來的舊菜單,看起來可能像最新資訊;一篇部落格文章,聽起來也可能像店家的官方政策。

等到顧客滿懷信心來到店家、餐廳、公園或學校,第一線員工雖然掌握真實狀況,卻成了「敢質疑電腦的人」。明明是 AI 提供的訊息,最後被追問要負責的卻是真人。

掏出信用卡前,多做一次點擊

你不需要查核答案裡的每一個字。先找出最會影響你購買、飲食、預訂或行程的那個說法。

點開其中一個引用連結,快速確認三件事:

  1. 這是官方店家、機構、論文或其他原始資料嗎?
  2. 資訊是最新的嗎?
  3. 這個網頁真的支持這項說法,還是只談到類似主題?

如果 AI 連一個來源都沒有提供,就先把答案當成建議。如果來源是一篇幾年前的舊食記,但你查的是今天的價格或庫存,直接問店家會更快。這不是反對 AI,只是在把答案換成真金白銀、晚餐或旅遊行程前,多做一次確認。

當回答附有連結時,AI FactScan 可以幫你查看背後是什麼類型的來源;但如果模型根本沒有提供來源,工具也無法憑空找出來。沒有來源,就是沒有來源。

遇到重要問題,記得問兩次

使用第二個 AI 模型不會神奇地變出真相,但可以讓你發現:第一個模型的說法是否只有它自己這樣講。

在兩個不同的 AI 服務輸入相同問題,再比較它們引用的連結。它們是否引用同一頁官方網站?是否各自採信不同的部落格?是不是其中一個提供來源,另一個只是語氣很肯定?

如果兩個模型互相矛盾,就去核對有爭議的說法,並打開各自引用的來源。其中一個答案可能已經過期、缺乏根據,或單純就是錯了。