在你相信答案之前,先點開一個來源
不必把所有來源都查一遍,先點開一個就好。這個網頁還在嗎?資訊是最新的嗎?內容真的支持 AI 的說法嗎?光是這一次點擊,就能過濾掉不少荒謬答案。
「顧客永遠是對的」,但聊天機器人顯然「更對」
在科技媒體 The Verge 最近的一篇報導中,記者 Gaby Del Valle 採訪了幾位第一線工作人員。他們正面臨一種奇特的新型顧客糾紛:「但 AI 就是這樣說的啊。」
一位對海鮮過敏的餐廳顧客質疑服務生,因為 ChatGPT 告訴他那道菜很安全;有饕客點了餐廳根本沒進過、甚至可能不存在的酒款;有遊客帶著 AI 生成的行程跑去聯邦保護區,結果發現其中一天居然得逆流划船;還有家長寧可相信聊天機器人給的兒童睡眠建議,也不願採信整天看著孩子精神不濟的老師。
不知不覺中,客戶服務的範圍被擴大了。員工不只要熟悉菜單、庫存、在地地理和兒童發展,還得應付語言模型五分鐘前憑空捏造的內容。
以前顧客抱怨:「你們網站上明明寫有貨啊!」至少員工還有個網頁可以查。
現在顧客說:「ChatGPT 說你們有貨啊!」但 ChatGPT 通常不會告訴你,它究竟在哪個網頁看到的。
Reddit 成了這場實地測試的紀錄庫
The Verge 報導裡的案例聽起來有點荒謬,直到同樣的情況開始在不同地方出現。
在一篇 Reddit 零售業討論串中,一名五金行員工提到,顧客跑來找店裡沒賣、甚至根本不存在的商品。有些顧客拒絕店員推薦的同等替代品,只因為 AI 點名了某個特定品項。甚至有人整個購物過程都盯著聊天機器人,彷彿身邊跟著一位極度自信、卻從未進過五金行的朋友。
另一位零售業員工分享,有顧客堅持店裡有一款 稀有威士忌,只因為 ChatGPT 這麼說。店裡當然沒有,而 ChatGPT 也不需要走進庫房確認庫存。
問題也不限於零售業。在一篇 小型企業討論中,有潛在客戶拿著 AI 生成的產品設計圖找上製造商。那些檔案根本無法投產,但聊天機器人向客戶保證沒有問題。最後,廠商得向客戶解釋,為什麼一台無法製造、無法退款,也不會尷尬的機器說錯了。
這些是個案,不是嚴謹的學術研究。但它們指出一個很實際的問題:AI 幻覺會跳出對話框,變成商家真實營運上的麻煩。
為什麼「ChatGPT 說的」聽起來像鐵證?
消費者使用 AI 並不傻,它確實省時省力。大家不必逐一比較十個連結,就能直接得到一個聽起來像是已經完成所有查證的冷靜答案。
問題在於,這個答案隱藏了產出過程的不確定性。一個猜測,看起來可能像即時庫存;一份被抓取下來的舊菜單,看起來可能像最新資訊;一篇部落格文章,聽起來也可能像店家的官方政策。
等到顧客滿懷信心來到店家、餐廳、公園或學校,第一線員工雖然掌握真實狀況,卻成了「敢質疑電腦的人」。明明是 AI 提供的訊息,最後被追問要負責的卻是真人。
掏出信用卡前,多做一次點擊
你不需要查核答案裡的每一個字。先找出最會影響你購買、飲食、預訂或行程的那個說法。
點開其中一個引用連結,快速確認三件事:
- 這是官方店家、機構、論文或其他原始資料嗎?
- 資訊是最新的嗎?
- 這個網頁真的支持這項說法,還是只談到類似主題?
如果 AI 連一個來源都沒有提供,就先把答案當成建議。如果來源是一篇幾年前的舊食記,但你查的是今天的價格或庫存,直接問店家會更快。這不是反對 AI,只是在把答案換成真金白銀、晚餐或旅遊行程前,多做一次確認。
當回答附有連結時,AI FactScan 可以幫你查看背後是什麼類型的來源;但如果模型根本沒有提供來源,工具也無法憑空找出來。沒有來源,就是沒有來源。
遇到重要問題,記得問兩次
使用第二個 AI 模型不會神奇地變出真相,但可以讓你發現:第一個模型的說法是否只有它自己這樣講。
在兩個不同的 AI 服務輸入相同問題,再比較它們引用的連結。它們是否引用同一頁官方網站?是否各自採信不同的部落格?是不是其中一個提供來源,另一個只是語氣很肯定?
如果兩個模型互相矛盾,就去核對有爭議的說法,並打開各自引用的來源。其中一個答案可能已經過期、缺乏根據,或單純就是錯了。
AI FactScan