Chapter 4 AI做錯了事，人類需要負責嗎？
從加拿大航空敗訴案看AI的查證與責任歸屬
加拿大航空敗訴：AI講的話，法律上算誰講的？
先講結論：要。不論是網站上寫死的靜態文字，還是聊天機器人臨場生成的回答，法律上都算公司自己講的話——不會因為「這是AI說的」就能免責。
2024年2月，加拿大航空（Air Canada）就因為這個道理，被自家客服機器人講的話告上法庭並敗訴。事情是這樣的：一名乘客的祖母過世，他向客服聊天機器人詢問奔喪票價折扣的規定，機器人回答他「可以先照正常價格搭機、事後再申請奔喪票價折扣」。但這個答案跟加拿大航空實際的官方政策不符——照公司真正的規定，折扣必須在訂票前申請，事後不能補請。乘客照聊天機器人說的做了，結果事後申請被拒賠，一路告到卑詩省民事仲裁庭（British Columbia Civil Resolution Tribunal）。
航空公司的辯護理由很值得玩味：他們認為聊天機器人是「獨立負責的實體」，公司不必為它講的話負責。仲裁庭直接駁回這個說法，判定公司必須為自己網站上任何資訊負責，不論這個資訊是來自一頁不會動的靜態網頁，還是來自一個看起來很聰明、能臨場應答的聊天機器人。最終加拿大航空敗訴，必須賠償。
AI說出口的話，不論是靜態文字還是臨場生成的回答，法律上都算公司自己講的——不會因為「是AI說的」就能免責。
讓AI拿出證據，才能降低幻覺
隨著模型能力進步，AI一本正經編造答案（也就是「幻覺」）的機率，已經比幾年前低了很多。但「機率變低」不等於「不會發生」——尤其在我們最常問到的、比較冷門，或是跟公司內部、特定客戶高度相關的問題上，幻覺依然存在，而且往往悄無聲息，不會主動告訴你它在瞎猜。
要降低幻覺，除了等模型本身變強，使用的人也需要學會幾件事：
- 盡量讓AI有「可查證的來源」可以引用，而不是純憑記憶回答
- 對重要結論主動追問「你怎麼確定？根據什麼？」
- 把攸關對外發布、合約、金額的內容，交給人工複核再送出
Stanford的研究對照：有沒有附來源，差了三到五倍
「讓AI拿出證據」不只是憑感覺的建議，Stanford的研究直接把這個差異量化出來了。同一群Stanford學者前後做了兩項研究——2024年的《Large Legal Fictions》與2025年的《Hallucination-Free?》——比較「純憑記憶回答」跟「先檢索、再附上來源回答」的差別：
- 純憑記憶回答的通用模型：幻覺率高達58%到88%（GPT-4約58%、Llama 2約88%），等於每問兩三題就有一題帶著錯誤資訊而你完全不知道
- 先檢索、能附上來源的法律AI工具：幻覺率大幅降到17%到33%，差了三到五倍
這個結論跟Google DeepMind的FACTS Grounding Benchmark（一個專門衡量「回答有沒有根據來源」的評測，2026年4月最佳模型的準確率約87.8%）互相呼應：先找依據、再回答，是目前降低AI幻覺最有效的方法之一。
先找依據、再回答：我的查證流程
知道原理之後，實務上要怎麼落實？以下是我自己在用AI整理資料、寫進知識庫之前，固定會走的查證流程：
- 讓AI上網搜尋相關資料並整理
- 整理成文件後，要求AI給出真實連結
- 自己點進去那些真實連結，確認是否真的有講這件事
- 如果官方文件更完整，再整理一次補回文件裡
- 歸納到Obsidian知識庫中
這個流程的關鍵不是「找一個能力更強的AI」，而是把「查證」這個動作固定成習慣——每一步都刻意留了一個人工檢查點，而不是相信AI第一次給的答案就是最終答案。
結語：AI能幫你想，不能替你想
被判賠的加拿大航空，跟Stanford那組差了三到五倍的對照數字，其實指向同一件事：AI給的答案不管多流暢、多有自信，最後要不要信、要不要拿去對外發布，責任永遠在講話的人身上。讓AI去檢索、附上來源，能把出錯的機率大幅降低，但降不到零——完全把「回答對不對」這件事交給AI自己判斷，風險最後還是你在扛。
AI可以幫助你思考，但不能取代你的思考。