政府用 AI 寫 AI 政策，結果被 AI 唬爛
南非通訳部 4 月 10 日公布《國家人工智慧政策草案》，洋洋 60 頁，目標要讓南非成為「非洲 AI 領頭羊」。裡面滿滿願景：設立「國家 AI 委員會」「AI 倫理委員會」「AI 管制署」，還要給新創租稅減免、建超級電腦，聽起來超級英雄對外掛。
結果 16 天後，部長 Solly Malatsi 在 X 上緊急宣布：整份草案撤回。原因？參考文獻裡 1/3 是 AI 幻覺生出來的「幽靈論文」——期刊名稱拼錯、作者根本沒這號人物、DOI 連過去是 404。
幻覺長篇：AI 幫你「生」參考文獻
內部調查發現，起草官員直接把「請給我 30 篇 AI 治理相關論文」餵進 ChatGPT，再複製貼上參考清單。AI 超貼心，連頁碼、出版年份都喬好，看起來超真。官員們沒人點開連結對稿，就這樣送進公眾諮詢。
幻覺案例一：
- 期刊名：Journal of AI Ethics and Governance（不存在）
- 作者：M. Smith, et al.（查無此人）
- DOI：10.1234/jaeg.2025.07.03（連結死）
幻覺案例二：
- 標題：Towards a Pan-African Framework for AI Regulation（Google 學術 0 結果）
- 被引用次數：AI 說 87 次，實際 0 次
為什麼會翻車？3 個關鍵失誤
- 零複核流程 草案完成後只跑「拼字檢查」，沒跑「真實檢查」。
- 沒人負責 部會說「外部顧問」寫的，顧問說「內部同仁」彙整，最後變成無頭公案。
- AI 盲信 看到英文＋數字就以為是國際論文，忘記 AI 最會掰「看起來很潮」的東西。
台灣即將遇到的同款地雷
立院今年排審《AI 基本法》，數發部、經濟部、教育部都要出配套子法。草案參考動輒 100 頁，如果也複製貼上幻覺文獻，你我都可能照著假研究被管。
你可以這樣自保：
- 看到政策引用，3 秒丟 Google Scholar 搜標題，0 結果就是假。
- 公聽會發言先問：「請問這篇期刊哪裡下載得到全文？」官員若支吾，八成就是 AI 幻覺。
- 自己寫陳情、提案時，用 「ChatGPT + 人工交叉核對」：AI 找文獻→人類點開連結→確定存在才引用。
用 AI 寫公文可以，但「查證」別再外包
南非部長最後公開認錯：「這不是技術小錯，是治理大錯。」一句話打臉所有想「全自動」的政府。AI 幫你快，但把關仍要人；否則政策被撤回，浪費的是全國納稅人的時間與信任。
今晚就行動：把這篇存起來，下次看到任何「AI 專法」草案，先搜參考文獻真假，再決定要不要鼓掌。試試看吧！
