黑箱時代結束：AI 開發者不能再躲了
國際 AI 倫理聯盟（International AI Ethics Consortium）本週發布最新版 AI 開發倫理準則，這次不再只是「建議」，而是把 透明度 和 問責機制 列為核心義務。簡單說，以後做 AI 產品要像開餐廳一樣——客人要知道你放了什麼料，吃壞肚子要找到老闆。
這次準則到底改了什麼？
從「鼓勵透明」變成「要求透明」
舊版準則寫的是「開發者應盡量說明 AI 決策邏輯」，新版直接改成「必須提供可解釋的決策路徑」。差別在哪？
- 以前：做個推薦系統，可以說「演算法自動優化」
- 現在：要寫得出「因為使用者過去點了 A 和 B，所以推 C，權重是 X、Y、Z」
就像學測閱卷，以前只給分數，現在要給評分標準——每個決定都要有跡可循。
問責機制：出事找得到人
準則第二個重點是 明確責任歸屬。過去 AI 出錯常見的逃避說法是「這是演算法的結果」，現在規定：
| 情境 | 過去說法 | 現在要求 |
|---|---|---|
| 醫療 AI 誤判病情 | 「系統建議，醫師決定」 | 開發商要說明訓練資料來源、已知限制 |
| 徵才 AI 歧視特定族群 | 「資料偏差，非故意」 | 要公布公平性測試結果、補救措施 |
| 自駕車事故 | 「複雜環境因素」 | 要提供決策時間軸、感測器原始數據 |
台灣開發者該注意的三件事
1. 文件要留，而且要留對
很多團隊開發時只留程式碼，沒留「為什麼這樣設計」的紀錄。新版準則要求保留：
- 訓練資料來源（像食材的產地證明）
- 模型決策邊界（什麼情況會失效）
- 人類覆蓋機制（哪種情況必須人工介入）
2. 使用者說明書要重寫
現在的 AI 產品說明書常寫「本系統採用深度學習技術」，這種話等於沒說。準則建議改成：
「本系統分析你的學習紀錄（過去 30 天觀看影片、暫停次數），預測你可能需要的內容。準確率約 78%，如果你發現推薦不準，可以點這裡回饋。」
3. 歐盟 AI 法已經在罰了
歐盟 2024 年通過的 AI 法案（AI Act）已經開罰，最高可達全球年營業額 7%（約 2 億台幣起跳）。這次國際準則和歐盟法規高度同步，照這套做就是提前避坑。
這對一般人有什麼影響？
短期內你可能會發現：
- 銀行 AI 拒貸時，要說明「因為你的信用評分在 X 區間，而過去該區間違約率是 Y%」
- 醫院 AI 輔助診斷時，醫師要能看到「系統認為是 A 病的機率是 67%，但 B 病也有 23%」
- 學校用的 AI 評分系統，家長可以要求看「這篇作文為什麼得這個分數」
長期來說，這會讓 AI 產品變「笨」一點——因為不能再用黑箱演算法硬凹結果，但也會讓你更敢用，因為知道它怎麼想的。
現在可以做的事
如果你是開發者：
- 檢查現有產品的「可解釋性」文件夾，是不是只有工程師看得懂
- 找 3 個非技術背景的朋友試讀你的 AI 說明，聽不懂的地方就是漏洞
- 把這套準則的檢查清單貼進專案管理工具，當成 release 前的必做項目
如果你是一般使用者：
- 下次遇到 AI 做奇怪決定，可以直接問「這個判斷的依據是什麼」
- 企業如果答不出來，你可以引用這套準則要求說明
試試看吧，現在就打開你常用的 AI 服務，看看它的「說明」頁面到底說明了什麼。
