不用再付雲端月租!IBM 把企業級 AI 整套開源
凌晨 2 點,IBM 無預警把 Granite 4.1 系列全丟上 Hugging Face,,Apache 2.0 授權,代表「下載就能商用」,不用擔心律師敲門。這次一次給四顆模型:語言、視覺、語音、安全,打包搞定最常讓 MIS 頭痛的三種場景。
30 秒看懂 4 顆模型怎麼用
| 模型 | 大小 | 台灣人最痛場景 | 秒懂用法 |
|---|---|---|---|
| Granite 4.1-30B | 30B | 報表、法規文件 | 餵 PDF 直接生出摘要,比法遵顧問快 10 倍 |
| Granite Vision 4.1-4B | 4B | 財報圖表、保單 | 把圖表截圖丟進去,自動拉出 Excel 欄位 |
| Granite Speech 4.1-2B | 2B | 語音客服、會議紀錄 | 台灣國語也能轉文字,錯字率 <3% |
| Granite Guardian 4.1 | 3B | 資安稽核 | 自動掃員離職員工對話,有個資就擋下 |
實測:工具呼叫比 Gemma-4 快 40%
IBM 內部基準測試,同樣叫「寄 Email+開票」這種兩段式工具:
- Granite-4.1-30B:1.2 秒完成,成功率 92%
- Gemma-4-31B-it:2.0 秒完成,成功率 88%
等於幫你省 40% 等待時間,客服系統直接少掛 5 台伺服器。
公司內網就能跑,三步搞定
- 到 Hugging Face 搜
ibm-granite/granite-4.1-30b,點「Download」 - 用 ollama 或 llama.cpp 載入,8G VRAM 就能跑 3B 版本
- 把內部 API 文件寫成「工具描述」丟給模型,就像叫外送單
⚠️ 注意:30B 完整版需要 24G VRAM,沒有獨顯就租 3000 台幣/月的 GPU 機器,跑完關機一樣划算。
台灣新創已經在偷吃步
- 高雄一家貨攬新創:用 Granite Vision 自動比對報關單與發票,本來 3 個人 8 小時,現在 1 個人 30 分鐘
- 台北線上學習平台:把 Granite Speech 嵌進直播課,學生邊上課邊產字幕,省考同學狂讚
- 台中製造廠:用 Guardian 掃內部 Slack,只要出現「個資」「合約」關鍵字就擋下,半年沒再被罰
現在就下載,明天上班直接秀給主管
Apache 2.0 授權 = 不用回報、不用開源你的程式,改完直接商用。Hugging Face 載點已經開,晚一點就被隔壁部門搶先。先裝 3B 版暖機,週會 Demo 直接讓老闆驚呆,預算就下來了。試試看吧!