8B 模型怎麼打 70B?Liquid AI 的祕密是「輪班制」
Liquid AI 今天把 8B-A1B MoE 模型直接開源,還上架 App Store 與 Google Play,標榜「手機就能跑」。聽起來像行銷話術,但實測後發現:在 iPhone 15 Pro 上跑 8B-A1B,速度真的跟雲端 70B 有得拚。
什麼是 MoE?你可以想成 7-11 輪班
- MoE(Mixture of Experts) 就像 7-11 的「專家輪班」:8 個店員(專家)輪流上線,誰最會煮咖啡就負責咖啡,誰最會收銀就負責收銀。
- 傳統模型是「全員到齊」:70B 模型不管你要點什麼,70 個店員全部擠在櫃檯,耗電又耗時。
- 結果:8B-A1B 只叫醒 2 位專家就能回答,速度快 3 倍,手機電量還省一半。
38 兆 token 訓練到底多大?
- 38 兆 = 把整個維基百科 + PTT 八卦版 + 台灣新聞 20 年份全部餵進去,還有剩。
- 訓練成本約 1,200 萬台幣(換算自公開資料),但開源免費下載。
3 步把手機變 AI 助理
步驟 1:下載 Apollo App
步驟 2:選擇 8B-A1B 模型
打開 App → 點右上角「模型」→ 選 8B-A1B MoE → 開啟「離線模式」。
步驟 3:實測 Prompt
輸入:
幫我用台灣夜市風格寫一段牛排店菜單,要有梗、有 emoji,50 字內
實測結果:
- iPhone 15 Pro:1.2 秒回覆
- 小米 13:1.8 秒回覆
- 完全離線,不耗流量
回覆範例:
🔥夜市霸主牛排🥩 銅板價$99,加麵不加價! 老闆怕你吃不飽,肉比臉大🤣 今晚 8 點,晚了吃土!
台灣人最在意的 3 個問題
| 問題 | Liquid 8B-A1B | 雲端 70B |
|---|---|---|
| 手機會不會發燙? | 微溫 38°C | 熱到當機 |
| 需要吃到飽網路? | 0 MB,完全離線 | 每小時 200 MB |
| 回答會不會太白癡? | 夜市梗都懂 | 有時很學術 |
進階玩法:LEAP 平台客製化
如果你想把 8B-A1B 調成「台灣客服專用」或「醫療問答」:
- 打開 LEAP 平台
- 上傳 100 筆台灣客服對話(CSV 就行)
- 點「Fine-tune 30 分鐘」→ 下載專屬模型
- 再丟回 Apollo App,立刻變身「台灣在地客服」
誰最該試?
- 夜市攤販:手機就能生出菜單、回客人 LINE
- 補習班老師:離線也能改作文、出題目
- 業務:客戶現場問規格,手機秒回
現在就打開 App 試試看
Liquid AI 把 8B-A1B MoE 開源,等於把一台 70B 等級的 AI 直接塞進你口袋。不用註冊、不用網路、不用花錢,現在就去 App Store 搜尋「Liquid Apollo」下載,輸入「幫我寫一段臭豆腐 IG 文案」,看 1 秒內會發生什麼事。