Podli播客播放器 Webplayer

脈報

脈報

1450 億參數開源模型跑在筆電上!Edge0 只用 29GB 是怎麼繞過記憶體牆?

脈報 · 2026年11月13日 · 7:08

0:007:08

在 Podli 应用中收听 🎧

关注你喜爱的播客,离线收听,在车内通过 CarPlay 和 Android Auto 播放,并始终从上次停下的地方继续。免费试用。

Edge0 說開源模型 Edge0-145B 能在相容筆電上本機跑,峰值記憶體 29GB。雲端按用量付租金之外,AI 花費多了先買硬體、自付電費的第二張報價,但低算力裝置仍跑不動。 ⭐ 文章深度讀:開源模型 Edge0-145B 塞進筆電:AI 帳單多了第二張報價 → https://heymaibao.com/edge0-145b-open-model-runs-on-laptop-1e7b2f/ ⚡ 章節重點 兩種 AI 付費方式 00:00 筆電上的 145B 模型 00:37 記憶體牆與繞路方法 01:12 自家評測的分數 04:10 本機跑的帳單與邊界 04:42 開源授權的界線 05:47 雲端之外的第二張報價 06:25 📝 懶人包 ∙ Edge0 說 Edge0-145B 在相容筆電上本機跑,峰值記憶體 29GB ∙ 145B 是總參數,每一步推論只有大約 10B 參與計算 ∙ 比較表上 Edge0、Qwen、DeepSeek、Claude 的分數,都來自 Edge0 自己的內部評測 ∙ 我的觀點:本機離線跑,讓先買硬體成了能跟雲端租金比價的選項 📚 參考資料 Introducing Edge0-145B: Frontier AI Capabilities on Your Own Computer → https://edge0.ai/blog/introducing-edge0-145b-frontier-ai-capabilities-on-your-own-computer GitHub - Edge0-AI/Edge0: Device-native foundation models: 145B on a laptop, 35B on a phone. Latent MoE, SSD-streamed weights, a router that predicts loads a step ahead. Mac, iPhone, Android, Windows. → https://github.com/Edge0-AI/Edge0 Edge0/Edge0-145B-NVFP4 · Hugging Face → https://huggingface.co/Edge0/Edge0-145B-NVFP4 Gemini: A Family of Highly Capable Multimodal Models → https://arxiv.org/abs/2312.11805 Tech Primer: What hardware do you need to run a local LLM? → https://www.pugetsystems.com/labs/articles/tech-primer-what-hardware-do-you-need-to-run-a-local-llm/ RAM vs VRAM for LLM: What Each One Does → https://llmhardwareguide.com/ram-vs-vram

单集: 脈報

Podli免费获取 Podli 应用
↓ App