10. 本地模型:Mac mini 能跑多大
用 LM Studio 跑开源模型,按内存公式算你的 Mac mini 能跑多大的模型。
第五步 · 本地模型 · LM Studio + 内存公式
无脑启动卡
- 下载 LM Studio(免费):lmstudio.ai
- 公式:每 10 亿参数 ≈ 0.5 GB 内存,再加 20% 上下文;macOS 默认只给模型约 3/4 内存。
- 16 GB 的 M4:可用约 12 GB,200 亿参数(20B)以内;24 GB:约 18 GB,约 300 亿(30B)。
官方下载 / 文档