AI工具网 Logo
AI · 工具网aigongjuwang.cn
全部工具AI编程工具AI 推理框架AI办公工具AI搜索工具AI 模型社区AI智能体AI 绘画设计AI聊天助手AI视频工具AI电商工具AI数据工具AI健康医疗AI社交媒体AI浏览器插件AI图像工具AI写作工具AI 3D建模AI翻译工具AI游戏开发AI音频工具AI提示词AI教育学习AI 本地部署工具AI 漫剧制作MCP 插件
暗色模式

加载中...

粤ICP备2026107010号-2粤公网安备44196902000144号

用 LM Studio 管理多个本地模型

发布于 2026/8/10

适用场景:本地 AI 开发调试,多模型切换对比。

工作流:

  1. 下载安装 LM Studio
  2. 在模型库中搜索下载 GGUF 格式模型(如 Qwen、DeepSeek、Llama 系)
  3. 图形化加载模型,选择量化等级(Q4/Q5/Q8)
  4. 开启本地服务器,用 OpenAI 兼容 API 接入 Cherry Studio 等客户端

效果:一个界面管理多个模型,量化等级可视化调整,工作室做模型效果对比评测的效率工具。

进阶技巧:

  • 用 lm studio 的 My Models 面板对比不同量化等级的输出质量
  • 开启 Local Server 后可在任意支持 OpenAI API 的应用中调用
  • 配合模型文件合并功能可 DIY 自己的模型

硬件参考:8GB 显存可流畅运行 7B Q4 模型,32GB 内存可运行 35B-A3B 这类 MoE 模型。

LM Studio

图形化本地大模型管理桌面应用,一键下载/运行 GGUF 模型,内置 OpenAI 兼容 API,本地部署最易上手的工具。