?? 資源分類：辦公學(xué)習(xí)

?? 更新日期：2026-01-02

?? 存儲(chǔ)平臺(tái)：夸克網(wǎng)盤

LM Studio v0.3.25-1綠色版｜本地大語(yǔ)言模型部署與優(yōu)化一站式解決方案

軟件介紹

LM Studio是一款基于llama.cpp引擎的本地大語(yǔ)言模型（LLM）圖形化管理工具，專為“本地部署、離線運(yùn)行、高效推理”場(chǎng)景設(shè)計(jì)。該綠色版無(wú)需安裝，解壓即可使用，支持GGUF格式模型的拉取、存儲(chǔ)與運(yùn)行，集成GPU卸載、模型量化、參數(shù)微調(diào)、RAG檢索增強(qiáng)及OpenAI兼容本地服務(wù)器等核心功能，幫助開(kāi)發(fā)者在Windows/Mac/Linux平臺(tái)上零代碼快速搭建私有化大模型應(yīng)用，兼顧數(shù)據(jù)安全與推理性能。

軟件截圖

模型管理：內(nèi)置Hugging Face Hub瀏覽器，一鍵搜索、下載并緩存GGUF格式大語(yǔ)言模型；支持按模型類型、參數(shù)量、量化等級(jí)多維篩選，離線狀態(tài)下仍可調(diào)用本地模型庫(kù)，滿足“斷網(wǎng)運(yùn)行”需求。

硬件協(xié)同優(yōu)化：依托l(wèi)lama.cpp底層，為NVIDIA GPU提供CUDA/GPU-Offload智能卸載，自動(dòng)拆分計(jì)算圖，突破顯存瓶頸；同時(shí)支持K-quant、IQ-quant等多種量化方案，最高減少75%內(nèi)存占用，讓13B甚至30B模型在消費(fèi)級(jí)顯卡上流暢運(yùn)行。

參數(shù)調(diào)控：可視化面板實(shí)時(shí)調(diào)整Temperature（溫度）、Top-p、Repeat Penalty（重復(fù)懲罰）等關(guān)鍵采樣參數(shù)，即時(shí)生效無(wú)需重啟；內(nèi)置“創(chuàng)意寫作”“代碼生成”“對(duì)話聊天”等預(yù)設(shè)模板，一鍵切換即可體驗(yàn)差異化輸出效果。

文本嵌入強(qiáng)化檢索：?jiǎn)?dòng)/v1/embeddings兼容端點(diǎn)，秒級(jí)生成高維文本向量，無(wú)縫對(duì)接RAG（Retrieval-Augmented Generation）架構(gòu)；結(jié)合自建知識(shí)庫(kù)（pdf、txt、md）即可實(shí)現(xiàn)“本地化語(yǔ)義搜索+問(wèn)答”，無(wú)需聯(lián)網(wǎng)也能獲得精準(zhǔn)答案。

內(nèi)置兼容OpenAI的本地服務(wù)器功能：默認(rèn)開(kāi)放http://localhost:1234/v1，完整兼容OpenAI API格式；原有基于GPT-3.5/4開(kāi)發(fā)的應(yīng)用、插件或腳本，僅需修改BASE_URL與API Key（可留空）即可指向本地模型，5分鐘內(nèi)完成遷移，顯著降低私有化部署成本。

?? 下載地址

?? 資源鏈接：https://pan.quark.cn/s/2625619b1786

?? 溫馨提示：

• 資源需要轉(zhuǎn)存到自己網(wǎng)盤后方可下載
• 推薦使用夸克APP