text-generation-webui 模型下载:一条命令到底替你省了什么
text-generation-webui 模型下载:一条命令到底替你省了什么【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgentext-generation-webui 是本地跑大模型最常用的开源 Web 界面之一,它的download-model.py专门负责模型下载:把 HuggingFace 仓库名丢给它,挑格式、建目录、续传、校验全部自动完成。下面按它干了什么 → 最简命令 → 出问题怎么补救来讲。这条命令背后,它替你干了什么下载开始前,脚本会先调 HuggingFace 接口把仓库文件列表拉全,然后替你完成四件事:⚖️选格式:仓库里同时有 safetensors 和 GGUF/pytorch 权重时,只取 safetensors;纯 GGUF 仓库且没指定文件时,默认只拉Q4_K_M这一个主流量化,不会把一整架量化文件都下回来⚠️摆位置:识别出 LoRA 仓库就进user_data/loras/,普通模型进user_data/models/,目录不存在会自动创建断掉的文件下次重跑同一命令,会用 HTTP Range 请求从断点接着下;报错则按指数退避自动重试,默认最多 7 次全部落盘后,可以随时对每个文件跑一遍 sha256,和仓库记录的哈希逐条比对一条命令拉取 GGUF 模型先拿到项目本身(只需一次):git clone https://gitcode.com/GitHub_Trending/te/text-generation-webui cd text-generation-webui然后模型下载就是一条命令,位置参数填 HuggingFace 仓库名:python download-model.py TheBloke/Llama-2-7B-Chat-GGUF终端里每个文件一条进度条并行滚动,完成后会打印文件总数和最终目录。如果你手里已经有某个文件的直链(带resolve/的 URL),也可以直接把 URL 当参数传,脚本会单独拉这个文件。下载的文件最终存在哪下载对象默认位置完整模型仓库(safetensors / pytorch)user_data/models/作者_模型名/单个 GGUF 文件user_data/models/根目录,不建子目录LoRA 适配器user_data/loras/不满意默认位置时,--output可以指一个任意目录,--model-dir只改父目录。多文件模型的目录里还会多一个huggingface-metadata.txt,记录仓库地址、分支、下载时间和各文件哈希,方便日后核对来源。断网、想挑文件:常用参数速查续传不需要任何参数——中断后原样重跑同一条命令即可从上次字节继续。其余场景查表:参数用法--threads 8并发文件数,默认 4;仓库文件多而小时调大更明显--check跳过下载,只验证已下载文件的 sha256--clean不续传,删掉旧进度从头下载--specific-file xxx.gguf只取仓库中的某一个文件--exclude-pattern .*Q8.*\.gguf正则排除不想要的量化--max-retries 15网络不稳定时提高重试上限--output /path/to/dir改存放目录校验失败或下错文件怎么补救下完先验证,命令和下载命令只差一个参数:python download-model.py TheBloke/Llama-2-7B-Chat-GGUF --check输出逐行显示Checksum validated: ...。出现Checksum failed时,带上--clean重跑下载命令,坏文件会被丢弃重下;如果只是想换一个量化,用--specific-file加目标文件名补下即可。环境变量HF_ENDPOINT可把下载源指向其他镜像站。更多细节见 下载脚本源码 与 docs/08 - Additional Tips.md。下一步:在项目目录执行上面那条带--check的命令,看到[] Validated checksums of all model files!后,打开 WebUI 的 Model 标签页,新模型已出现在列表里,选中加载即可开始对话。【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
