linux离线安装ollama部署qwen3.6

内网没办法直连只能从官方下载安装包https://github.com/ollama/ollamahttps://github.com/ollama/ollama安装参考了https://www.jb51.net/ai/1027756.htmlhttps://www.jb51.net/ai/1027756.html教程都差不多--------------------------------------------------------------------------------------------------------------------------------20260601因为服务器连不上外网使用这两种方法曲线安装一.在win迁移到linux先在ollama下载模型然后把下载下来的文件上传到你的服务器模型是F:\ollama\models\blobs下的sha256-****文件然后要通过 ollama show model-name --modelfile nihao.mf导出一个配置文件上传到服务器后要放在相同目录下一般是/usr/share/ollama/.ollama/models/blobs然后ollama create model-name -f ./nihao.mf生成模型就可以run起来了具体的ctx长度也是在那个文件配置记得修改里面的from目录https://zhuanlan.zhihu.com/p/21135753631https://zhuanlan.zhihu.com/p/21135753631二.在modelscope下载gguf这个下载下来是gguf文件和方法一的sha256文件是类似的用法。有些新模型框架不能加载就是ollama太旧要更新ollama而且ollama只能用gguf格式的下载完模型后需要ModelFIlehttps://modelscope.cn/models/unsloth/Qwen3.6-35B-A3B-GGUF/feedbackhttps://modelscope.cn/models/unsloth/Qwen3.6-35B-A3B-GGUF/feedback在我启动之后发现模型胡言乱语就参考了大佬的配置需要在ModelFile中写入两个非标参数 RENDERER qwen3.5 PARSER qwen3.5 完整的ModelFile示例 FROM Qwen3.6-35B-A3B-UD-Q4_K_XL.gguf TEMPLATE {{ .Prompt }} RENDERER qwen3.5 PARSER qwen3.5 PARAMETER temperature 1 PARAMETER top_k 20 PARAMETER top_p 0.95 PARAMETER min_p 0 PARAMETER presence_penalty 1.5 PARAMETER repeat_penalty 1然后就能跑起来了--------------------------------------------------------------------------------------------------------------------------------小白做备忘记录使用