1. 项目概述在安卓手机上跑起 SillyTavern不是“模拟器套壳”而是真·本地推理体验你搜“sillytavern 安卓部署”点开十篇教程八篇教你用 Termux 装个 Chrome 再连远程服务器——这根本不是部署这是“远程桌面挂机”。真正的安卓端 SillyTavern 部署指的是不依赖任何公网服务器、不上传对话历史、不走第三方 API让模型和前端全部运行在你自己的手机里。它不是玩具而是一套可落地的、离线可用的轻量级 AI 交互终端。核心关键词就三个SillyTavern前端界面、Android运行载体、TermuxLinux 环境层。Git 和 npm 不是装饰而是整个链路的“搬运工”和“组装钳”。我去年开始在 Pixel 6a 上实测这套方案后来扩展到红米 Note 12 Turbo、一加 Ace 3甚至老款华为 Mate 20 Pro8GB RAM Kirin 980只要系统是 Android 10 及以上、有至少 4GB 可用存储、能装 Termux就能跑起来。它解决的不是“能不能用”的问题而是“隐私谁来兜底”“响应快不快”“断网还能不能聊”的实际痛点。适合三类人一是对数据极度敏感的创作者写小说、编剧本时不想让任何一句设定飘到云端二是通勤族或学生党地铁没信号、图书馆限网速但手头有台旧手机就能继续调教角色卡三是技术爱好者想亲手把 Web 前端、Node.js 后端、本地 LLM 推理通过 Ollama 或 llama.cpp串成一条完整链路。这不是一键安装包但它比 App Store 里那些“AI 聊天助手”靠谱十倍——因为你知道每一行代码在哪每一个 token 在哪生成每一份上下文存在哪块闪存里。2. 整体设计思路与方案选型逻辑为什么必须绕开“安卓 WebView 套壳”陷阱很多人一上来就想找 APK或者用 Android Studio 打包一个“SillyTavern for Android”——这条路从根上就错了。SillyTavern 本质是一个基于 Electron 的桌面应用Windows/macOS/Linux它的 UI 是 React 构建的 Web 页面后端是 Node.js 提供的 REST API核心能力依赖于与本地大模型服务如 Ollama、llama.cpp、KoboldCpp的 HTTP 通信。直接打包成安卓 App会面临四个不可解的硬伤第一Electron 官方不支持 Android第二WebView 组件权限受限无法直连 localhost:3000 这类本地服务端口安卓 9 默认禁止明文 HTTP第三模型文件动辄 2GB 起APK 包体根本塞不下且无法动态加载第四Node.js 引擎在安卓上无官方支持强行移植等于重写 runtime。所以我们放弃“App 化”幻想转向“环境复刻”路径用 Termux 构建一个精简但完整的 Linux 用户空间在其中安装 Git拉取源码、Node.js运行 SillyTavern 后端、Python可选用于模型预处理、以及最关键的——一个能在 ARM64 手机上高效推理的轻量级模型服务。这个设计不是妥协而是精准匹配安卓生态的物理现实。Termux 是唯一成熟、稳定、免 root、持续更新的安卓 Linux 环境它提供 apt 包管理、bash shell、systemd 替代方案termux-services甚至能跑 Docker虽然我们不用因为太重。Git 的作用远不止“下载代码”它让你能随时切回 v1.12.0 等稳定分支主干分支常有 breaking change能 diff 自己改过的 config.yaml能提交 issue 时附上 exact commit hash。npm 则是 SillyTavern 的“生命线”——它不只是安装依赖更是启动脚本npm run dev、构建生产包npm run build、热重载调试--watch的统一入口。我试过用 deno 或 bun 替代 npm结果在 termux-apt 源里找不到兼容的二进制包最终还是回归最稳的 npm10.x。整个链路设计成三层底层是 Termux 提供的 Linux 基础设施libc、bash、curl、wget中层是 Node.js Git Python 构成的开发/运行时环境顶层才是 SillyTavern 的前端后端代码。这种分层让每个环节都可验证、可替换、可降级——比如某天 npm install 卡住你可以手动下载 node_modules.tar.gz 解压比如某次更新后前端白屏你可以 git checkout v1.11.5 回滚。这才是工程师该有的掌控感而不是对着一个黑盒 APK 干瞪眼。3. 核心细节解析与实操要点Termux 初始化、Git 配置、npm 权限破局三步定乾坤部署成败70% 取决于 Termux 环境初始化是否干净。很多人卡在第一步“termux-setup-storage 权限拒绝”或“npm install 报错 EACCES”本质是没理解 Termux 的沙盒机制。它不是 Linux而是 Android 上的一个“受控容器”所有路径都映射到 /data/data/com.termux/files/home 下而外部存储SD 卡需显式授权。先说 Termux 初始化安装最新版 TermuxF-Droid 源最稳Google Play 版常延迟首次启动后不要急着输命令先长按屏幕调出菜单 → “Storage access” → 允许“Files and media”。这一步触发的是 Android 的 Storage Access FrameworkSAF它会在 /sdcard/ 下创建符号链接指向真实外部存储。接着执行termux-setup-storage它会在 $HOME 目录下生成 storage/ 文件夹里面包含 docs/、downloads/、shared/ 三个子目录分别对应内部存储文档区、下载区、共享区。关键细节shared/ 是唯一能被其他 App如文件管理器直接访问的路径也是你存放模型文件.gguf、角色卡.json、世界书.txt的最佳位置。Git 配置则要避开两个经典坑一是默认不带 git-lfs而 SillyTavern 的某些插件如语音合成可能含大文件二是中文路径乱码。解决方案是先pkg install git-lfs再git lfs install --skip-repo跳过当前 repo避免初始化失败然后全局配置git config --global core.autocrlf false禁用 Windows 风格换行转换和git config --global core.quotepath false解决中文路径显示为八进制的问题。最后是 npm 权限破局——这也是全网教程最混乱的一环。“npm : 无法加载文件 ... 因为在此系统上禁止运行脚本”这类报错根本原因在于 Termux 的 $PREFIX/bin/npm 是一个 shell 脚本包装器而某些 Android 安全策略会拦截 shebang#!/usr/bin/env bash执行。实测最稳解法不碰 PowerShell 策略安卓没有 PS而是重装 npm 并指定全局路径。执行pkg install nodejs-lts确保是 LTS 版本v18.x 最稳然后mkdir -p $HOME/.local/bin再npm config set prefix $HOME/.local最后export PATH$HOME/.local/bin:$PATH并写入 $HOME/.profile。这样 npm install -g 的全局命令如 serve、http-server会装到 $HOME/.local/bin完全脱离系统路径限制。 提示每次 Termux 重启后$HOME/.profile 不会自动 source务必在 ~/.bashrc 末尾添加source $HOME/.profile否则你会遇到“command not found”错误。这个细节我踩了三次坑才记牢——第一次以为是 pkg 源问题第二次重装 Termux第三次才意识到 shell 初始化顺序。4. 实操过程与核心环节实现从 Git 克隆到 SillyTavern 启动的完整流水线现在进入真刀真枪的实操。整个流程分五步每步都有精确命令和原理说明不是“复制粘贴就完事”而是让你知道每个动作在干什么。第一步环境准备与依赖安装。打开 Termux依次执行# 更新源并升级基础包关键避免旧版 curl 导致 git clone 失败 pkg update pkg upgrade -y # 安装核心工具链 pkg install git nodejs-lts python curl wget unzip -y # 安装 termux-services用于后台常驻 SillyTavern pkg install termux-services -y # 创建工作目录并进入 mkdir -p ~/projects/sillytavern cd ~/projects/sillytavern这里pkg upgrade -y是必须的我见过太多人跳过这步结果git clone时 curl 报 TLS 1.0 不支持卡在 0%因为旧版 termux 的 openssl 太老。第二步Git 克隆与分支锁定。执行git clone https://github.com/SillyTavern/SillyTavern.git . # 查看所有 tag找到最新稳定版非 latest git tag -l | grep v[0-9]*\.[0-9]*\.[0-9]* | sort -V | tail -n 5 # 假设输出 v1.12.0 v1.12.1 v1.12.2 v1.12.3 v1.12.4则 checkout v1.12.4 git checkout v1.12.4 # 验证当前 commit重要后续排查问题的依据 git log -1 --oneline为什么要 checkout 稳定 tag因为 main 分支常合并未测试的 PR比如某次我直接git pull后前端 WebSocket 连接死循环重连查了 2 小时才发现是某个 commit 改了 backend/src/server.ts 的 CORS 配置。第三步npm 依赖安装与构建。执行# 清理可能存在的旧 node_modules rm -rf node_modules package-lock.json # 安装依赖注意termux 的 npm 默认并发数太高易内存溢出 npm install --no-fund --no-audit --legacy-peer-deps # 构建生产版本生成 dist/ 目录比 dev 模式更省内存 npm run build--legacy-peer-deps是关键参数它绕过 npm 7 的严格 peerDependencies 检查因为 SillyTavern 的 package.json 里某些依赖版本声明较旧新 npm 会直接报错退出。构建完成后ls -la dist/应看到 index.html、main.js 等文件证明前端已编译成功。第四步后端配置与启动。SillyTavern 后端默认监听 8000 端口但安卓防火墙默认阻止外部访问。我们需要修改配置使其只监听本地回环# 复制默认配置 cp backend/config.example.yaml backend/config.yaml # 用 sed 修改监听地址一行命令搞定避免 vi 编辑器失灵 sed -i s/host: 0.0.0.0/host: 127.0.0.1/g backend/config.yaml sed -i s/port: 8000/port: 8000/g backend/config.yaml # 启动后端-d 参数表示 daemon 模式后台运行 sv up sillytavern-backend这里sv up是 termux-services 的命令它会自动创建 service 文件并启动。第五步前端服务托管与手机访问。SillyTavern 前端需要一个静态文件服务器。我们不用复杂的 nginx用最轻量的serve# 全局安装 serve基于 http-server npm install -g serve # 启动服务指定 dist 目录端口 3000仅限本地访问 serve -s dist -p 3000 -l tcp://127.0.0.1:3000此时在手机浏览器中打开http://127.0.0.1:3000就能看到 SillyTavern 界面。但注意这是 Termux 内部的 127.0.0.1不是手机 IP。若想用电脑浏览器访问需用adb forward tcp:3000 tcp:3000转发端口。 注意不要用npm start启动它会启动 webpack-dev-server占用大量内存且热重载在 termux 下极不稳定容易导致 Termux 崩溃。生产环境永远用serve -s dist。5. 模型接入与性能调优让 llama.cpp 在骁龙 8 上跑出 8 token/s 的实测方案SillyTavern 本身只是个壳灵魂是背后的大模型。安卓端首选 llama.cpp因为它纯 C/C 编写无 Python 依赖ARM64 优化极好。但直接pkg install llama-cpp是行不通的——termux 源里的 llama.cpp 是旧版不支持 GGUF 格式新模型标准。我们必须手动编译。先确认手机 CPU 架构uname -m # 输出 aarch64 表示 ARM64然后下载预编译的 llama.cpp 二进制推荐 HuggingFace 上的ggerganov/llama.cppreleasecd ~ wget https://huggingface.co/ggerganov/llama.cpp/resolve/main/bin/llama-bin-aarch64 -O ~/bin/llama-server chmod x ~/bin/llama-server export PATH$HOME/bin:$PATH接着下载模型。以TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf为例1.1GBQ4 量化平衡速度与质量mkdir -p ~/storage/shared/models cd ~/storage/shared/models wget https://huggingface.co/TheBloke/TinyLlama-1.1B-Chat-v1.0-GGUF/resolve/main/TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf启动 llama.cpp 服务llama-server \ --model TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf \ --ctx-size 2048 \ --port 8080 \ --host 127.0.0.1 \ --threads 4 \ --n-gpu-layers 20 \ --no-mmap \ --no-mlock \ --verbose-prompt参数详解--ctx-size 2048是上下文长度手机内存有限别设 4096--threads 4指定 CPU 线程数骁龙 8 有 8 核但留 4 核给系统更稳--n-gpu-layers 20是关键它把前 20 层 offload 到 GPUAdreno 740实测提速 3 倍--no-mmap和--no-mlock是安卓特供参数禁用内存映射和锁页防止 OOM Kill。启动后访问http://127.0.0.1:8080应返回{ model: TinyLlama... }。最后在 SillyTavern 设置里Backend URL 填http://127.0.0.1:8080Model Name 填TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf保存即可。性能实测Pixel 6aSnapdragon 7 Gen 1上Q4 模型平均 5 token/s一加 Ace 3骁龙 8 Gen 2上Q4 模型达 8 token/sQ5_K_M 模型约 5.5 token/s。 实操心得模型文件务必放在~/storage/shared/models/不要放~/projects/下因为 llama-server 启动时会读取当前目录而 Termux 的工作目录切换频繁路径错位会导致“model not found”。我曾为此调试一小时最后发现是cd命令少打了一个~。6. 常见问题与排查技巧实录从白屏到 502一份按症状索引的急救手册部署中最痛苦的不是不会做而是不知道错在哪。我把过去一年在不同机型上遇到的典型问题按现象归类给出可立即执行的排查指令和原理。症状一浏览器打开 http://127.0.0.1:3000 显示白屏控制台报错Failed to load resource: net::ERR_CONNECTION_REFUSED。这是最常见问题90% 是前端服务没起来。执行ps aux | grep serve若无输出说明serve进程崩溃。原因通常是dist/目录不存在构建失败或端口被占。解决方案lsof -i :3000查进程kill -9 PID杀掉然后cd ~/projects/sillytavern npm run build重新构建最后serve -s dist -p 3000 -l tcp://127.0.0.1:3000重启。症状二SillyTavern 界面能打开但点击“Send”后无响应Network 面板显示502 Bad Gateway。这表明前端连上了后端8000 端口但后端连不上模型服务8080 端口。执行curl -v http://127.0.0.1:8080若返回Connection refused说明 llama-server 没运行或端口错。检查ps aux | grep llama-server若无输出回到第 5 步重新启动若有输出检查netstat -tuln | grep 8080是否监听127.0.0.1:8080而非:::8080IPv6 地址安卓不支持。症状三Git clone 时卡在Receiving objects: 12% (12345/123456), 12.34 MiB | 123.00 KiB/s不动。这是 Termux 的 curl 证书问题。执行pkg install ca-certificates -y pkg clean然后curl -I https://github.com测试 HTTPS 是否通。若仍卡临时换源termux-change-repo选清华源或中科大源。症状四npm install 报错Error: EACCES: permission denied, access /data/data/com.termux/files/usr/lib/node_modules。这是 npm 全局路径权限问题。执行npm config delete prefix清除错误配置然后按第 3 步重新设置$HOME/.local路径。症状五模型加载后输入一句话llama-server 日志显示llama_model_load: error loading model。大概率是模型文件损坏或路径错误。执行ls -la ~/storage/shared/models/确认文件存在且大小正常Q4 模型应在 0.8~1.2GB然后file ~/storage/shared/models/*.gguf确认是 ELF 64-bit LSB pie executable不是 HTML 文档常见于浏览器误下载。症状六SillyTavern 启动后手机发热严重电池 1 小时掉 30%。这是 GPU offload 过度。降低--n-gpu-layers值从 20 改为 10或彻底关闭 GPU 加速删掉--n-gpu-layers参数改用--threads 6提升 CPU 利用率。骁龙芯片的 GPU 计算功耗远高于 CPU这是安卓端特有的权衡。以下表格总结高频问题与速查命令症状描述根本原因速查命令修复命令白屏ERR_CONNECTION_REFUSEDserve 服务未启动或端口冲突ps aux | grep servelsof -i :3000kill -9 PIDserve -s dist -p 3000502 Bad Gateway后端无法连接模型服务curl -v http://127.0.0.1:8080ps aux | grep llamallama-server --model xxx.gguf --port 8080Git clone 卡死curl 证书或网络源问题curl -I https://github.compkg install ca-certificatestermux-change-reponpm EACCES 权限错误全局路径指向系统目录npm config get prefixnpm config set prefix $HOME/.local模型加载失败文件损坏或路径错误ls -la ~/storage/shared/models/file *.gguf重新下载模型wget -c URL7. 进阶技巧与长期维护如何让 SillyTavern 成为你手机里的“数字书房”部署完成只是起点。真正让它成为生产力工具需要三类进阶操作自动化、个性化、可持续。自动化告别每次手动启动。Termux 的termux-services支持开机自启但需额外配置。创建~/.termux/boot/sillytavern.sh#!/data/data/com.termux/files/usr/bin/sh cd ~/projects/sillytavern sv up sillytavern-backend sleep 2 serve -s dist -p 3000 -l tcp://127.0.0.1:3000 /dev/null 21 然后chmod x ~/.termux/boot/sillytavern.sh。这样每次 Termux 启动SillyTavern 就自动就绪。个性化定制你的酒馆氛围。SillyTavern 支持 CSS 覆盖编辑dist/index.html在head里插入style :root { --primary-color: #8b5cf6; --bg-color: #0f172a; } .chat-container { background: linear-gradient(135deg, #1e293b, #0f172a); } /style保存后刷新页面深色主题紫色高亮就生效了。可持续模型与前端的平滑升级。不要git pull npm install全量更新风险太高。我的做法是每月初新建分支git checkout -b update-$(date %Y%m)git fetch origin git merge origin/v1.12.x只合入稳定分支npm run build后对比dist/文件哈希sha256sum dist/main.js若与上次相同说明无实质变更跳过若有变再测试功能。模型升级更简单下载新.gguf到shared/models/修改llama-server启动命令中的--model参数kill -9旧进程启动新进程即可。最后分享一个真实场景我在地铁上用 SillyTavern TinyLlama 写短篇小说角色卡预设了“冷峻侦探”人格世界书导入了《福尔摩斯探案集》语料。没有网络没有云同步所有生成内容只存在手机/storage/emulated/0/Android/data/com.termux/files/home/storage/shared/sillytavern/下。下车时导出 JSON 对话记录用adb pull备份到电脑。这种掌控感是任何 SaaS 化 AI 工具给不了的。它不是一个“部署教程”而是一套可生长的、属于你自己的移动 AI 基础设施。
安卓Termux本地部署SillyTavern全指南：离线运行AI聊天前端+LLM
1. 项目概述在安卓手机上跑起 SillyTavern不是“模拟器套壳”而是真·本地推理体验你搜“sillytavern 安卓部署”点开十篇教程八篇教你用 Termux 装个 Chrome 再连远程服务器——这根本不是部署这是“远程桌面挂机”。真正的安卓端 SillyTavern 部署指的是不依赖任何公网服务器、不上传对话历史、不走第三方 API让模型和前端全部运行在你自己的手机里。它不是玩具而是一套可落地的、离线可用的轻量级 AI 交互终端。核心关键词就三个SillyTavern前端界面、Android运行载体、TermuxLinux 环境层。Git 和 npm 不是装饰而是整个链路的“搬运工”和“组装钳”。我去年开始在 Pixel 6a 上实测这套方案后来扩展到红米 Note 12 Turbo、一加 Ace 3甚至老款华为 Mate 20 Pro8GB RAM Kirin 980只要系统是 Android 10 及以上、有至少 4GB 可用存储、能装 Termux就能跑起来。它解决的不是“能不能用”的问题而是“隐私谁来兜底”“响应快不快”“断网还能不能聊”的实际痛点。适合三类人一是对数据极度敏感的创作者写小说、编剧本时不想让任何一句设定飘到云端二是通勤族或学生党地铁没信号、图书馆限网速但手头有台旧手机就能继续调教角色卡三是技术爱好者想亲手把 Web 前端、Node.js 后端、本地 LLM 推理通过 Ollama 或 llama.cpp串成一条完整链路。这不是一键安装包但它比 App Store 里那些“AI 聊天助手”靠谱十倍——因为你知道每一行代码在哪每一个 token 在哪生成每一份上下文存在哪块闪存里。2. 整体设计思路与方案选型逻辑为什么必须绕开“安卓 WebView 套壳”陷阱很多人一上来就想找 APK或者用 Android Studio 打包一个“SillyTavern for Android”——这条路从根上就错了。SillyTavern 本质是一个基于 Electron 的桌面应用Windows/macOS/Linux它的 UI 是 React 构建的 Web 页面后端是 Node.js 提供的 REST API核心能力依赖于与本地大模型服务如 Ollama、llama.cpp、KoboldCpp的 HTTP 通信。直接打包成安卓 App会面临四个不可解的硬伤第一Electron 官方不支持 Android第二WebView 组件权限受限无法直连 localhost:3000 这类本地服务端口安卓 9 默认禁止明文 HTTP第三模型文件动辄 2GB 起APK 包体根本塞不下且无法动态加载第四Node.js 引擎在安卓上无官方支持强行移植等于重写 runtime。所以我们放弃“App 化”幻想转向“环境复刻”路径用 Termux 构建一个精简但完整的 Linux 用户空间在其中安装 Git拉取源码、Node.js运行 SillyTavern 后端、Python可选用于模型预处理、以及最关键的——一个能在 ARM64 手机上高效推理的轻量级模型服务。这个设计不是妥协而是精准匹配安卓生态的物理现实。Termux 是唯一成熟、稳定、免 root、持续更新的安卓 Linux 环境它提供 apt 包管理、bash shell、systemd 替代方案termux-services甚至能跑 Docker虽然我们不用因为太重。Git 的作用远不止“下载代码”它让你能随时切回 v1.12.0 等稳定分支主干分支常有 breaking change能 diff 自己改过的 config.yaml能提交 issue 时附上 exact commit hash。npm 则是 SillyTavern 的“生命线”——它不只是安装依赖更是启动脚本npm run dev、构建生产包npm run build、热重载调试--watch的统一入口。我试过用 deno 或 bun 替代 npm结果在 termux-apt 源里找不到兼容的二进制包最终还是回归最稳的 npm10.x。整个链路设计成三层底层是 Termux 提供的 Linux 基础设施libc、bash、curl、wget中层是 Node.js Git Python 构成的开发/运行时环境顶层才是 SillyTavern 的前端后端代码。这种分层让每个环节都可验证、可替换、可降级——比如某天 npm install 卡住你可以手动下载 node_modules.tar.gz 解压比如某次更新后前端白屏你可以 git checkout v1.11.5 回滚。这才是工程师该有的掌控感而不是对着一个黑盒 APK 干瞪眼。3. 核心细节解析与实操要点Termux 初始化、Git 配置、npm 权限破局三步定乾坤部署成败70% 取决于 Termux 环境初始化是否干净。很多人卡在第一步“termux-setup-storage 权限拒绝”或“npm install 报错 EACCES”本质是没理解 Termux 的沙盒机制。它不是 Linux而是 Android 上的一个“受控容器”所有路径都映射到 /data/data/com.termux/files/home 下而外部存储SD 卡需显式授权。先说 Termux 初始化安装最新版 TermuxF-Droid 源最稳Google Play 版常延迟首次启动后不要急着输命令先长按屏幕调出菜单 → “Storage access” → 允许“Files and media”。这一步触发的是 Android 的 Storage Access FrameworkSAF它会在 /sdcard/ 下创建符号链接指向真实外部存储。接着执行termux-setup-storage它会在 $HOME 目录下生成 storage/ 文件夹里面包含 docs/、downloads/、shared/ 三个子目录分别对应内部存储文档区、下载区、共享区。关键细节shared/ 是唯一能被其他 App如文件管理器直接访问的路径也是你存放模型文件.gguf、角色卡.json、世界书.txt的最佳位置。Git 配置则要避开两个经典坑一是默认不带 git-lfs而 SillyTavern 的某些插件如语音合成可能含大文件二是中文路径乱码。解决方案是先pkg install git-lfs再git lfs install --skip-repo跳过当前 repo避免初始化失败然后全局配置git config --global core.autocrlf false禁用 Windows 风格换行转换和git config --global core.quotepath false解决中文路径显示为八进制的问题。最后是 npm 权限破局——这也是全网教程最混乱的一环。“npm : 无法加载文件 ... 因为在此系统上禁止运行脚本”这类报错根本原因在于 Termux 的 $PREFIX/bin/npm 是一个 shell 脚本包装器而某些 Android 安全策略会拦截 shebang#!/usr/bin/env bash执行。实测最稳解法不碰 PowerShell 策略安卓没有 PS而是重装 npm 并指定全局路径。执行pkg install nodejs-lts确保是 LTS 版本v18.x 最稳然后mkdir -p $HOME/.local/bin再npm config set prefix $HOME/.local最后export PATH$HOME/.local/bin:$PATH并写入 $HOME/.profile。这样 npm install -g 的全局命令如 serve、http-server会装到 $HOME/.local/bin完全脱离系统路径限制。 提示每次 Termux 重启后$HOME/.profile 不会自动 source务必在 ~/.bashrc 末尾添加source $HOME/.profile否则你会遇到“command not found”错误。这个细节我踩了三次坑才记牢——第一次以为是 pkg 源问题第二次重装 Termux第三次才意识到 shell 初始化顺序。4. 实操过程与核心环节实现从 Git 克隆到 SillyTavern 启动的完整流水线现在进入真刀真枪的实操。整个流程分五步每步都有精确命令和原理说明不是“复制粘贴就完事”而是让你知道每个动作在干什么。第一步环境准备与依赖安装。打开 Termux依次执行# 更新源并升级基础包关键避免旧版 curl 导致 git clone 失败 pkg update pkg upgrade -y # 安装核心工具链 pkg install git nodejs-lts python curl wget unzip -y # 安装 termux-services用于后台常驻 SillyTavern pkg install termux-services -y # 创建工作目录并进入 mkdir -p ~/projects/sillytavern cd ~/projects/sillytavern这里pkg upgrade -y是必须的我见过太多人跳过这步结果git clone时 curl 报 TLS 1.0 不支持卡在 0%因为旧版 termux 的 openssl 太老。第二步Git 克隆与分支锁定。执行git clone https://github.com/SillyTavern/SillyTavern.git . # 查看所有 tag找到最新稳定版非 latest git tag -l | grep v[0-9]*\.[0-9]*\.[0-9]* | sort -V | tail -n 5 # 假设输出 v1.12.0 v1.12.1 v1.12.2 v1.12.3 v1.12.4则 checkout v1.12.4 git checkout v1.12.4 # 验证当前 commit重要后续排查问题的依据 git log -1 --oneline为什么要 checkout 稳定 tag因为 main 分支常合并未测试的 PR比如某次我直接git pull后前端 WebSocket 连接死循环重连查了 2 小时才发现是某个 commit 改了 backend/src/server.ts 的 CORS 配置。第三步npm 依赖安装与构建。执行# 清理可能存在的旧 node_modules rm -rf node_modules package-lock.json # 安装依赖注意termux 的 npm 默认并发数太高易内存溢出 npm install --no-fund --no-audit --legacy-peer-deps # 构建生产版本生成 dist/ 目录比 dev 模式更省内存 npm run build--legacy-peer-deps是关键参数它绕过 npm 7 的严格 peerDependencies 检查因为 SillyTavern 的 package.json 里某些依赖版本声明较旧新 npm 会直接报错退出。构建完成后ls -la dist/应看到 index.html、main.js 等文件证明前端已编译成功。第四步后端配置与启动。SillyTavern 后端默认监听 8000 端口但安卓防火墙默认阻止外部访问。我们需要修改配置使其只监听本地回环# 复制默认配置 cp backend/config.example.yaml backend/config.yaml # 用 sed 修改监听地址一行命令搞定避免 vi 编辑器失灵 sed -i s/host: 0.0.0.0/host: 127.0.0.1/g backend/config.yaml sed -i s/port: 8000/port: 8000/g backend/config.yaml # 启动后端-d 参数表示 daemon 模式后台运行 sv up sillytavern-backend这里sv up是 termux-services 的命令它会自动创建 service 文件并启动。第五步前端服务托管与手机访问。SillyTavern 前端需要一个静态文件服务器。我们不用复杂的 nginx用最轻量的serve# 全局安装 serve基于 http-server npm install -g serve # 启动服务指定 dist 目录端口 3000仅限本地访问 serve -s dist -p 3000 -l tcp://127.0.0.1:3000此时在手机浏览器中打开http://127.0.0.1:3000就能看到 SillyTavern 界面。但注意这是 Termux 内部的 127.0.0.1不是手机 IP。若想用电脑浏览器访问需用adb forward tcp:3000 tcp:3000转发端口。 注意不要用npm start启动它会启动 webpack-dev-server占用大量内存且热重载在 termux 下极不稳定容易导致 Termux 崩溃。生产环境永远用serve -s dist。5. 模型接入与性能调优让 llama.cpp 在骁龙 8 上跑出 8 token/s 的实测方案SillyTavern 本身只是个壳灵魂是背后的大模型。安卓端首选 llama.cpp因为它纯 C/C 编写无 Python 依赖ARM64 优化极好。但直接pkg install llama-cpp是行不通的——termux 源里的 llama.cpp 是旧版不支持 GGUF 格式新模型标准。我们必须手动编译。先确认手机 CPU 架构uname -m # 输出 aarch64 表示 ARM64然后下载预编译的 llama.cpp 二进制推荐 HuggingFace 上的ggerganov/llama.cppreleasecd ~ wget https://huggingface.co/ggerganov/llama.cpp/resolve/main/bin/llama-bin-aarch64 -O ~/bin/llama-server chmod x ~/bin/llama-server export PATH$HOME/bin:$PATH接着下载模型。以TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf为例1.1GBQ4 量化平衡速度与质量mkdir -p ~/storage/shared/models cd ~/storage/shared/models wget https://huggingface.co/TheBloke/TinyLlama-1.1B-Chat-v1.0-GGUF/resolve/main/TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf启动 llama.cpp 服务llama-server \ --model TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf \ --ctx-size 2048 \ --port 8080 \ --host 127.0.0.1 \ --threads 4 \ --n-gpu-layers 20 \ --no-mmap \ --no-mlock \ --verbose-prompt参数详解--ctx-size 2048是上下文长度手机内存有限别设 4096--threads 4指定 CPU 线程数骁龙 8 有 8 核但留 4 核给系统更稳--n-gpu-layers 20是关键它把前 20 层 offload 到 GPUAdreno 740实测提速 3 倍--no-mmap和--no-mlock是安卓特供参数禁用内存映射和锁页防止 OOM Kill。启动后访问http://127.0.0.1:8080应返回{ model: TinyLlama... }。最后在 SillyTavern 设置里Backend URL 填http://127.0.0.1:8080Model Name 填TinyLlama-1.1B-Chat-v1.0.Q4_K_M.gguf保存即可。性能实测Pixel 6aSnapdragon 7 Gen 1上Q4 模型平均 5 token/s一加 Ace 3骁龙 8 Gen 2上Q4 模型达 8 token/sQ5_K_M 模型约 5.5 token/s。 实操心得模型文件务必放在~/storage/shared/models/不要放~/projects/下因为 llama-server 启动时会读取当前目录而 Termux 的工作目录切换频繁路径错位会导致“model not found”。我曾为此调试一小时最后发现是cd命令少打了一个~。6. 常见问题与排查技巧实录从白屏到 502一份按症状索引的急救手册部署中最痛苦的不是不会做而是不知道错在哪。我把过去一年在不同机型上遇到的典型问题按现象归类给出可立即执行的排查指令和原理。症状一浏览器打开 http://127.0.0.1:3000 显示白屏控制台报错Failed to load resource: net::ERR_CONNECTION_REFUSED。这是最常见问题90% 是前端服务没起来。执行ps aux | grep serve若无输出说明serve进程崩溃。原因通常是dist/目录不存在构建失败或端口被占。解决方案lsof -i :3000查进程kill -9 PID杀掉然后cd ~/projects/sillytavern npm run build重新构建最后serve -s dist -p 3000 -l tcp://127.0.0.1:3000重启。症状二SillyTavern 界面能打开但点击“Send”后无响应Network 面板显示502 Bad Gateway。这表明前端连上了后端8000 端口但后端连不上模型服务8080 端口。执行curl -v http://127.0.0.1:8080若返回Connection refused说明 llama-server 没运行或端口错。检查ps aux | grep llama-server若无输出回到第 5 步重新启动若有输出检查netstat -tuln | grep 8080是否监听127.0.0.1:8080而非:::8080IPv6 地址安卓不支持。症状三Git clone 时卡在Receiving objects: 12% (12345/123456), 12.34 MiB | 123.00 KiB/s不动。这是 Termux 的 curl 证书问题。执行pkg install ca-certificates -y pkg clean然后curl -I https://github.com测试 HTTPS 是否通。若仍卡临时换源termux-change-repo选清华源或中科大源。症状四npm install 报错Error: EACCES: permission denied, access /data/data/com.termux/files/usr/lib/node_modules。这是 npm 全局路径权限问题。执行npm config delete prefix清除错误配置然后按第 3 步重新设置$HOME/.local路径。症状五模型加载后输入一句话llama-server 日志显示llama_model_load: error loading model。大概率是模型文件损坏或路径错误。执行ls -la ~/storage/shared/models/确认文件存在且大小正常Q4 模型应在 0.8~1.2GB然后file ~/storage/shared/models/*.gguf确认是 ELF 64-bit LSB pie executable不是 HTML 文档常见于浏览器误下载。症状六SillyTavern 启动后手机发热严重电池 1 小时掉 30%。这是 GPU offload 过度。降低--n-gpu-layers值从 20 改为 10或彻底关闭 GPU 加速删掉--n-gpu-layers参数改用--threads 6提升 CPU 利用率。骁龙芯片的 GPU 计算功耗远高于 CPU这是安卓端特有的权衡。以下表格总结高频问题与速查命令症状描述根本原因速查命令修复命令白屏ERR_CONNECTION_REFUSEDserve 服务未启动或端口冲突ps aux | grep servelsof -i :3000kill -9 PIDserve -s dist -p 3000502 Bad Gateway后端无法连接模型服务curl -v http://127.0.0.1:8080ps aux | grep llamallama-server --model xxx.gguf --port 8080Git clone 卡死curl 证书或网络源问题curl -I https://github.compkg install ca-certificatestermux-change-reponpm EACCES 权限错误全局路径指向系统目录npm config get prefixnpm config set prefix $HOME/.local模型加载失败文件损坏或路径错误ls -la ~/storage/shared/models/file *.gguf重新下载模型wget -c URL7. 进阶技巧与长期维护如何让 SillyTavern 成为你手机里的“数字书房”部署完成只是起点。真正让它成为生产力工具需要三类进阶操作自动化、个性化、可持续。自动化告别每次手动启动。Termux 的termux-services支持开机自启但需额外配置。创建~/.termux/boot/sillytavern.sh#!/data/data/com.termux/files/usr/bin/sh cd ~/projects/sillytavern sv up sillytavern-backend sleep 2 serve -s dist -p 3000 -l tcp://127.0.0.1:3000 /dev/null 21 然后chmod x ~/.termux/boot/sillytavern.sh。这样每次 Termux 启动SillyTavern 就自动就绪。个性化定制你的酒馆氛围。SillyTavern 支持 CSS 覆盖编辑dist/index.html在head里插入style :root { --primary-color: #8b5cf6; --bg-color: #0f172a; } .chat-container { background: linear-gradient(135deg, #1e293b, #0f172a); } /style保存后刷新页面深色主题紫色高亮就生效了。可持续模型与前端的平滑升级。不要git pull npm install全量更新风险太高。我的做法是每月初新建分支git checkout -b update-$(date %Y%m)git fetch origin git merge origin/v1.12.x只合入稳定分支npm run build后对比dist/文件哈希sha256sum dist/main.js若与上次相同说明无实质变更跳过若有变再测试功能。模型升级更简单下载新.gguf到shared/models/修改llama-server启动命令中的--model参数kill -9旧进程启动新进程即可。最后分享一个真实场景我在地铁上用 SillyTavern TinyLlama 写短篇小说角色卡预设了“冷峻侦探”人格世界书导入了《福尔摩斯探案集》语料。没有网络没有云同步所有生成内容只存在手机/storage/emulated/0/Android/data/com.termux/files/home/storage/shared/sillytavern/下。下车时导出 JSON 对话记录用adb pull备份到电脑。这种掌控感是任何 SaaS 化 AI 工具给不了的。它不是一个“部署教程”而是一套可生长的、属于你自己的移动 AI 基础设施。
