SmallThinker-3B-Preview实战教程集成到Obsidian插件实现本地AI笔记增强你是不是也遇到过这样的场景在Obsidian里整理笔记时突然有个想法需要展开或者一段文字需要润色又或者想快速总结刚读过的内容。这时候你不得不切换到浏览器打开某个在线AI工具复制粘贴等待结果再复制回来。整个过程繁琐不说还打断了你的思考流。如果能有一个AI助手直接在你的笔记软件里工作随时待命那该多好今天我们就来把这个想法变成现实。我们将把一个轻量级但能力不俗的AI模型——SmallThinker-3B-Preview集成到Obsidian中打造一个完全本地运行、无需联网、保护隐私的智能笔记伴侣。1. 为什么选择SmallThinker-3B-Preview在开始动手之前我们先花点时间了解一下今天的主角SmallThinker-3B-Preview。简单来说它是一个只有30亿参数的小模型但你别看它小本事可不小。它是在Qwen2.5-3b-Instruct这个优秀的基础模型上经过专门微调而来的。开发者为它设定了两个主要目标在资源有限的设备上也能跑起来比如你的笔记本电脑甚至是一些性能一般的开发板。这意味着你不需要昂贵的显卡就能享受AI辅助。给更大的模型当“快枪手”在一些复杂的推理任务中它可以作为更大模型如QwQ-32B的“草稿模型”先快速生成一个初稿再由大模型精修据说能提升70%的速度。这背后是它对长链思维COT推理的专项训练。最关键的是它完全开源你可以放心地在本地部署和使用所有数据都留在你自己的电脑上。对于注重隐私和安全的笔记场景来说这是最大的优势。2. 环境准备让模型先跑起来我们的第一步是让SmallThinker模型在你的电脑上安家落户并正常工作。这里我们选择用Ollama这个工具它就像是一个专为本地运行大模型设计的“应用商店”和“运行环境”特别适合新手。2.1 安装OllamaOllama的安装非常简单几乎是一键完成。访问官网打开你的浏览器访问 Ollama官网。下载安装根据你的操作系统Windows、macOS 或 Linux点击对应的下载按钮。下载完成后运行安装程序按照提示完成安装。验证安装安装完成后打开你的终端Windows上是命令提示符或PowerShellmacOS/Linux上是Terminal输入以下命令并回车ollama --version如果显示了版本号比如ollama version 0.1.xx恭喜你安装成功了。2.2 拉取并运行SmallThinker模型Ollama安装好后拉取模型就像下载一个软件包一样简单。在终端中输入以下命令ollama run smallthinker:3b-preview第一次运行这个命令时Ollama会自动从云端拉取名为smallthinker:3b-preview的模型文件到你的本地。这会需要一些时间取决于你的网速。下载完成后你会直接进入一个交互式对话界面就像下面这样 你好请介绍一下你自己。你可以直接输入问题模型会立刻回答。输入/bye可以退出这个对话界面。到这里模型已经在你的本地成功运行了但我们现在是通过命令行在和它对话我们的目标是要把它“请进”Obsidian。3. 搭建桥梁创建本地AI API服务Obsidian插件无法直接和Ollama的命令行交互它们通常通过标准的HTTP API应用程序接口来通信。所以我们需要让Ollama提供一个Web服务接口。幸运的是Ollama本身内置了这个功能。我们只需要在启动时告诉它“请打开API端口”。3.1 启动Ollama服务关闭之前可能打开的Ollama对话窗口。在终端中使用以下命令启动Ollama服务ollama serve这个命令会启动一个后台服务并默认在http://localhost:11434这个地址上监听请求。你会看到终端显示服务已启动并保持运行状态。不要关闭这个终端窗口让它一直运行着。3.2 测试API是否通畅打开另一个新的终端窗口我们可以用一个小命令来测试服务是否正常。这里我们用curl这个工具Windows用户可能需要先安装或者使用PowerShell的Invoke-WebRequest。输入以下命令curl http://localhost:11434/api/generate -d { model: smallthinker:3b-preview, prompt: 你好世界, stream: false }如果一切正常你会看到返回一串JSON格式的数据其中就包含了模型对“你好世界”的回复内容。这个测试证明我们的本地AI API已经准备就绪正在11434端口等待调用。4. 连接Obsidian安装并配置AI插件现在舞台已经搭好主角Obsidian该上场了。我们需要一个能连接本地API的插件。这里我推荐使用Text Generator插件它功能强大支持自定义API端点社区活跃。4.1 安装Text Generator插件打开你的Obsidian。进入设置-社区插件-浏览。在搜索框中输入Text Generator。找到插件后点击安装然后启用。4.2 配置插件连接本地Ollama这是最关键的一步告诉插件去哪里找我们的AI。在Obsidian设置中找到已启用的Text Generator插件点击它的设置按钮。找到API Provider或类似的选项选择Custom或OpenAI Compatible。因为Ollama的API设计和OpenAI是兼容的。在API Endpoint(API地址) 中填入http://localhost:11434/v1。注意这里和刚才测试的地址略有不同多了/v1这是为了兼容OpenAI的格式。在API Key中由于Ollama本地服务不需要密钥可以留空或者随意填写如ollama。找到Model或Default Model设置填入smallthinker:3b-preview。保存设置。4.3 进行插件测试配置完成后我们立刻来试一下是否连通。在Obsidian中新建或打开一个笔记。输入一段文字比如“请总结一下机器学习的主要类型”。选中这段文字。按下你设置的快捷键默认可能是CtrlP打开命令面板搜索Text Generator相关命令或者右键菜单中寻找Text Generator: Generate之类的选项。点击后观察笔记页面。如果配置正确插件会调用本地的SmallThinker模型并在你选中的文字下方或替换选中内容生成回答。第一次成功调用时你会感到无比的愉悦——你的私人AI笔记助手正式上岗了5. 实战应用解锁你的智能笔记流插件配置好了但怎么用才能最大化它的价值呢下面分享几个我日常高频使用的场景你可以直接抄作业。5.1 场景一智能内容扩展与头脑风暴当你在笔记中记录了一个初步想法或一个关键词时可以让AI帮你扩展。操作方法选中你的核心想法如“去中心化社交网络的利弊”使用插件的生成功能。效果AI会快速生成一段关于利弊的分析帮你打开思路作为你深入写作的提纲或素材。5.2 场景二文本润色与风格转换写好的段落感觉有点啰嗦或者想换一种文风比如从口语化变成正式报告体。操作方法选中需要处理的段落在命令中指定要求有些插件支持在输入框添加指令。例如选中文本后在插件的输入框里加上“请将这段文字润色得更简洁有力”。效果AI会输出一个优化后的版本你可以对比参考直接采用或融合进原文。5.3 场景三快速摘要与提取要点读了一篇长文把精华部分复制到了Obsidian但想快速抓住核心。操作方法选中整段长文本使用生成功能并提示“请为以上内容生成一个不超过3点的核心摘要”。效果几秒钟内一份清晰的要点列表就呈现在你面前大大提升信息消化效率。5.4 场景四对话式追问与深度思考这是最有价值的用法之一。你可以就一个复杂问题在笔记中和AI进行多轮对话把思考过程记录下来。操作方法先问一个问题让AI生成第一轮回答。接着在它的回答下面写下你的追问或反驳例如“但是你提到的第二点如果考虑XX因素还成立吗”。选中你的追问和它之前的回答再次生成。效果这模拟了一个深度思考的伙伴帮你层层剖析问题最终形成的笔记本身就是一份高质量的思考记录。6. 总结回顾一下我们完成的这件很酷的事我们成功地将一个轻量级开源AI模型SmallThinker-3B-Preview部署在本地并通过Ollama将其转化为API服务最终借助Text Generator插件将它无缝集成到了Obsidian中。整个过程带来的价值是显而易见的完全离线隐私无忧所有数据都在本地处理敏感笔记内容绝不会泄露。即开即用流程无缝无需切换软件思考不中断AI助手就在你的编辑器中。成本极低资源友好SmallThinker模型对硬件要求不高普通电脑都能流畅运行。功能专注体验提升围绕笔记场景的扩展、润色、摘要、对话等需求提供了实实在在的效率工具。你可以从今天介绍的几个基础场景开始慢慢探索更多玩法。比如用AI帮你生成每周复盘模板、为读书笔记自动生成问题清单、甚至辅助编写简单的代码片段。这个本地AI笔记系统的潜力取决于你的想象力。现在就打开你的Obsidian开始构建属于你自己的智能知识库吧。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
SmallThinker-3B-Preview实战教程：集成到Obsidian插件实现本地AI笔记增强
SmallThinker-3B-Preview实战教程集成到Obsidian插件实现本地AI笔记增强你是不是也遇到过这样的场景在Obsidian里整理笔记时突然有个想法需要展开或者一段文字需要润色又或者想快速总结刚读过的内容。这时候你不得不切换到浏览器打开某个在线AI工具复制粘贴等待结果再复制回来。整个过程繁琐不说还打断了你的思考流。如果能有一个AI助手直接在你的笔记软件里工作随时待命那该多好今天我们就来把这个想法变成现实。我们将把一个轻量级但能力不俗的AI模型——SmallThinker-3B-Preview集成到Obsidian中打造一个完全本地运行、无需联网、保护隐私的智能笔记伴侣。1. 为什么选择SmallThinker-3B-Preview在开始动手之前我们先花点时间了解一下今天的主角SmallThinker-3B-Preview。简单来说它是一个只有30亿参数的小模型但你别看它小本事可不小。它是在Qwen2.5-3b-Instruct这个优秀的基础模型上经过专门微调而来的。开发者为它设定了两个主要目标在资源有限的设备上也能跑起来比如你的笔记本电脑甚至是一些性能一般的开发板。这意味着你不需要昂贵的显卡就能享受AI辅助。给更大的模型当“快枪手”在一些复杂的推理任务中它可以作为更大模型如QwQ-32B的“草稿模型”先快速生成一个初稿再由大模型精修据说能提升70%的速度。这背后是它对长链思维COT推理的专项训练。最关键的是它完全开源你可以放心地在本地部署和使用所有数据都留在你自己的电脑上。对于注重隐私和安全的笔记场景来说这是最大的优势。2. 环境准备让模型先跑起来我们的第一步是让SmallThinker模型在你的电脑上安家落户并正常工作。这里我们选择用Ollama这个工具它就像是一个专为本地运行大模型设计的“应用商店”和“运行环境”特别适合新手。2.1 安装OllamaOllama的安装非常简单几乎是一键完成。访问官网打开你的浏览器访问 Ollama官网。下载安装根据你的操作系统Windows、macOS 或 Linux点击对应的下载按钮。下载完成后运行安装程序按照提示完成安装。验证安装安装完成后打开你的终端Windows上是命令提示符或PowerShellmacOS/Linux上是Terminal输入以下命令并回车ollama --version如果显示了版本号比如ollama version 0.1.xx恭喜你安装成功了。2.2 拉取并运行SmallThinker模型Ollama安装好后拉取模型就像下载一个软件包一样简单。在终端中输入以下命令ollama run smallthinker:3b-preview第一次运行这个命令时Ollama会自动从云端拉取名为smallthinker:3b-preview的模型文件到你的本地。这会需要一些时间取决于你的网速。下载完成后你会直接进入一个交互式对话界面就像下面这样 你好请介绍一下你自己。你可以直接输入问题模型会立刻回答。输入/bye可以退出这个对话界面。到这里模型已经在你的本地成功运行了但我们现在是通过命令行在和它对话我们的目标是要把它“请进”Obsidian。3. 搭建桥梁创建本地AI API服务Obsidian插件无法直接和Ollama的命令行交互它们通常通过标准的HTTP API应用程序接口来通信。所以我们需要让Ollama提供一个Web服务接口。幸运的是Ollama本身内置了这个功能。我们只需要在启动时告诉它“请打开API端口”。3.1 启动Ollama服务关闭之前可能打开的Ollama对话窗口。在终端中使用以下命令启动Ollama服务ollama serve这个命令会启动一个后台服务并默认在http://localhost:11434这个地址上监听请求。你会看到终端显示服务已启动并保持运行状态。不要关闭这个终端窗口让它一直运行着。3.2 测试API是否通畅打开另一个新的终端窗口我们可以用一个小命令来测试服务是否正常。这里我们用curl这个工具Windows用户可能需要先安装或者使用PowerShell的Invoke-WebRequest。输入以下命令curl http://localhost:11434/api/generate -d { model: smallthinker:3b-preview, prompt: 你好世界, stream: false }如果一切正常你会看到返回一串JSON格式的数据其中就包含了模型对“你好世界”的回复内容。这个测试证明我们的本地AI API已经准备就绪正在11434端口等待调用。4. 连接Obsidian安装并配置AI插件现在舞台已经搭好主角Obsidian该上场了。我们需要一个能连接本地API的插件。这里我推荐使用Text Generator插件它功能强大支持自定义API端点社区活跃。4.1 安装Text Generator插件打开你的Obsidian。进入设置-社区插件-浏览。在搜索框中输入Text Generator。找到插件后点击安装然后启用。4.2 配置插件连接本地Ollama这是最关键的一步告诉插件去哪里找我们的AI。在Obsidian设置中找到已启用的Text Generator插件点击它的设置按钮。找到API Provider或类似的选项选择Custom或OpenAI Compatible。因为Ollama的API设计和OpenAI是兼容的。在API Endpoint(API地址) 中填入http://localhost:11434/v1。注意这里和刚才测试的地址略有不同多了/v1这是为了兼容OpenAI的格式。在API Key中由于Ollama本地服务不需要密钥可以留空或者随意填写如ollama。找到Model或Default Model设置填入smallthinker:3b-preview。保存设置。4.3 进行插件测试配置完成后我们立刻来试一下是否连通。在Obsidian中新建或打开一个笔记。输入一段文字比如“请总结一下机器学习的主要类型”。选中这段文字。按下你设置的快捷键默认可能是CtrlP打开命令面板搜索Text Generator相关命令或者右键菜单中寻找Text Generator: Generate之类的选项。点击后观察笔记页面。如果配置正确插件会调用本地的SmallThinker模型并在你选中的文字下方或替换选中内容生成回答。第一次成功调用时你会感到无比的愉悦——你的私人AI笔记助手正式上岗了5. 实战应用解锁你的智能笔记流插件配置好了但怎么用才能最大化它的价值呢下面分享几个我日常高频使用的场景你可以直接抄作业。5.1 场景一智能内容扩展与头脑风暴当你在笔记中记录了一个初步想法或一个关键词时可以让AI帮你扩展。操作方法选中你的核心想法如“去中心化社交网络的利弊”使用插件的生成功能。效果AI会快速生成一段关于利弊的分析帮你打开思路作为你深入写作的提纲或素材。5.2 场景二文本润色与风格转换写好的段落感觉有点啰嗦或者想换一种文风比如从口语化变成正式报告体。操作方法选中需要处理的段落在命令中指定要求有些插件支持在输入框添加指令。例如选中文本后在插件的输入框里加上“请将这段文字润色得更简洁有力”。效果AI会输出一个优化后的版本你可以对比参考直接采用或融合进原文。5.3 场景三快速摘要与提取要点读了一篇长文把精华部分复制到了Obsidian但想快速抓住核心。操作方法选中整段长文本使用生成功能并提示“请为以上内容生成一个不超过3点的核心摘要”。效果几秒钟内一份清晰的要点列表就呈现在你面前大大提升信息消化效率。5.4 场景四对话式追问与深度思考这是最有价值的用法之一。你可以就一个复杂问题在笔记中和AI进行多轮对话把思考过程记录下来。操作方法先问一个问题让AI生成第一轮回答。接着在它的回答下面写下你的追问或反驳例如“但是你提到的第二点如果考虑XX因素还成立吗”。选中你的追问和它之前的回答再次生成。效果这模拟了一个深度思考的伙伴帮你层层剖析问题最终形成的笔记本身就是一份高质量的思考记录。6. 总结回顾一下我们完成的这件很酷的事我们成功地将一个轻量级开源AI模型SmallThinker-3B-Preview部署在本地并通过Ollama将其转化为API服务最终借助Text Generator插件将它无缝集成到了Obsidian中。整个过程带来的价值是显而易见的完全离线隐私无忧所有数据都在本地处理敏感笔记内容绝不会泄露。即开即用流程无缝无需切换软件思考不中断AI助手就在你的编辑器中。成本极低资源友好SmallThinker模型对硬件要求不高普通电脑都能流畅运行。功能专注体验提升围绕笔记场景的扩展、润色、摘要、对话等需求提供了实实在在的效率工具。你可以从今天介绍的几个基础场景开始慢慢探索更多玩法。比如用AI帮你生成每周复盘模板、为读书笔记自动生成问题清单、甚至辅助编写简单的代码片段。这个本地AI笔记系统的潜力取决于你的想象力。现在就打开你的Obsidian开始构建属于你自己的智能知识库吧。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。
