本文介绍了阿里巴巴通义实验室发布的最新大模型 Qwen3.5该模型在推理、编程、智能体能力与多模态理解等基准测试中表现优异。文章详细阐述了 Qwen3.5-27B 模型的本地部署过程包括安装 vLLM 计算引擎、下载模型、启动 API 服务等步骤并提供了使用 curl、Python OpenAI 和 LangChain 等方式连接测试的实例。此外还展示了模型在图片理解方面的能力。通过本文读者可以快速掌握 Qwen3.5 的安装和使用方法为提升生产力打下坚实基础。一、Qwen3.5 简介Qwen3.5系列是阿里巴巴通义实验室于2026年2月发布的最新迭代大模型属于原生视觉-语言模型在推理、编程、智能体能力与多模态理解等全方位基准评估中表现优异有效助力开发者与企业显著提升生产力。下面是Qwen3不同尺寸模型具体的基准测试结果可以发现轻量级的Qwen3.5-27B在多项权威基准测试中展现出超越部分更大规模模型的卓越性能整体表现比肩GPT-5-mini 2025-08-27模型。1. 自然语言2. 视觉语言下面主要借助vLLM计算引擎本地私有化部署Qwen3.5-27B模型其中核心依赖版本如下vllm0.16.1rc1.dev37g4fec53cfc torch2.10.0cu129 torchvision0.25.0cu129 transformers4.57.6 modelscope1.34.0二、Qwen3.5-27B 本地部署2.1 安装 vLLMuv pip install vllm --torch-backendauto --extra-index-url https://wheels.vllm.ai/nightly安装结束后可验证是否安装正常vllm -v2.2 下载模型这里使用modelscope快速下载到本地modelscope download --modelQwen/Qwen3.5-27B --local_dir Qwen3.5-27B2.3 启动API服务export CUDA_VISIBLE_DEVICES0,1 vllm serve Qwen3.5-27B / --host 0.0.0.0 / --port 8000 / --dtype bfloat16 / --tensor-parallel-size 2 / --cpu-offload-gb 0 / --gpu-memory-utilization 0.8 / --max-model-len 32768 / --api-key token-abc123 / --enable-prefix-caching / --reasoning-parser qwen3 / --enable-auto-tool-choice / --tool-call-parser qwen3_coder / --trust-remote-code关键参数说明参数说明export CUDA_VISIBLE_DEVICES0,1指定使用的GPU设备dtype数据类型其中bfloat1616位浮点数适合NVIDIA A100等设备tensor-parallel-sizeTensor并行的数量当多GPU分布式推理时使用建议和GPU的数量一致cpu-offload-gb允许将部分模型权重或中间结果卸载到CPU的内存中单位为GB。模拟GPU内存扩展如果部署的模型大于了显存大小可以设置该参数但是推理速度会大大下降gpu-memory-utilization设置GPU内存利用率的上限max-model-len允许模型最大处理的Token数该参数越大占用显存越大api-keyAPI认证密钥enable-prefix-caching启用前缀缓存减少重复计算reasoning-parser指定推理解析器enable-auto-tool-choice启用自动工具选择tool-call-parser工具调用解析器显存使用情况如果启动显存不足可适当调整gpu-memory-utilization和max-model-len参数或通过cpu-offload-gb将部分模型权重卸载到内存中。启动后可通过/v1/models接口可查看模型列表curl http://127.0.0.1:8000/v1/models -H Authorization: Bearer token-abc123三、Qwen3.5-27B 模型使用测试3.1 curl 连接测试测试API交互curl http://127.0.0.1:8000/v1/chat/completions / -H Content-Type: application/json / -H Authorization: Bearer token-abc123 / -d { model: Qwen3.5-27B, messages: [ {role: system, content: You are a helpful assistant.}, {role: user,content: 你是谁你认识小毕超吗} ] }Qwen3.5模型默认以思考模式运行在生成最终回答前会输出由think/n...//think/n/n标记的思考内容该过程已由计算引擎自动转换思考内容在reasoning字段中体现。Qwen3.5不支持类似Qwen3的软切换功能如/think和/nothink。如果需要禁用思考直接输出最终回答可在请求体中添加参数chat_template_kwargs: {enable_thinking: false}完整的请求如下所示curl http://127.0.0.1:8000/v1/chat/completions / -H Content-Type: application/json / -H Authorization: Bearer token-abc123 / -d { model: Qwen3.5-27B, messages: [ {role: system, content: You are a helpful assistant.}, {role: user, content: 你是谁你认识小毕超吗} ], chat_template_kwargs: {enable_thinking: false} }3.2 Python OpenAI 连接测试from openai import OpenAI client OpenAI( base_urlhttp://127.0.0.1:8000/v1/, api_keytoken-abc123 ) chat_response client.chat.completions.create( modelQwen3.5-27B, messages[ {role: system, content: You are a helpful assistant.}, {role: user, content: 你是谁你认识小毕超吗} ], max_tokens1024, temperature0.7, top_p0.8, presence_penalty1.5, extra_body{ top_k: 20, chat_template_kwargs: {enable_thinking: False}, }, ) print(Chat response:, chat_response)3.3 Python LangChain连接测试import os os.environ[OPENAI_BASE_URL] http://127.0.0.1:8000/v1/ os.environ[OPENAI_API_KEY] token-abc123 from langchain.chat_models import init_chat_model llm init_chat_model( fopenai:Qwen3.5-27B, temperature0.7, extra_body{ chat_template_kwargs: {enable_thinking: False} } ) print(Chat response:, llm.invoke(你是谁你认识小毕超吗))3.4 Cherry Studio 连接测试添加一个OpenAI类型提供商配置API地址和密钥然后点击管理增加模型选用该模型问答3.5 图片理解测试最后如果说程序员已经是高薪职业那么干AI的程序员就是高薪中的高薪。现在的市场已经用数据给程序员指明了方向学AI大模型就是冲刺高薪的最优解看着身边越来越多的同行转型大模型、拿到高薪offer很多人心里都动了心但真正的难题来了零基础小白不知道从哪入门有基础的程序员找不到系统学习路径实战项目练手无门面试不知道考什么别慌今天就给大家整理了一份【2026年最新版】AI大模型免费学习资源包覆盖从入门到实战、从理论到面试、从基础到进阶的全流程所有资料均已整理归档无冗余、无套路免费分享给每一位想抓住AI风口的程序员和小白扫码免费领取全部内容1、大模型系统化学习路线2、大模型学习书籍文档3、AI大模型最新行业报告4、大模型项目实战配套源码5、大模型大厂面试真题四阶段精细化学习规划附时间节点可直接照做结合上述资源给大家整理了一份可直接落地的四阶段学习规划总时长约2个月小白可循序渐进程序员可根据自身基础调整节奏高效掌握大模型核心能力快速实现从“入门”到“能落地、能面试”的跨越。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容6、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】https://mp.weixin.qq.com/s/2P64VRSHoOz31E2oAT_ZpQ
收藏！小白程序员轻松入门大模型：Qwen3.5 安装与使用全攻略
本文介绍了阿里巴巴通义实验室发布的最新大模型 Qwen3.5该模型在推理、编程、智能体能力与多模态理解等基准测试中表现优异。文章详细阐述了 Qwen3.5-27B 模型的本地部署过程包括安装 vLLM 计算引擎、下载模型、启动 API 服务等步骤并提供了使用 curl、Python OpenAI 和 LangChain 等方式连接测试的实例。此外还展示了模型在图片理解方面的能力。通过本文读者可以快速掌握 Qwen3.5 的安装和使用方法为提升生产力打下坚实基础。一、Qwen3.5 简介Qwen3.5系列是阿里巴巴通义实验室于2026年2月发布的最新迭代大模型属于原生视觉-语言模型在推理、编程、智能体能力与多模态理解等全方位基准评估中表现优异有效助力开发者与企业显著提升生产力。下面是Qwen3不同尺寸模型具体的基准测试结果可以发现轻量级的Qwen3.5-27B在多项权威基准测试中展现出超越部分更大规模模型的卓越性能整体表现比肩GPT-5-mini 2025-08-27模型。1. 自然语言2. 视觉语言下面主要借助vLLM计算引擎本地私有化部署Qwen3.5-27B模型其中核心依赖版本如下vllm0.16.1rc1.dev37g4fec53cfc torch2.10.0cu129 torchvision0.25.0cu129 transformers4.57.6 modelscope1.34.0二、Qwen3.5-27B 本地部署2.1 安装 vLLMuv pip install vllm --torch-backendauto --extra-index-url https://wheels.vllm.ai/nightly安装结束后可验证是否安装正常vllm -v2.2 下载模型这里使用modelscope快速下载到本地modelscope download --modelQwen/Qwen3.5-27B --local_dir Qwen3.5-27B2.3 启动API服务export CUDA_VISIBLE_DEVICES0,1 vllm serve Qwen3.5-27B / --host 0.0.0.0 / --port 8000 / --dtype bfloat16 / --tensor-parallel-size 2 / --cpu-offload-gb 0 / --gpu-memory-utilization 0.8 / --max-model-len 32768 / --api-key token-abc123 / --enable-prefix-caching / --reasoning-parser qwen3 / --enable-auto-tool-choice / --tool-call-parser qwen3_coder / --trust-remote-code关键参数说明参数说明export CUDA_VISIBLE_DEVICES0,1指定使用的GPU设备dtype数据类型其中bfloat1616位浮点数适合NVIDIA A100等设备tensor-parallel-sizeTensor并行的数量当多GPU分布式推理时使用建议和GPU的数量一致cpu-offload-gb允许将部分模型权重或中间结果卸载到CPU的内存中单位为GB。模拟GPU内存扩展如果部署的模型大于了显存大小可以设置该参数但是推理速度会大大下降gpu-memory-utilization设置GPU内存利用率的上限max-model-len允许模型最大处理的Token数该参数越大占用显存越大api-keyAPI认证密钥enable-prefix-caching启用前缀缓存减少重复计算reasoning-parser指定推理解析器enable-auto-tool-choice启用自动工具选择tool-call-parser工具调用解析器显存使用情况如果启动显存不足可适当调整gpu-memory-utilization和max-model-len参数或通过cpu-offload-gb将部分模型权重卸载到内存中。启动后可通过/v1/models接口可查看模型列表curl http://127.0.0.1:8000/v1/models -H Authorization: Bearer token-abc123三、Qwen3.5-27B 模型使用测试3.1 curl 连接测试测试API交互curl http://127.0.0.1:8000/v1/chat/completions / -H Content-Type: application/json / -H Authorization: Bearer token-abc123 / -d { model: Qwen3.5-27B, messages: [ {role: system, content: You are a helpful assistant.}, {role: user,content: 你是谁你认识小毕超吗} ] }Qwen3.5模型默认以思考模式运行在生成最终回答前会输出由think/n...//think/n/n标记的思考内容该过程已由计算引擎自动转换思考内容在reasoning字段中体现。Qwen3.5不支持类似Qwen3的软切换功能如/think和/nothink。如果需要禁用思考直接输出最终回答可在请求体中添加参数chat_template_kwargs: {enable_thinking: false}完整的请求如下所示curl http://127.0.0.1:8000/v1/chat/completions / -H Content-Type: application/json / -H Authorization: Bearer token-abc123 / -d { model: Qwen3.5-27B, messages: [ {role: system, content: You are a helpful assistant.}, {role: user, content: 你是谁你认识小毕超吗} ], chat_template_kwargs: {enable_thinking: false} }3.2 Python OpenAI 连接测试from openai import OpenAI client OpenAI( base_urlhttp://127.0.0.1:8000/v1/, api_keytoken-abc123 ) chat_response client.chat.completions.create( modelQwen3.5-27B, messages[ {role: system, content: You are a helpful assistant.}, {role: user, content: 你是谁你认识小毕超吗} ], max_tokens1024, temperature0.7, top_p0.8, presence_penalty1.5, extra_body{ top_k: 20, chat_template_kwargs: {enable_thinking: False}, }, ) print(Chat response:, chat_response)3.3 Python LangChain连接测试import os os.environ[OPENAI_BASE_URL] http://127.0.0.1:8000/v1/ os.environ[OPENAI_API_KEY] token-abc123 from langchain.chat_models import init_chat_model llm init_chat_model( fopenai:Qwen3.5-27B, temperature0.7, extra_body{ chat_template_kwargs: {enable_thinking: False} } ) print(Chat response:, llm.invoke(你是谁你认识小毕超吗))3.4 Cherry Studio 连接测试添加一个OpenAI类型提供商配置API地址和密钥然后点击管理增加模型选用该模型问答3.5 图片理解测试最后如果说程序员已经是高薪职业那么干AI的程序员就是高薪中的高薪。现在的市场已经用数据给程序员指明了方向学AI大模型就是冲刺高薪的最优解看着身边越来越多的同行转型大模型、拿到高薪offer很多人心里都动了心但真正的难题来了零基础小白不知道从哪入门有基础的程序员找不到系统学习路径实战项目练手无门面试不知道考什么别慌今天就给大家整理了一份【2026年最新版】AI大模型免费学习资源包覆盖从入门到实战、从理论到面试、从基础到进阶的全流程所有资料均已整理归档无冗余、无套路免费分享给每一位想抓住AI风口的程序员和小白扫码免费领取全部内容1、大模型系统化学习路线2、大模型学习书籍文档3、AI大模型最新行业报告4、大模型项目实战配套源码5、大模型大厂面试真题四阶段精细化学习规划附时间节点可直接照做结合上述资源给大家整理了一份可直接落地的四阶段学习规划总时长约2个月小白可循序渐进程序员可根据自身基础调整节奏高效掌握大模型核心能力快速实现从“入门”到“能落地、能面试”的跨越。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…扫码免费领取全部内容6、这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】https://mp.weixin.qq.com/s/2P64VRSHoOz31E2oAT_ZpQ
