vLLM 部署 Qwen3-VL-32B-Thinking 模型 reasoning_content 为空问题解决记录
Qwen3-VL-32B-Thinking 模型的输出格式实际上遵循 DeepSeek-R1 格式，而不是标准的 Qwen3 格式。
修改启动脚本：将 --reasoning-parser 从 qwen3 改为 deepseek_r1
参考代码：
nohup env SSL_CERT_FILE=/etc/ssl/certs/ca-certificates.crt \ python -m vllm.entrypoints.openai.api_server \ --model /root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-32B-Thinking \ --reasoning-parser deepseek_r1 \ --tensor-parallel-size 8 >log.txt 2>&1 &
“vLLM 部署 Qwen3-VL-32B-Thinking 模型 reasoning_content 为空问题解决记录” 的相关文章
svn自动更新到网站
【一】.钩子文件的设置和创建(1).打开hooks目录，可以看到有一个post-commit.tmpl文件，这是一个模板文件。复制一份，重命名为post-commit，将其用户组设为www，并设置为可执行。chown www:www post-commitchmod +x post-commit(2...
PHP安装mongodb扩展
在安装之前我们先看看官方给出的依赖关系.首先是dll文件和mongodb软件的依赖关系然后是PHP文件和dll的依赖关系我的是phpstudy的集成环境PHP5.4.45 NTS+Apache+Mysql【一】.安装mongodb3.0软件对比依赖关系下载mongodb3.0.msi软件,完整名称:...
Git从远程仓库更新文件
git pull https://git.oschina.net/392223903/learn.git master 换为您的git地址...
redis安装教程
1.文件redis-2.6.14.tar.gz的上传 /home/john/创建rdtar文件夹 上传redis-2.6.14.tar.gz至rdtar文件夹 2.解压文件 cd /home/john/rdtar tar &n...
nginx配置https,nginx ssl配置
首先在阿里云申请免费的证书，选择自动生成证书。然后就是nginx虚拟主机配置文件的修改。以下是我的配置文件(因为公司开发小程序,没有办法只能使用https)。您只需要关注带有ssl的配置选项，我增加了一个监听80和443的端口，同时增加了http跳转https的配置server &nbs...
VMware CentOS网络连接设置
1.设置桥接模式,复制物理网络状态2.编辑/etc/sysconfig/network-scripts/ifcfg-eth0以下配置:(如果没有自己创建对应选项)ONBOOT=yes NM_CONTROLLED=noBOOTPROTO=staticIPADDR=192.168.2.240...