vLLM 部署 Qwen3-VL-32B-Thinking 模型 reasoning_content 为空问题解决记录
Qwen3-VL-32B-Thinking 模型的输出格式实际上遵循 DeepSeek-R1 格式，而不是标准的 Qwen3 格式。
修改启动脚本：将 --reasoning-parser 从 qwen3 改为 deepseek_r1
参考代码：
nohup env SSL_CERT_FILE=/etc/ssl/certs/ca-certificates.crt \ python -m vllm.entrypoints.openai.api_server \ --model /root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-32B-Thinking \ --reasoning-parser deepseek_r1 \ --tensor-parallel-size 8 >log.txt 2>&1 &
“vLLM 部署 Qwen3-VL-32B-Thinking 模型 reasoning_content 为空问题解决记录” 的相关文章
c#中string和StringBuilder效率对比
c#中string和StringBuilder直接看看执行速度。(2).String类型累计赋值Test ...
svn自动更新到网站
【一】.钩子文件的设置和创建(1).打开hooks目录，可以看到有一个post-commit.tmpl文件，这是一个模板文件。复制一份，重命名为post-commit，将其用户组设为www，并设置为可执行。chown www:www post-commitchmod +x post-commit(2...
Git本地仓库学习
1.全局用户信息设置 git config --global user.name gaojiufeng git config --global user.email 392223903...
Git日志查看和版本切换
日志查看:git log版本切换:方式1：git reset --hard HEAD^ 倒退一个版本git reset --hard HEAD^^ 倒退两个版本方式2：(版本号的形式,建议版本号码补充完...
c#关闭计算机的代码
1.关机Process.Start("shutdown", "-s -t 0"); 2. 注销 Proc...
redis安装教程
1.文件redis-2.6.14.tar.gz的上传 /home/john/创建rdtar文件夹 上传redis-2.6.14.tar.gz至rdtar文件夹 2.解压文件 cd /home/john/rdtar tar &n...