vLLM 部署 Qwen3-VL-32B-Thinking 模型 reasoning_content 为空问题解决记录
Qwen3-VL-32B-Thinking 模型的输出格式实际上遵循 DeepSeek-R1 格式，而不是标准的 Qwen3 格式。
修改启动脚本：将 --reasoning-parser 从 qwen3 改为 deepseek_r1
参考代码：
nohup env SSL_CERT_FILE=/etc/ssl/certs/ca-certificates.crt \ python -m vllm.entrypoints.openai.api_server \ --model /root/.cache/modelscope/hub/models/Qwen/Qwen3-VL-32B-Thinking \ --reasoning-parser deepseek_r1 \ --tensor-parallel-size 8 >log.txt 2>&1 &
“vLLM 部署 Qwen3-VL-32B-Thinking 模型 reasoning_content 为空问题解决记录” 的相关文章
c#中string和StringBuilder效率对比
c#中string和StringBuilder直接看看执行速度。(2).String类型累计赋值Test ...
svn自动更新到网站
【一】.钩子文件的设置和创建(1).打开hooks目录，可以看到有一个post-commit.tmpl文件，这是一个模板文件。复制一份，重命名为post-commit，将其用户组设为www，并设置为可执行。chown www:www post-commitchmod +x post-commit(2...
Git推送文件到远程仓库
1.远程仓库的协作模式开发者把自己最新的版本推到线上仓库,同时把线上仓库的最新代码,拉到自己本地即可2.注册git帐号国外: http://www.github.com国内: http://git.oschina.net2.在码云创建项目,不要初始化readmegit push https://gi...
Git日志查看和版本切换
日志查看:git log版本切换:方式1：git reset --hard HEAD^ 倒退一个版本git reset --hard HEAD^^ 倒退两个版本方式2：(版本号的形式,建议版本号码补充完...
c#关闭计算机的代码
1.关机Process.Start("shutdown", "-s -t 0"); 2. 注销 Proc...
IIS7.0无法加载CSS的处理办法
首先网页全部是纯静态的文件,本地测试正常访问,服务器端无法加载CSS,并且无法查看CSS文件的内容。 解决方案:关闭网站的压缩->>静态压缩和动态压缩...