vLLM 部署 Qwen3-VL-32B-Thinking 模型 reasoning_content 为空问题解决记录
Qwen3-VL-32B-Thinking 模型的输出格式实际上遵循 DeepSeek-R1 格式，而不是标准的 Qwen3 格式。修改启动脚本：将 --reasoning-parser 从 qwen3 改为 deepseek_r1参考代码：nohup env SSL_CERT_...
微信群二维码怎么长期有效,微信群二维码怎么生成永久的
我的小程序需要创建1个微信群，方便我和用户快速沟通问题。但是我发现每7天都得换二维码。实在太麻烦了，于是我写了一个python脚本来实现自动获取微信群二维码并且自动更新数据库的微信群图片地址。自动打开微信，搜索到微信群，获取二维码进行截图上传截图到文件服务器ftp获取到图片地址...
vllm运行qwen3_vl_32B大模型错误问题记录
错误信息如下：-k sampling. For the best performance, please install FlashInfer. (Worker_TP0 pid=3295275) I...
使用开源thinker题库用户更新一下服务器头像域名地址
原来的静态资源服务器域名切换了。UPDATE think_userSET avatar = REPLACE(avatar, 'https://learnfile.20230611.cn', 'https://file...
查看每张显卡的总显存和已使用显存大小
执行命令如下：nvidia-smi --query-gpu=index,name,memory.total,memory.used --format=csv,noheader,nounits输出信息如下：0, NVIDIA L20, 46068,&n...
torch指定GPU来运行大模型
早上发现本地私有化的大模型崩了，显存吃满，我想了下8卡L20怎么会呢？查看了下默认绑定的是0卡，手动设置到7卡去torch.cuda.set_device(7)...
modelscope Qwen/Qwen3-VL-8B-Instruct ValueError: Image features and image tokens do not match: tok
使用modelscope推理Qwen/Qwen3-VL-8B-Instruct报错如下信息,官方例子会有这个报错：ValueError: Image features and image tokens do not ma...
飞书智能合作伙伴平台aily添加多维表格记录人员的写法
飞书多维表格人员类型笔记记录 在飞书多维表格的使用场景中，涉及到人员类型相关记录时，有这样的关键配置：在数据表列字段内容设置里，采用了特定的 JSON 格式数据 [{"id": "{{ _message.sender.openID }}"}] 。这里的 _message.sender.openID...
利用 SSH 反向隧道实现树莓派本地服务的公网访问
利用SSH反向隧道实现树莓派本地服务的公网访问（补充版） 在物联网开发中，我们经常需要将本地设备（如树莓派）上运行的服务暴露到公网，方便远程访问和管理。本文将详细介绍如何使用SSH反向隧道技术，通过一台公网服务器作为跳板，实现从公网访问树莓派本地服务的目的，并补充SSH配置文件的编辑细节，确保操作更...