查看每张显卡的总显存和已使用显存大小
执行命令如下：
nvidia-smi --query-gpu=index,name,memory.total,memory.used --format=csv,noheader,nounits
输出信息如下：
0, NVIDIA L20, 46068, 34071 1, NVIDIA L20, 46068, 22372 2, NVIDIA L20, 46068, 13 3, NVIDIA L20, 46068, 13 4, NVIDIA L20, 46068, 13 5, NVIDIA L20, 46068, 13 6, NVIDIA L20, 46068, 13 7, NVIDIA L20, 46068, 587
一眼看懂占用情况（单位 GiB）
| GPU | 总容量 | 已用 | 剩余 | 状态 |
|---|---|---|---|---|
| 0 | 45 GB | 33.3 GB | ≈ 11 GB | 高负载 |
| 1 | 45 GB | 21.8 GB | ≈ 23 GB | 中负载 |
| 2 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 3 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 4 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 5 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 6 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 7 | 45 GB | 0.6 GB | ≈ 44 GB | ✅ 几乎空闲 |
Ollama不支持多卡负载，很容易吃完单卡，建议用pytorch来加载
“查看每张显卡的总显存和已使用显存大小” 的相关文章
c#中string和StringBuilder效率对比
c#中string和StringBuilder直接看看执行速度。(2).String类型累计赋值Test ...
Application的错误使用
Application 对象用于存储和访问来自任意页面的变量，类似 Session 对象。不同之处在于所有的用户分享一个 Application 对象，而 session 对象和用户的关系是一一对应的。很多的书籍中介绍的Application对象都喜欢以统计在线人数来介绍Application 对象...
c#关闭计算机的代码
1.关机Process.Start("shutdown", "-s -t 0"); 2. 注销 Proc...
vsftp 命令,vsftp常用操作命令
vsftp常用操作命令:1.启动vsftp: service vsftpd start 2.重启vsftp: service vsftpd restart3.修改用户密码:passwd lao8org4.创建用户:useradd -d /data/wwwroot/blog -s /sbin...
VMware CentOS网络连接设置
1.设置桥接模式,复制物理网络状态2.编辑/etc/sysconfig/network-scripts/ifcfg-eth0以下配置:(如果没有自己创建对应选项)ONBOOT=yes NM_CONTROLLED=noBOOTPROTO=staticIPADDR=192.168.2.240...
redis所有key命令,redis key命令
1.设置key的value set name gao2.获取key的value get name3.删除key del key1 key2 ... Keyn4.修...