查看每张显卡的总显存和已使用显存大小
执行命令如下：
nvidia-smi --query-gpu=index,name,memory.total,memory.used --format=csv,noheader,nounits
输出信息如下：
0, NVIDIA L20, 46068, 34071 1, NVIDIA L20, 46068, 22372 2, NVIDIA L20, 46068, 13 3, NVIDIA L20, 46068, 13 4, NVIDIA L20, 46068, 13 5, NVIDIA L20, 46068, 13 6, NVIDIA L20, 46068, 13 7, NVIDIA L20, 46068, 587
一眼看懂占用情况（单位 GiB）
| GPU | 总容量 | 已用 | 剩余 | 状态 |
|---|---|---|---|---|
| 0 | 45 GB | 33.3 GB | ≈ 11 GB | 高负载 |
| 1 | 45 GB | 21.8 GB | ≈ 23 GB | 中负载 |
| 2 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 3 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 4 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 5 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 6 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 7 | 45 GB | 0.6 GB | ≈ 44 GB | ✅ 几乎空闲 |
Ollama不支持多卡负载，很容易吃完单卡，建议用pytorch来加载
“查看每张显卡的总显存和已使用显存大小” 的相关文章
c#中string和StringBuilder效率对比
c#中string和StringBuilder直接看看执行速度。(2).String类型累计赋值Test ...
svn自动更新到网站
【一】.钩子文件的设置和创建(1).打开hooks目录，可以看到有一个post-commit.tmpl文件，这是一个模板文件。复制一份，重命名为post-commit，将其用户组设为www，并设置为可执行。chown www:www post-commitchmod +x post-commit(2...
Git本地仓库学习
1.全局用户信息设置 git config --global user.name gaojiufeng git config --global user.email 392223903...
PHP安装mongodb扩展
在安装之前我们先看看官方给出的依赖关系.首先是dll文件和mongodb软件的依赖关系然后是PHP文件和dll的依赖关系我的是phpstudy的集成环境PHP5.4.45 NTS+Apache+Mysql【一】.安装mongodb3.0软件对比依赖关系下载mongodb3.0.msi软件,完整名称:...
c#关闭计算机的代码
1.关机Process.Start("shutdown", "-s -t 0"); 2. 注销 Proc...
C# md5加密,C# md5加密代码
public static string GetMD5(string str) { //创建MD5对象 MD5 md5 = MD5.C...