查看每张显卡的总显存和已使用显存大小
执行命令如下：
nvidia-smi --query-gpu=index,name,memory.total,memory.used --format=csv,noheader,nounits
输出信息如下：
0, NVIDIA L20, 46068, 34071 1, NVIDIA L20, 46068, 22372 2, NVIDIA L20, 46068, 13 3, NVIDIA L20, 46068, 13 4, NVIDIA L20, 46068, 13 5, NVIDIA L20, 46068, 13 6, NVIDIA L20, 46068, 13 7, NVIDIA L20, 46068, 587
一眼看懂占用情况（单位 GiB）
| GPU | 总容量 | 已用 | 剩余 | 状态 |
|---|---|---|---|---|
| 0 | 45 GB | 33.3 GB | ≈ 11 GB | 高负载 |
| 1 | 45 GB | 21.8 GB | ≈ 23 GB | 中负载 |
| 2 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 3 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 4 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 5 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 6 | 45 GB | 0.01 GB | ≈ 45 GB | ✅ 完全空闲 |
| 7 | 45 GB | 0.6 GB | ≈ 44 GB | ✅ 几乎空闲 |
Ollama不支持多卡负载，很容易吃完单卡，建议用pytorch来加载
“查看每张显卡的总显存和已使用显存大小” 的相关文章
svn自动更新到网站
【一】.钩子文件的设置和创建(1).打开hooks目录，可以看到有一个post-commit.tmpl文件，这是一个模板文件。复制一份，重命名为post-commit，将其用户组设为www，并设置为可执行。chown www:www post-commitchmod +x post-commit(2...
Git本地仓库学习
1.全局用户信息设置 git config --global user.name gaojiufeng git config --global user.email 392223903...
PHP安装mongodb扩展
在安装之前我们先看看官方给出的依赖关系.首先是dll文件和mongodb软件的依赖关系然后是PHP文件和dll的依赖关系我的是phpstudy的集成环境PHP5.4.45 NTS+Apache+Mysql【一】.安装mongodb3.0软件对比依赖关系下载mongodb3.0.msi软件,完整名称:...
Git推送文件到远程仓库
1.远程仓库的协作模式开发者把自己最新的版本推到线上仓库,同时把线上仓库的最新代码,拉到自己本地即可2.注册git帐号国外: http://www.github.com国内: http://git.oschina.net2.在码云创建项目,不要初始化readmegit push https://gi...
Git从远程仓库更新文件
git pull https://git.oschina.net/392223903/learn.git master 换为您的git地址...
c#关闭计算机的代码
1.关机Process.Start("shutdown", "-s -t 0"); 2. 注销 Proc...