当前位置:首页 > 大杂烩 > 正文内容

查看每张显卡的总显存和已使用显存大小

高老师1周前 (10-21)大杂烩19

执行命令如下:

nvidia-smi --query-gpu=index,name,memory.total,memory.used --format=csv,noheader,nounits

输出信息如下:

0, NVIDIA L20, 46068, 34071
1, NVIDIA L20, 46068, 22372
2, NVIDIA L20, 46068, 13
3, NVIDIA L20, 46068, 13
4, NVIDIA L20, 46068, 13
5, NVIDIA L20, 46068, 13
6, NVIDIA L20, 46068, 13
7, NVIDIA L20, 46068, 587

一眼看懂占用情况(单位 GiB)

表格
复制
GPU总容量已用剩余状态
045 GB33.3 GB≈ 11 GB高负载
145 GB21.8 GB≈ 23 GB中负载
245 GB0.01 GB≈ 45 GB✅ 完全空闲
345 GB0.01 GB≈ 45 GB✅ 完全空闲
445 GB0.01 GB≈ 45 GB✅ 完全空闲
545 GB0.01 GB≈ 45 GB✅ 完全空闲
645 GB0.01 GB≈ 45 GB✅ 完全空闲
745 GB0.6 GB≈ 44 GB✅ 几乎空闲

Ollama不支持多卡负载,很容易吃完单卡,建议用pytorch来加载

扫描二维码推送至手机访问。

版权声明:本文由高久峰个人博客发布,如需转载请注明出处。

本文链接:https://blog.20230611.cn/post/913.html

分享给朋友:

“查看每张显卡的总显存和已使用显存大小” 的相关文章

c#中string和StringBuilder效率对比

c#中string和StringBuilder效率对比

    c#中string和StringBuilder直接看看执行速度。(2).String类型累计赋值Test               ...

Application的错误使用

Application的错误使用

Application 对象用于存储和访问来自任意页面的变量,类似 Session 对象。不同之处在于所有的用户分享一个 Application 对象,而 session 对象和用户的关系是一一对应的。很多的书籍中介绍的Application对象都喜欢以统计在线人数来介绍Application 对象...

Git从远程仓库更新文件

Git从远程仓库更新文件

 git   pull  https://git.oschina.net/392223903/learn.git   master   换为您的git地址...

c#中文简体转换繁体

c#中文简体转换繁体

private const string fantizi = "高久峰是個程序員"; private const string jiantizi = "高久峰是个程序员...

IE浏览器无法显示此页解决方案

IE浏览器无法显示此页解决方案

方案1.IE浏览器"无法显示此页"的解决办法(1).按下Win+R键打开运行,输入netsh winsock reset,回车;(2).重启即可. 方案2.IE浏览器"无法显示此页"的解决办法 (1).设置-连接-局域网设置-自动检测设置开...

IIS7.0无法加载CSS的处理办法

IIS7.0无法加载CSS的处理办法

首先网页全部是纯静态的文件,本地测试正常访问,服务器端无法加载CSS,并且无法查看CSS文件的内容。 解决方案:关闭网站的压缩->>静态压缩和动态压缩...