The GPU memory usage shown by executing nvidia-smi in the container is different from that shown by executing nvidia-smi on the host machine.

[luohua13]

在一个pod 申请了两个 GPU，每个GPU 使用内存 10G，并且跑了两个应用。
在宿主机执行 nvidia-smi

在容器内执行 nvidia-smi

容器内显示显存一共占用10G 在 0 卡上，宿主机上显示 0 1 卡共使用 10G 显存

问题：
为什么在容器内和宿主机看到的显存占用信息不一样？

Environment:

• HAMi version: v2.5.0
• Kubernetes version: 1.25.0

[coldzerofear]

你可能遇到了和我相同的问题，可能你跑的两个应用分别使用CUDA_VISIBLE_DEVICES环境变量指向了不同的显卡uuid，此时对于hami-core来说，两张卡都是卡0 #320