반응형
여러 모델을 동시에 돌리고 싶은데 메모리 얼마나 차지하는지 확인하고 싶을 때 명령어
watch -n 1 nvidia-smi
가운데 Memory-Usage로 판단할 수 있다.
16787/32510이니까 반 정도 썼음
아직 여유가 있으므로 배치사이즈나 파라미터가 작은 모델을 돌릴 수 있다.
이 사진은 32237/32510으로 거의 한계에 가깝게 쓰는 모습
반응형
'Boostcamp AI tech 3기 > Boostcamp 이모저모' 카테고리의 다른 글
| pstage - 서버 메모리 확인과 비우는 방법 df -H (0) | 2022.03.27 |
|---|