Oh My GPU Blog

인프라·운영

배포, 모니터링, 비용과 운영 자동화

2026년 11월 3일은긔

Runpod 글로벌 볼륨, 네트워크 볼륨과 콜드 스타트를 재 보고 안 쓰기로 한 이유

글로벌 볼륨은 데이터센터에 묶이지 않지만, 같은 EU-RO-1에서도 첫 읽기가 네트워크 볼륨의 약 6분의 1이라 서버리스 cold 요청이 2배 넘게 느려졌습니다. 그래서 둘 다 대신 Runpod 모델 캐시를 계속 씁니다.

2026년 10월 5일은긔

같은 H3 워크플로를 두 곳에 올려 보니 생성 단계는 같았고, 30초 차이는 torch 버전과 GPU 서버에서, 비용 차이는 1.3배 단가에서 나왔습니다.

2026년 9월 12일은긔

MiniMax H3 승인을 직접 받아보며, 한국에서 오픈웨이트 모델을 사용할 때 파일 접근과 실제 사용 권한이 왜 다른 문제인지 정리했습니다.

2026년 8월 30일은긔

B200 두 장에 Qwen3.8 Flash Next NVFP4를 올리면 어디까지 서비스할 수 있을까요? 처리량이 멈춘 지점과 지연 시간이 급격히 늘어난 지점을 나눠 확인했습니다.

2026년 8월 30일은긔

LTX-2.5 I2V로 확인한 RTX 5090과 RTX PRO 6000 3프로세스의 실제 처리량·VRAM·비용 비교

2026년 8월 24일은긔

Qwen3.8-27B에서 Network Volume에 저장한 vLLM 컴파일·커널 캐시가 새 Serverless 워커에서도 재사용되는지 확인한 실험입니다.