Oh My GPU Blog
LLM 서빙, GPU 하드웨어, 생성 AI와 운영 과정을 튜토리얼·벤치마크·리뷰로 정리합니다.
H100 한 장에서 Prism과 Kandinsky 6의 기법을 하나씩 켜고 꺼 봤습니다. 720p 5초 조건에서 생성 시간을 실제로 줄인 건 sparsity와 증류였고, Prism 동적 블록은 속도를 거의 바꾸지 않았습니다.
읽어보기
RTX PRO 6000 한 장에서 MiniMax H3로 5.1667초 영상을 5.492초에 생성하고 저장했습니다. 엄격한 실시간까지 남은 0.325초와 재현 방법을 확인했습니다.
읽어보기
B200 두 장에 Qwen3.8 Flash Next NVFP4를 올리면 어디까지 서비스할 수 있을까요? 처리량이 멈춘 지점과 지연 시간이 급격히 늘어난 지점을 나눠 확인했습니다.
읽어보기
LTX-2.5 I2V로 확인한 RTX 5090과 RTX PRO 6000 3프로세스의 실제 처리량·VRAM·비용 비교
읽어보기
Qwen3.8-27B에서 Network Volume에 저장한 vLLM 컴파일·커널 캐시가 새 Serverless 워커에서도 재사용되는지 확인한 실험입니다.
읽어보기
LTX 2.5는 1080p급 영상을 얼마나 빠르게 만들고, 결과물은 어떨까요? RTX PRO 6000에서 5초 영상을 54.87초에 생성했지만, 영상에 넣으려고 했던 OH MY GPU 문구는 해상도를 높여도 정확하게 나오지 않았습니다.
읽어보기