2026년 8월 16일은긔
Runpod RTX 5090 한 장으로 Qwen3.8 27B 돌리기
공유 템플릿과 vLLM을 이용해 RTX 5090 한 장에서 Qwen3.8 27B NVFP4 모델을 구동하고 외부 API와 성능을 확인한 재현 가능한 배포 가이드입니다.
읽어보기
Oh My GPU Blog
GPU와 AI를 직접 다뤄본 기록
LLM 서빙, GPU 하드웨어, 생성 AI와 운영 과정을 튜토리얼·벤치마크·리뷰로 정리합니다.
Oh My GPU Blog
LLM 서빙, GPU 하드웨어, 생성 AI와 운영 과정을 튜토리얼·벤치마크·리뷰로 정리합니다.
공유 템플릿과 vLLM을 이용해 RTX 5090 한 장에서 Qwen3.8 27B NVFP4 모델을 구동하고 외부 API와 성능을 확인한 재현 가능한 배포 가이드입니다.
읽어보기