Runpod을 이용한 ComfyUI 사용 후기

ComfyUI를 통해 이미지와 비디오를 생성하는 재미가 제법 쏠쏠하다. 프롬프트를 조정하면서 내가 원하는 이미지나 비디오가 나오도록 하는 재미가 있다. LoRA를 적용해보기도 하면서 결과물이 생성하는걸 기다리는 동안 묘한 기대감에 시간이 가는줄 모르고 이것 저것 해보았다.

문제는 자원

---

재미있는 취미이긴 했는데 문제는 자원을 너무 많이 잡아먹는다는 것이 결국 걸림돌이다. 일단 GPU와 RAM을 영끌해서 사용하다보니 AI를 돌리는 동안 따로 할 수 있는게 많이 제한된다. 게임은 그냥 당연히 못한다. 퇴근하고 주어진 시간은 한 두시간인데, 이걸 멍하니 AI 생성만 기다리고 있자니 뭔가 너무 시간이 아까웠다.

노트북을 활용해볼까?

랩탑용 GPU는 성능도 그렇고 VRAM도 작아서 ComfyUI를 사용하는데 많은 제약이 있다. 그래도 찾아보니 영 방법이 없진 않아보였다. 생성 시간이야 많이 길어지겠지만 뭐, 걸어놓고 다른걸 할 수 있으니까 오래 걸리는건 그다지 문제가 되지 않아 보인다.

실패한 노트북 셋팅

열심히 노트북에 ComfyUI를 셋팅해보았지만 결론적으로 실패했다. AMD RX6000s에서 제대로 돌아가도록 셋팅하기가 너무 너무 어렵다. 괜히 AI를 할거면 nvidia의 GPU를 구매하라고 하나보다. 데스크탑에서는 별 어려움 없이 한방에 셋팅 및 결과물 생성에 성공했었다. AMD + 랩탑 + 구형 + 낮은 VRAM의 4박자를 이겨내기가 쉽지 않았다.

nvidia GPU가 탑재된 노트북을 구매할까?

그러다가 nvidia GPU가 탑재된 노트북을 구매해서 교체할까하는 생각이 들었다. 생성 속도가 느리든 일단 돌아가기만 하면 되니까 싶은 마음이다. 하지만 가격대가 만만치 않다. 5060급으로 찾더라도 100만원 중반대이다. VRAM 12gb급으로 5070ti부터 찾으면 200만원 중반대로 올라간다. 5080급으로 가야 VRAM이 16gb가 탑재되는 것은 덤. 이쯤되면 300만원 이상으로 올라간다.

가격대를 보니 심리적 저항감이 무럭무럭 자라난다. 겨우 이거 AI로 이미지, 비디오를 생성한답시고 저 돈을 태우는게 맞을까 싶은것이다. 차라리 같은 돈에 데스크탑을 사서 생성하는게 훨씬 낫겠다 싶었다.

하드웨어 대여 서비스

---

여기저기 기웃거리다보니 굳이 내 로컬이 아니여도 ComfyUI를 활용할 수 있는 서비스들이 있다. 구글 Colab, 런팟, Vast들이다. 셋 모두 GPU를 대여가능하고 파이썬 스크립트를 통해 ComfyUI를 셋팅 및 사용이 가능한 서비스들이다.

다음은 클로드가 정리해준 서비스들의 비교표이다.

항목	Google Colab	RunPod	Vast.ai
서비스 모델	구글 호스팅 Jupyter 노트북	전용 클라우드 GPU 플랫폼 (Secure Cloud + Community Cloud)	탈중앙화 GPU 마켓플레이스
가격	• 무료: 제한적 • Pro: ~$9.99/월 • Pro+: ~$49.99/월 • 종량제 옵션 가능	• 초당 과금 • RTX 4090: ~$0.40-0.50/시간 • A100: ~$1.00-2.00/시간 • H100: ~$2.50-4.00/시간	• 시장 최저가 (경쟁 입찰) • RTX 4090: ~$0.20-0.40/시간 • A100: ~$0.60-1.50/시간 • 일반적으로 타 서비스 대비 50-70% 저렴
GPU 종류	• 무료: T4 (제한적) • 유료: T4, V100, A100 • 구체적 GPU 선택 불가 (할당)	• RTX 3090/4090 • A100, H100 • AMD MI300X • L40S 등 다양	• 매우 다양 (개인~데이터센터) • RTX 3080/4090 • Tesla V100, A100, H100 • 특정 VRAM/CUDA 버전 선택 가능
시간 제한	• 무료: GPU 하루 약 4시간 • Pro: 최대 12시간 세션 • Pro+: 최대 24시간 세션 • 유휴 시 자동 종료	• 무제한 • On-Demand: 중단 없음 • Spot: 저렴하나 중단 가능	• 무제한 • 제공자에 따라 다름 • 일부 제공자는 예고 없이 중단 가능
주요 특징	• Jupyter 노트북 환경 • Google Drive 연동 • 무료 티어 제공 • 설정 불필요 (Zero setup) • 협업 기능 내장	• Flashboot (250ms 이하 콜드 스타트) • 자동 스케일링 • Docker 컨테이너 지원 • Serverless 옵션 • 초단위 과금	• 실시간 경쟁 입찰 • NVIDIA SHARP 기술 • 글로벌 GPU 풀 • 다양한 필터링 옵션 • API 지원
장점	✅ 무료 옵션 ✅ 설정 간편 ✅ Google 생태계 연동 ✅ 교육/학습에 최적 ✅ 협업 기능 우수	✅ 초단위 과금으로 경제적 ✅ 빠른 배포 ✅ 안정적인 인프라 ✅ 다양한 GPU 선택 ✅ 프로덕션 환경에 적합	✅ 최저가 옵션 ✅ 매우 다양한 하드웨어 ✅ 특정 GPU 사양 선택 가능 ✅ 유연한 가격 ✅ 실험/연구에 적합
단점	❌ 무료는 극심한 제한 ❌ GPU 선택 불가 ❌ 세션 시간 제한 ❌ 드라이브 마운트 4시간 문제 ❌ 장시간 학습 부적합	❌ 무료 옵션 없음 ❌ 초보자에게 다소 복잡 ❌ Community Cloud는 안정성 가변	❌ 품질/안정성 가변적 ❌ 수동 설정 많음 ❌ 클러스터 구성 복잡 ❌ 지역 간 레이턴시 고려 필요 ❌ 프로덕션 부적합
네트워크/성능	• 제한적 제어 • Google 인프라 • 네트워크 설정 불가	• 고속 네트워크 • 데이터센터급 (Secure Cloud) • 멀티 GPU 지원 양호	• 제공자마다 다름 • 같은 제공자 선택 권장 • 분산 학습시 레이턴시 주의
스토리지	• Google Drive 연동 • 무료: 15GB • Pro+: 더 많은 용량 • 로컬 스토리지 임시	• 영구 볼륨 스토리지 • 네트워크 스토리지 • 유료 (별도 과금)	• 제공자마다 다름 • 대부분 로컬 SSD • 영구 스토리지 제한적
설정 난이도	⭐ (매우 쉬움)	⭐⭐⭐ (중간)	⭐⭐⭐⭐ (어려움)
신뢰성	⭐⭐⭐⭐ (높음, 단 제한 많음)	⭐⭐⭐⭐⭐ (매우 높음, Secure Cloud)	⭐⭐⭐ (가변적, 제공자 의존)
지원/문서	구글 공식 문서, 대형 커뮤니티	공식 문서, API 문서, 지원팀	API 문서, 커뮤니티 (제한적)

런팟을 이용해보자.

이 3개의 서비스들중에 어떤 것이 나을지 고민을 하다가 최종적으로 런팟을 이용해보기로 결정했다.

구글 Colab은 하루에 일정량 무료 사용이 가능하다. 하지만 이 무료 사용환경의 하드웨어 사양이 좋지 않다. 월 10달러의 프로를 구독하더라도 고급 GPU를 사용할 수 있는 컴퓨팅 시간이 10시간 내외인 것으로 보인다. 꽤나 비싸다. 비싸면서도 내가 원하는 GPU를 선택할 수 없다. 무작위로 최고급 GPU가 선택되면 주어진 컴퓨팅 시간으로 5시간도 채 사용 못 할 수 있다.

Vast.ai의 경우 GPU 대여 비용이 가장 싸다고는 하나 접근성이 런팟에 비해 좀 어려워보인다. 무엇보다 UI가 직관적이지 않아서 상당히 거슬린다. 대여 비용이 가장 싸다고는 하는데, 직접 러프하게 비교해보면 런팟에 비해 별로 차이가 없어 보인다.

런팟의 경우 일단 UI가 매우 직관적이고 사용자들이 많아서 그런지 템플릿도 다양하게 준비되어 있다. 시작까지 오래 걸리지도 않는다. GPU를 선택하고 템플릿을 선택하고 시작하면 끝이다.

비용은

---

런팟에서 5090을 기준으로 Spot기준으로 시간당 0.58달러이다. 세션을 쭉 유지할 수 있는 On-Demand는 시간당 0.89달러로 좀 더 비싸다. 내가 직접 모델을 학습시키는 목적이 있는것도 아니고 ComfyUI 사용하는데에는 Spot으로도 충분하다. 여기에 스토리지 비용까지 포함하면 조금 더 비싸지긴 하지만 5090이 탑제된 머신을 시간당 700~1000원 수준에 사용할 수 있다는 것은 결코 비싸다고 할 수 없다.

5090만 해도 400만원 가까이 하니 데스크탑을 하나 셋팅하려면 못해도 600은 들어간다. 데스크탑을 구매한다고 끝은 아니다. 전기세는 조상님이 내주나? 5090급이면 풀로드 걸렸을때 소비량이 700wh정도 된다. 가정용 전자레인지가 돌아간다고 보면 된다. 시간당 100원정도 한다. 600만원이면 Spot 기준으로 전기료를 제외하고 시간당 600원으로 계산했을때 만시간을 사용할 수 있는 비용이다. 24시간 내내 사용해도 1년, 하루 5시간씩 사용한다면 5년이다.

결론

---

5090이 가정용으로 최선이긴 하나 전문적으로 AI를 통해 생산성 있는 작업을 하기에는 여전히 모자르다. 취미로 다루기 위해 500만원 이상 들어가는 머신을 구매하는 것도 애매하다. 게이밍을 위해 머신을 구입했고 겸사겸사 AI도 취미로 돌려보는거라면 다른 얘기이긴 하지만…

그런 와중에 잠깐 다뤄보다가 흥미를 잃고 안할 확률이 높은 이런 분야에서 런팟과 같이 GPU머신을 대여해서 AI를 돌려보는 것은 굉장히 괜찮은 선택인것 같다. RTX4090 머신이라면 시간당 0.3달러정도 되는데 10달러를 충전하면 30시간을 사용할 수 있는 것이다.

실제로 런팟을 통해 ComfyUI를 돌려보고 하드웨어 뽐이 다 죽었다. 굳이 비싼 하드웨어를 사기위해 큰 지출을 하지 않아도 하고 싶은것은 해볼 수 있었으니까. LoRA 트레이닝같은 템플릿도 충분히 있어서 모델 학습도 흥미가 생기면 해볼까 싶기도 하다. 이게 데이터를 마련하고 정리하는게 일이라서 안할거 같긴 하지만 ㅎㅎ

의외의 단점(?)이라면 하드웨어 스펙이 좋다보니 게임도 하면서 병렬적으로 이미지나 비디오를 생성해보려고 했는데 너무 빨리 생성되는 바람에 내 바람과 달리 게임도 하면서 이미지나 비디오도 생성할 일이 없다는게 의외로 아이러니하다. 하지만 이터레이션이 빠르기 때문에 결과물을 보고 프롬프트를 수정해서 또 결과물을 보고 하는 시간이 짧아 내가 원하는 이미지나 비디오를 뽑아내는 시도를 좀 더 재미있게 할 수 있다.

몇 번 가지고 놀아보니 벌써 흥미가 좀 떨어지긴 해…

게임 제작에 사용할 리소스를 뽑아내는게 생각보다 고된거 같기도 하고.

런팟을 이용해 ComfyUI를 사용하는법은 Runpod에서 ComfyUI 사용하기에 정리되어 있다.