앞 글에서 SDXL 속도가 4.49 it/s라고 적었는데, 대량으로 뽑을 때는 그 숫자만으로는 판단이 안 됩니다. 배치를 키우면 장당 시간이 달라지고, 오래 돌리면 열 때문에 느려질 수도 있으니까요. 세 가지를 재봤습니다.
공통 조건: SDXL base 1.0, 20 steps, dpmpp_2m / karras, cfg 7.0. 측정 전 ComfyUI를 재시작해 VRAM을 비웠습니다.
1) 배치 스케일링 (1024x1024)
- batch 1 — 장당 5.49초 · 시간당 656장 · VRAM 12.9GiB
- batch 2 — 장당 4.92초 · 시간당 732장 · VRAM 14.1GiB
- batch 4 — 장당 4.69초 · 시간당 767장 · VRAM 14.1GiB
- batch 8 — 장당 4.51초 · 시간당 798장 · VRAM 14.3GiB
batch 1에서 8로 가면 장당 시간이 18% 줄어듭니다. 장마다 붙는 고정 비용(텍스트 인코딩, VAE 디코드, 저장)이 배치 안에서 나눠지기 때문입니다. 더 눈에 띄는 건 batch 8인데도 VRAM이 14.3GiB라는 점입니다. 32GB의 절반도 못 쓰고 있어서 배치를 훨씬 더 키울 여유가 있습니다.
2) 해상도별 (batch 1)
- 768x768 — 5.1초 · 14.1GiB
- 1024x1024 — 5.7초 · 14.1GiB
- 1280x1280 — 9.5초 · 15.7GiB
- 1536x1536 — 18.9초 · 20.7GiB
1024까지는 VRAM이 거의 안 움직입니다(모델 가중치가 대부분). 1280부터 올라가서 1536에서 20.7GiB. 768과 1024의 시간 차이가 5.1초 대 5.7초로 작은 것도 의외였는데, 이 크기에서는 고정 비용 비중이 커서 해상도를 낮춰 얻는 이득이 생각보다 작은 것 같습니다.
3) 연속 부하 (batch 4, 32회 약 10분)
- 회차별 최소 18.5초 / 최대 19.9초 / 평균 19.0초
- 처음 5회 평균 19.01초 → 마지막 5회 평균 18.81초
- 정션 온도 94~99도, 전력 342~503W
성능 저하가 없습니다. 서멀 스로틀링으로 느려지는 구간이 안 나왔습니다. 대량 생성에서는 이게 peak 속도보다 중요한데, 처음 몇 장만 빠르고 뒤로 갈수록 느려지는 카드면 밤새 걸어두는 용도로는 못 쓰니까요.
batch 8의 798장/시간이 유지된다고 가정하면 8시간에 6천 장 정도입니다. 다만 8시간을 실제로 돌려본 건 아니라 그건 계산값입니다. 장시간 돌려보고 다르면 다시 올리겠습니다.
정리하면 — peak it/s만 보면 같은 가격대 NVIDIA보다 앞선다고 말하기는 어려울 겁니다. 그런데 VRAM 여유가 커서 배치를 키울 수 있고, 배치를 키우면 장당 시간이 실제로 줄고, 연속 부하에서 성능이 유지됩니다. "제일 빠른 카드"가 아니라 "밤새 걸어두고 아침에 확인"하는 용도라면 쓸만하다는 게 지금까지의 인상입니다.
신경 쓰이는 것도 있습니다. 정션 온도가 연속 부하에서 97~99도에 고착됩니다. 스펙 내이긴 하지만 낮은 값은 아니라 장시간 돌릴 거면 케이스 흡배기를 점검하시는 게 좋겠습니다. 전력도 순간 503W까지 올라가서 8시간이면 3kWh를 넘습니다.
다른 카드로 같은 조건(batch 1/4/8) 재신 분 있으면 시간당 장수만이라도 공유해주세요. peak 속도 비교표는 많은데 대량 생성 기준 비교는 잘 안 보여서요.