ECR 추론 서비스 3종 (z-image-turbo / ddcolor / real-esrgan) — 소스 분석

대상(보존): 사설 ECR 이미지 + 소스 경량본

• 130745477593.dkr.ecr.us-west-2.amazonaws.com/z-image-turbo:latest (+ /ssh) — 소스 src-archives/ecr-z-image-turbo.tar.gz
• .../ddcolor:latest (+ /ssh) — 소스 src-archives/ecr-ddcolor.tar.gz
• .../real-esrgan:latest (+ /ssh) — 소스 src-archives/ecr-real-esrgan.tar.gz 근거: 각 서비스의 server.py 등 커스텀 코드 전체 확보(가중치만 제외). 본 문서는 거의 전부 확실. ⚠ 호스트 동결 사유: 이미지가 사설 ECR(AWS 계정 130745477593) → 자격증명 없으면 재pull 불가. 호스트(.54)에만 존재 → 삭제 시 비가역(소스만 위 아카이브로 보존됨).

---

한 줄 요약

세 서비스 모두 동일한 한 가지 패턴으로 만들어진 형제들: 공개 모델 1개를 골라 ENTRYPOINT ["python","server.py"]로 감싸고, ai_integration 라이브러리의 표준 stdin/stdout 추론 루프(get_next_input → 처리 → send_result)로 통일. 가중치는 이미지에 굽지 않고 런타임에 hf_login_download_weights.py로 HuggingFace에서 받음(단 real-esrgan은 예외 — hf_login 없이 로컬 experiments/pretrained_models/RealESRGAN_x4plus.pth를 로드). = "임의의 이미지 모델을 통일된 I/O 규약의 마이크로 추론 서비스로 패키징하는 공장 라인". 입력은 image/text, 출력은 jpg/png 바이트. /ssh 변형은 같은 이미지에 SSH 서버만 추가(Vast 임대 접속용).

---

0. 공통 아키텍처 (세 서비스의 골격)

while True:
  with ai_integration.get_next_input(inputs_schema={...}) as inputs_dict:
      ... 모델 추론 ...
      ai_integration.send_result({"content-type": ..., "data": <bytes>, "success": True})

• ai_integration = 추론 컨테이너 표준화 래퍼(입력 스키마 선언 → 다음 입력 블로킹 수신 → 결과 전송). HTTP/큐 등 전송계층을 추상화해 server.py는 "모델 호출"에만 집중. (real-esrgan 인벤토리 노트의 ai_integration_pkg가 이것.)
• 가중치 분리 — z-image-turbo/ddcolor는 빌드 시 굽지 않고 hf_login_download_weights.py로 런타임 다운로드(이미지 경량·교체 용이). ↔ perch7/frosting(가중치 베이킹)과 정반대 전략. horse 워커와 같은 계열. (real-esrgan은 로컬 가중치 파일 사용 — hf_login 없음.)
• 공통 의존성 톤: pillow==9.2.0 / requests==2.28.1(고정핀), torch는 베이스 이미지 제공.
• ⚠ 시크릿: z-image-turbo·ddcolor 둘의 hf_login_download_weights.py에 HuggingFace 토큰 평문 하드코딩(hf_****************(마스킹됨), 동일 토큰 — 실제 값은 원본 소스에만 존재) → 외부 공유 금지 / 폐기 시 토큰 무효화 권장. (real-esrgan에는 토큰 없음.)

---

1. z-image-turbo — 텍스트→이미지 생성

• 모델: Tongyi-MAI/Z-Image-Turbo(diffusers ZImagePipeline), bf16, GPU 적재. Turbo = 8 step / guidance_scale=0.0 고속 생성.
• server.py 로직(확실):
  • 입력 스키마: text, prompt_template(USER_PROMPT_HERE 치환), seed, output_file_format, width/height, steps, allow_custom_size.
  • 출력 크기 제어 — 기본은 5종 허용 사이즈(832×448 ~ 448×832, 모두 37만 픽셀로 동일 연산량)에서 요청 종횡비에 가장 가까운 값으로 스냅. allow_custom_size=true면 8의 배수로 반올림 후 2561024 클램프. → 임의 해상도 남용으로 VRAM/시간 폭주 방지하는 상용 운영 가드.
  • 최적화: cudnn.benchmark=True, VAE tiling(디코드 피크 VRAM 4GB→500MB), warmup 1회, torch.compile은 의도적으로 끔(turbo의 data-dependent control flow로 graph break → 이득 적고 위험). gc.collect()/empty_cache() 제거(동기화로 성능저하).
• 추가 모델: hf_login이 NSFW 감지기(Falconsai/nsfw_image_detection)도 받음 → 생성물 NSFW 필터링 의도(서버 본문엔 호출부 없음 → 상위 레이어/다른 변형에서 사용 추정).
• 의존성: diffusers(git), transformers≥4.43, accelerate, boto3/botocore(S3 입출력 정황), sentencepiece, base torch 2.5.1.
• 메모: 이 모델·VAE·텍스트인코더(qwen_3_4b)는 위 comfyui-zts의 setup.yaml에도 등장 → 임차인이 Z-Image-Turbo를 ComfyUI와 독립 마이크로서비스 양쪽으로 운용.

2. ddcolor — 흑백→컬러 복원(colorization)

• 모델: piddnad/ddcolor_modelscope(DDColor, ConvNeXt-L 인코더 + MultiScaleColorDecoder, basicsr ddcolor_arch). PyTorchModelHubMixin으로 HF에서 직접 로드(DDColorHF).
• server.py 로직(확실): 입력 image(바이트)+output_file_format → cv2 디코드 → ImageColorizationPipeline.process.
  • 파이프라인: 입력을 Lab로 변환해 원본 L(명도) 보존, 512로 리사이즈한 회색 RGB를 모델에 넣어 ab(색상) 채널만 예측 → 원본 해상도로 ab 업샘플 후 원본 L과 합쳐 BGR 복원. (입력 크기 무관하게 디테일 유지)
• 출력 기본 png(jpg/jpeg 선택 가능), input_size=512 고정.
• 의존성: numpy==1.21.6, basicsr>=1.3.3.11, pillow/requests 고정핀. 업스트림 DDColor/(공개 레포) 동봉.
• 용도: 흑백 사진/만화 자동 채색.

3. real-esrgan — 이미지 업스케일(super-resolution)

• 모델: RealESRGAN_x4plus.pth(RRDBNet, 23 block, ×4 업스케일). experiments/pretrained_models/에서 로드.
• server.py 로직(확실): 입력 image+output_file_format → cv2 디코드 → RealESRGANer(half=True/fp16).enhance(outscale=4) → jpg(기본)/png 인코딩. RGBA 감지 처리. tile=0(타일링 없음 = 작은 입력 가정).
• 의존성: basicsr, facexlib, gfpgan(얼굴 복원 보조), numpy<2, opencv/torchvision. 업스트림 Real-ESRGAN 전체(inference 스크립트·options 학습 yml·realesrgan 패키지·setup.py) 동봉 → 서비스 + 재학습 도구 일체.
• 용도: 저해상 이미지 4배 확대(애니·사진), 다른 생성결과의 후처리 업스케일 단(comfyui-zts의 upscale_models, frosting의 Real-ESRGAN과 같은 역할의 독립 서비스 버전).

---

4. 배포 / 운영

• 사설 ECR(130745477593.dkr.ecr.us-west-2) 호스팅 → 임차인이 AWS ECR에 푸시해두고 Vast GPU에 pull해 운용한 정황. 공개 레지스트리가 아니므로 자격증명 없으면 복구 불가(소스만 보존됨).
• /ssh 태그 변형 = 동일 추론 이미지 + openssh(임대 인스턴스 SSH 접속용). 베이스 토폴로지는 다른 Vast 자산들과 동일.
• 세 서비스는 마이크로서비스 모음(각자 단일 모델·단일 책임) → 상위 오케스트레이터/큐가 ai_integration 규약으로 호출하는 구조였을 것(추정). horse 워커의 worker_runtime/orchestrator 계열과 같은 운영 철학.

---

5. 확실 vs 추정

• 확실: 세 server.py 전체 로직, ai_integration 표준 I/O 패턴, 런타임 가중치 다운로드 전략, 각 모델 정체/전처리·후처리, z-image 사이즈 가드·VAE tiling·NSFW 모델 다운로드, ddcolor Lab 채색 파이프라인, real-esrgan ×4 fp16, HF 토큰 하드코딩, 사설 ECR 호스팅.
• 추정: 세 서비스를 묶은 상위 오케스트레이터/큐의 구체 구현, z-image NSFW 필터의 실제 적용 위치, S3(boto3) 입출력 사용 범위, 실제 과금/노출 경로. → 상위 레이어 코드 미확보.

---

6. 복구 / 재현

• 모델은 전부 공개(Z-Image-Turbo / DDColor / Real-ESRGAN + ai_integration 패턴) → 소스(보존됨)로 동등 서비스 재구현 100% 가능. 사설 ECR 이미지 자체는 자격증명 없으면 불가하나, 이미지에 임차인 고유 알고리즘은 없음(공개모델 얇은 래퍼) → 소스만으로 충분히 재현.
• 재현 시: HF 토큰 교체, ai_integration 대신 FastAPI 등으로 전송계층 자체구현하면 동일 기능. 우리 3090 노드에서 "단일 모델 추론 마이크로서비스" 표준 템플릿으로 활용 가능.