Docker Model Runner는 OpenAI 호환 API를 로컬에서 실행하는 Docker의 추론 런타임이다. 텍스트 생성 모델 외에 이미지 생성(diffusion) 모델도 지원하며, Open WebUI와 연결하면 클라우드 구독 없이 완전 프라이빗한 AI 이미지 생성 환경을 만들 수 있다.

사전 조건

• Docker Desktop(macOS) 또는 Docker Engine(Linux) 설치
• 여유 RAM ~8GB 이상 (모델 크기에 따라 다름)
• GPU: 선택 사항이지만 강력 권장 (NVIDIA CUDA, Apple Silicon MPS, 또는 CPU 폴백)

Step 1: 이미지 생성 모델 다운로드

Docker Model Runner는 DDUF(Diffusers Unified Format)로 이미지 생성 모델을 배포한다. DDUF는 텍스트 인코더, VAE, UNet/DiT, 스케줄러 설정을 하나의 파일로 묶은 포맷이다.

docker model pull stable-diffusion

다운로드 확인:

docker model inspect stable-diffusion

Step 2: Open WebUI 실행

단 한 줄로 Open WebUI를 Docker Model Runner에 연결해 실행한다:

docker model launch openwebui

내부적으로 다음 명령이 실행된다:

docker run --rm \
  -p 3000:8080 \
  -e OPENAI_API_BASE=http://model-runner.docker.internal/engines/v1 \
  -e OPENAI_BASE_URL=http://model-runner.docker.internal/engines/v1 \
  -e OPENAI_API_KEY=sk-docker-model-runner \
  ghcr.io/open-webui/open-webui:latest

model-runner.docker.internal은 Docker Desktop 컨테이너가 호스트의 Model Runner에 접근하는 특수 DNS 주소다. 백그라운드 실행이 필요하면 --detach 플래그를 추가한다.

브라우저에서 http://localhost:3000에 접속해 로컬 계정을 생성한다(오프라인 계정, 외부 전송 없음).

Step 3: Open WebUI 이미지 생성 설정

Open WebUI는 텍스트 모델은 자동으로 인식하지만, 이미지 생성은 별도 설정이 필요하다.

1. http://localhost:3000/admin/settings/images 접속
2. Image Generation 활성화
3. 아래 값 입력 후 저장:

API 키는 인증에 쓰이지 않는다. Docker Model Runner는 로컬 서비스라 인증이 불필요하지만 UI 폼 필수 항목이므로 임의 문자열을 입력한다.

Step 4: 채팅 모델 추가 (선택 사항)

Open WebUI의 채팅 인터페이스에서 텍스트로 이미지 생성을 요청하려면 언어 모델도 연동한다:

# 경량 옵션 (RAM 부족 환경)
docker model pull smollm2

# 권장 옵션 (더 풍부한 프롬프트 해석)
docker model pull gpt-oss

별도 설정 없이 Open WebUI 모델 셀렉터에 자동으로 표시된다.

Step 5: 이미지 생성

채팅 화면에서 메시지 입력창의 이미지 아이콘을 클릭해 이미지 생성 모드를 활성화한 뒤 프롬프트를 입력한다:

Create an image of a whale.

첫 요청은 모델을 메모리에 로드하는 시간이 걸리지만, 이후 요청은 훨씬 빠르다.

어떤 경우에 적합한가

• 프롬프트를 클라우드 서비스에 노출하고 싶지 않은 프라이버시 민감 작업
• API 크레딧 없이 무제한으로 실험하고 싶은 개발·프로토타이핑
• 이미지 생성 기능을 자체 인프라에 통합하는 엔터프라이즈 내부 도구

관련 문서

• gpt-image-2-tutorial-comfyui — ComfyUI로 GPT Image 2 사용하기

참고 자료

• Generate Images Locally with Docker Model Runner — Docker (2026-05-05)