4B 파라미터의 경량화 이미지 생성 모델

40억 개의 파라미터(인공지능이 학습하는 정보의 최소 단위)만으로 수십억 개의 파라미터를 가진 대형 모델과 경쟁 가능한 수준의 성능을 구현했다. 마이크로소프트가 공개한 Mage-Flow는 모델 크기를 무작정 키우는 대신 토크나이저(데이터를 작은 조각으로 나누는 도구)와 백본(모델의 중심 뼈대), 시스템의 통합 설계를 통해 효율성을 극대화했다. 모델 규모를 획기적으로 줄이면서도 고해상도 이미지 생성 및 편집 성능을 유지하도록 내부 구조를 최적화한 설계 방식이다.

A100 GPU 한 장에서 1024x1024 해상도로 실행했을 때, Mage-Flow-Turbo는 이미지 한 장을 생성하는 데 0.59초가 소요된다. 기존의 무거운 모델들과 달리 1초 미만의 매우 짧은 시간 안에 고화질 이미지를 생성하며 처리 속도를 대폭 끌어올렸다.

편집 전용 모델인 Mage-Flow-Edit-Turbo는 편집 한 건당 1.02초가 걸린다. 이때 사용되는 최대 메모리는 18GB에서 20GB 수준으로, 비교 대상 모델 중 가장 낮은 수치를 기록하며 메모리 점유율을 최소화했다. 하드웨어 자원 사용량을 줄여 효율적인 구동 환경을 구축했다.

200억320억 파라미터급 모델과 대등한 성능을 구현했다

40억 개의 파라미터라는 작은 체급으로 200억 개의 Qwen-Image나 320억 개의 FLUX.2 같은 거대 모델과 대등하거나 이를 능가하는 품질을 냈다. 특히 Mage-VAE는 FLUX.2-VAE보다 픽셀당 MACs(기본 계산 단위)를 12배에서 22배까지 줄여 연산 부담을 덜었다. 모델 크기를 획기적으로 줄이면서도 고해상도 결과물을 유지하는 효율성을 확보해 체급의 한계를 넘었다.

퓨즈드 CUDA 커널(여러 GPU 연산을 하나로 묶어 처리하는 기술)을 도입해 학습 단계당 소요 시간을 1.93초에서 0.78초로 약 2.5배 단축했다. FlashAttention(메모리 접근을 최적화해 연산을 빠르게 하는 기술)과 2D RoPE(2차원 데이터의 위치 정보를 학습하는 방식)를 적용해 추론 속도 역시 개선했다. GPU 하드웨어의 자원을 더 효율적으로 사용하는 구조를 설계해 전체적인 처리 시간을 줄였다.

CFG(이미지 생성 품질을 조절하는 가이드)의 조건부 및 무조건부 분기를 하나의 패킹된 포워드 패스로 처리해 연산 횟수를 줄였다. 기존에 개별적으로 처리하던 분기 과정을 하나로 통합해 추론 속도를 더욱 끌어올린 것이 특징이다. 시스템 전반의 최적화를 통해 학습과 추론 모든 단계에서 실행 속도를 획기적으로 높여 실무 적용 가능성을 넓혔다.

확인해야 할 핵심 지점

A100 GPU 한 장으로 1024px 고해상도 이미지를 0.59초 만에 생성하며 메모리 사용량을 20GB 미만으로 묶었다. 이 성능은 Mage-VAE와 NR-MMDiT라는 두 가지 장치가 유기적으로 결합된 결과다. Mage-VAE는 이미지를 아주 작게 압축했다가 다시 복원하는 경량 잠재 토크나이저(이미지 데이터를 효율적인 숫자로 변환하는 도구)다. 화질 손실 없이 파일 크기만 획기적으로 줄이는 고효율 압축 파일처럼 작동한다. 여기에 텍스트와 이미지 데이터를 동시에 처리하는 NR-MMDiT(네이티브 해상도 멀티모달 디퓨전 트랜스포머) 엔진을 더해 연산 속도를 높였다. 서로 다른 언어로 번역하는 과정 없이 한 번에 이해하는 통역사처럼 데이터를 처리한다.

512부터 2048까지 넓은 범위의 해상도를 기본적으로 지원한다. 네이티브 해상도 패킹(이미지 크기에 맞춰 데이터를 효율적으로 배치하는 기술)을 적용해 4대 1 같은 극단적인 가로세로 비율에서도 이미지가 찌그러지지 않는다. 옷감을 억지로 늘리지 않고 몸에 맞게 재단하는 맞춤복처럼, 어떤 화면 비율이든 왜곡 없이 생성할 수 있는 구조를 갖췄다.

`microsoft/Mage-Flow-Turbo` 모델을 설치하고 Diffusers 기반 파이썬 코드로 실행하면 A100 GPU 한 장에서 1024px 고해상도 이미지를 0.59초 만에 생성하고 20GB 미만의 메모리로 운용 가능하다.