AI 이미지 생성
모델이 다운되면 어떻게 되나요?
Alice에서 사용자가 「그림 하나 그려줘」라고 하면, 백엔드에서는 Gemini가 타임아웃되고, Seedream이 속도 제한에 걸리고, GPT Image도 오류가 발생할 수 있습니다. 사용자는 어떤 모델이 다운됐는지 신경 쓰지 않습니다. 그들이 신경 쓰는 건 단 하나: 이미지가 나오는가?
Alice의 세 가지 상태
생각 중
이미지 생성 중, 잠시만 기다려 주세요
오류 발생
모델에서 오류 반환, 폴백 전환 중
전부 실패
모든 모델 사용 불가, 우아한 강등
폴백 체인: Alice의 안전망
모델 A (Gemini) 15초 타임아웃
타임아웃 서킷 브레이커 발동 → 자동 폴백
모델 B (Seedream)로 전환
폴백 모델 인계, 사용자에게 투명
모델 B 속도 제한 오류 반환
동시 처리 한도 초과, 다음 폴백으로 계속
모델 C (GPT Image)로 전환
세 번째 폴백 투입
모델 C 이미지 생성 성공
사용자가 이미지 수령, 전환 과정이 완전히 투명
전부 실패? 우아한 강등
「죄송합니다, 서비스가 혼잡합니다. 대기열에 추가되었으며 나중에 알려드리겠습니다.」
최종 결과: 사용자가 보는 것
두 번의 모델 실패에도 불구하고 사용자는 여전히 이미지를 받았습니다
사용자는 「Alice가 그리고 있습니다…」라는 대기 상태만 보고 결과를 받습니다. 백엔드에서 모델 A가 타임아웃되고, 모델 B가 속도 제한에 걸리고, 모델 C가 투입됩니다. 이 모든 것이 사용자에게 완전히 투명합니다. 이것이 폴백 체인의 가치입니다.
세 가지 제품 접근법
우선순위 정렬 + 화이트리스트
모델 우선순위를 사전 설정합니다. 시나리오별로 다른 모델 조합을 지정할 수 있습니다: 인물 클로즈업에는 최고 품질 모델, 단순 배경에는 저렴하고 빠른 모델.
헬스 체크 메커니즘
각 모델의 상태를 주기적으로 점검합니다. 다운 확인된 모델은 즉시 건너뛰고, 복구 후 자동으로 다시 활성화합니다. 사용자의 대기 시간을 죽은 모델에 낭비하지 않습니다.
이미지-to-이미지 강등
일부 모델은 이미지-to-이미지를 지원하지 않습니다. 폴백 모델이 이를 지원하지 않으면 텍스트-to-이미지로 전환합니다. 품질은 낮아지지만 적어도 이미지는 생성됩니다.
사용자는 어떤 모델을 사용하는지 신경 쓰지 않습니다. 그들이 신경 쓰는 건 이미지가 나오는가입니다. Alice에서 폴백 체인은 주력 모델이 전부 다운되더라도 최악의 경우 몇 초 더 기다리거나 친절한 메시지를 받을 뿐, 차가운 오류 페이지는 절대 만나지 않도록 보장합니다.