fix(gateway): FabriX 가 맞는 인증 조합에도 간헐 401 — 4개 조합 뒤 유력 조합 1초 쉬고 한 번 더
Co-Authored-By: Claude Fable 5.1 <noreply@anthropic.com>
This commit is contained in:
co-authored by
Claude Fable 5.1
parent
9bd0849f27
commit
b08afa389a
@@ -9,6 +9,7 @@
|
||||
|
||||
from __future__ import annotations
|
||||
|
||||
import asyncio
|
||||
import json
|
||||
import logging
|
||||
from typing import AsyncIterator
|
||||
@@ -26,6 +27,7 @@ log = logging.getLogger(__name__)
|
||||
TRANSPORT: httpx.AsyncBaseTransport | None = None
|
||||
# 마지막에 통과한 인증 형식 — 프로세스당 하나. 다음 요청은 이것부터 시도.
|
||||
_last_ok: dict[str, Variant | None] = {"variant": None}
|
||||
RETRY_PAUSE_S = 1.0 # 마지막 재시도 전 쉬는 시간
|
||||
|
||||
|
||||
def _cfg() -> FabrixConfig:
|
||||
@@ -90,6 +92,9 @@ async def chat_completions(request: HttpRequest) -> HttpResponse:
|
||||
kinds = sorted({p.get("type", "?") for m in payload.get("messages") or [] for p in (m.get("content") if isinstance(m.get("content"), list) else [])})
|
||||
log.info("ito → model=%s parts=%s stream=%s", headers.get("x-llm-model-id"), kinds or ["text"], bool(body.get("stream")))
|
||||
variants = auth_variants(headers, _last_ok["variant"])
|
||||
# FabriX 가 맞는 조합에도 가끔 401 을 뱉음(2026-09-21 고객사 실측: curl 10번 중 1~2번).
|
||||
# 4개 조합 다 돌고 나서 제일 유력한 조합(맨 앞)을 잠깐 쉬고 한 번 더 — 그래도 401 이면 진짜 인증 문제
|
||||
variants = variants + variants[:1]
|
||||
|
||||
if body.get("stream"):
|
||||
|
||||
@@ -103,6 +108,8 @@ async def chat_completions(request: HttpRequest) -> HttpResponse:
|
||||
log.info("ito ← %s (auth %s/%s: %s)", resp.status_code, i + 1, len(variants), vkey)
|
||||
if resp.status_code == 401 and i + 1 < len(variants):
|
||||
await resp.aclose() # 인증 형식이 안 맞은 것 — 다른 조합으로 한 번 더
|
||||
if i + 2 == len(variants):
|
||||
await asyncio.sleep(RETRY_PAUSE_S)
|
||||
continue
|
||||
break
|
||||
assert resp is not None
|
||||
@@ -126,6 +133,8 @@ async def chat_completions(request: HttpRequest) -> HttpResponse:
|
||||
for i, (vkey, vh) in enumerate(variants):
|
||||
resp = await client.post(cfg.url, headers=vh, json=body)
|
||||
if resp.status_code == 401 and i + 1 < len(variants):
|
||||
if i + 2 == len(variants):
|
||||
await asyncio.sleep(RETRY_PAUSE_S)
|
||||
continue
|
||||
if resp.status_code < 400:
|
||||
_last_ok["variant"] = vkey
|
||||
|
||||
Reference in New Issue
Block a user