7911ba1745
설정이 .env(시크릿)+toml(설정)로 갈려 있던 것을 config.local.toml 하나로 통합. DB 비번이 이미 toml 에 있어 분리 기준이 임의적이었고, backend(하우스 패턴)도 toml 단일이라 일관성 확보. 환경별로 바뀌는 값(DB_HOST 등)만 env override 유지. - config_models: NaverConfig(keys 로테이션)·OpenAIConfig·DecodoConfig 추가 - server_configs: 3개 로드, load_dotenv 제거(python-dotenv 의존성도 제거) - proxy/naver/similarity/keyword/worker_main: os.environ → config 객체 참조 - config.local.toml.example: [NaverConfig]/[OpenAIConfig]/[DecodoConfig] 섹션 - .env/.env.example 삭제, README/주석 갱신 (배포는 toml 마운트 or env override) - tests: DecodoConfig 기반으로 갱신 → 전체 44/44 Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
96 lines
4.2 KiB
Python
96 lines
4.2 KiB
Python
"""네이버 쇼핑 검색 어댑터.
|
|
|
|
공식 오픈 API(https://openapi.naver.com/v1/search/shop.json)라 크롤링/브라우저 불필요.
|
|
레퍼런스의 핵심 자산인 **키 로테이션**을 이식: 429/403(쿼터/차단) 시 다음 키로 순환 재시도.
|
|
키는 config.local.toml [NaverConfig].keys 에서 로드(여러 개면 로테이션).
|
|
"""
|
|
|
|
import httpx
|
|
|
|
from common.logger import LOG
|
|
from config.server_configs import naver_config
|
|
from services.search.contract import SearchAdapter, NormalizedProduct, AdapterError, AdapterHealth
|
|
from services.search.rate_limiter import RateLimiter
|
|
from services.search.naver.transform import transform_items
|
|
|
|
_API = "https://openapi.naver.com/v1/search/shop.json"
|
|
_MAX_START = 1000 # 네이버 start 상한
|
|
_MAX_DISPLAY = 100
|
|
|
|
|
|
def load_naver_keys() -> list[tuple[str, str]]:
|
|
"""(client_id, client_secret) 쌍 목록. TOML [NaverConfig].keys 에서 로드(여러 개면 로테이션)."""
|
|
return [(k.id, k.secret) for k in naver_config.keys if k.id and k.secret]
|
|
|
|
|
|
class NaverAdapter(SearchAdapter):
|
|
source = "naver"
|
|
|
|
def __init__(self, keys: list[tuple[str, str]] | None = None, rate_limiter: RateLimiter | None = None, timeout: float = 10.0):
|
|
self._keys = keys if keys is not None else load_naver_keys()
|
|
self._idx = 0
|
|
self._rl = rate_limiter or RateLimiter(0.1, 0.3) # 공식 API — 짧은 간격
|
|
self._timeout = timeout
|
|
self._ok = 0
|
|
self._blocked = 0
|
|
|
|
def _headers(self) -> dict:
|
|
cid, csec = self._keys[self._idx]
|
|
return {"X-Naver-Client-Id": cid, "X-Naver-Client-Secret": csec}
|
|
|
|
def _rotate(self):
|
|
self._idx = (self._idx + 1) % len(self._keys)
|
|
|
|
async def search(self, query: str, limit: int = 40) -> list[NormalizedProduct]:
|
|
if not self._keys:
|
|
raise AdapterError("네이버 API 키 없음(config.local.toml [NaverConfig].keys)", source=self.source)
|
|
|
|
collected: list[dict] = []
|
|
async with httpx.AsyncClient(timeout=self._timeout) as client:
|
|
start = 1
|
|
while len(collected) < limit and start <= _MAX_START:
|
|
display = min(_MAX_DISPLAY, limit - len(collected))
|
|
data = await self._request(client, {
|
|
"query": query, "display": display, "start": start,
|
|
"sort": "sim", "exclude": "used:rental:cbshop",
|
|
})
|
|
items = data.get("items", [])
|
|
if not items:
|
|
break
|
|
collected.extend(items)
|
|
start += display
|
|
if len(items) < display:
|
|
break
|
|
|
|
products = transform_items(collected, self.source)
|
|
self._ok += 1
|
|
LOG.d(f"[naver] query={query!r} → {len(products)}건 (limit {limit})")
|
|
return products[:limit]
|
|
|
|
async def _request(self, client: httpx.AsyncClient, params: dict) -> dict:
|
|
"""키 개수만큼 재시도. 429/403 이면 다음 키로 로테이션."""
|
|
last_status = None
|
|
for _ in range(max(1, len(self._keys))):
|
|
await self._rl.wait()
|
|
r = await client.get(_API, params=params, headers=self._headers())
|
|
if r.status_code == 200:
|
|
return r.json()
|
|
if r.status_code in (429, 403):
|
|
self._blocked += 1
|
|
last_status = r.status_code
|
|
LOG.w(f"[naver] {r.status_code} → 키 로테이션(idx {self._idx})")
|
|
self._rotate()
|
|
continue
|
|
raise AdapterError(f"네이버 API 오류 {r.status_code}: {r.text[:200]}", source=self.source)
|
|
raise AdapterError(f"네이버 API 쿼터/차단(모든 키 소진, last={last_status})", source=self.source, blocked=True)
|
|
|
|
async def health(self) -> AdapterHealth:
|
|
total = self._ok + self._blocked
|
|
rate = (self._ok / total) if total else 0.0
|
|
return AdapterHealth(source=self.source, ok=(self._blocked == 0 or rate > 0.5),
|
|
recent_success_rate=rate, blocked_rate=(self._blocked / total) if total else 0.0)
|
|
|
|
async def close(self):
|
|
"""httpx 클라이언트를 search 마다 생성/정리하므로 별도 정리 불필요(수명주기 통일용 no-op)."""
|
|
return
|