9557c1b1af
네이버 쇼핑 오픈API 어댑터(크롤링 불필요) + 핸들러를 다중 소스로 확장.
쿠팡(브라우저)+네이버(API)를 동시 검색·병합해 교차 최저가를 뽑는다.
- search/naver/adapter: httpx + 오픈API + 키 로테이션(429/403 순환), .env 키 로드
- search/naver/transform: 순수 변환(태그/엔티티 정리, lprice). 가격비교(catalog) lprice 는
'여러 판매자 중 최저가'라 최저가 솔루션엔 핵심 → 유지
- handler: asyncio.gather 동시 검색 + 소스별 실패 격리(일부 죽어도 결과) + 전체 실패 시 잡 실패
- worker_main: adapters={coupang, naver}
- tests: 네이버 변환 + 병합/실패격리/전체실패 4건 → 전체 31/31
- 라이브: 쿠팡30+네이버30 병합 top-N 최저가(소스 라벨 포함)
Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
105 lines
4.4 KiB
Python
105 lines
4.4 KiB
Python
"""네이버 쇼핑 검색 어댑터.
|
|
|
|
공식 오픈 API(https://openapi.naver.com/v1/search/shop.json)라 크롤링/브라우저 불필요.
|
|
레퍼런스의 핵심 자산인 **키 로테이션**을 이식: 429/403(쿼터/차단) 시 다음 키로 순환 재시도.
|
|
키는 .env(NAVER_CLIENT_ID/SECRET, +_2.._10)에서 로드 → server_configs 가 load_dotenv 로 주입.
|
|
"""
|
|
|
|
import os
|
|
|
|
import httpx
|
|
|
|
from common.logger import LOG
|
|
from services.search.contract import SearchAdapter, NormalizedProduct, AdapterError, AdapterHealth
|
|
from services.search.rate_limiter import RateLimiter
|
|
from services.search.naver.transform import transform_items
|
|
|
|
_API = "https://openapi.naver.com/v1/search/shop.json"
|
|
_MAX_START = 1000 # 네이버 start 상한
|
|
_MAX_DISPLAY = 100
|
|
|
|
|
|
def load_naver_keys() -> list[tuple[str, str]]:
|
|
"""(client_id, client_secret) 쌍 목록. 기본(무접미) + _2.._10 로테이션 키."""
|
|
keys: list[tuple[str, str]] = []
|
|
cid, csec = os.environ.get("NAVER_CLIENT_ID"), os.environ.get("NAVER_CLIENT_SECRET")
|
|
if cid and csec:
|
|
keys.append((cid, csec))
|
|
for i in range(2, 11):
|
|
cid, csec = os.environ.get(f"NAVER_CLIENT_ID_{i}"), os.environ.get(f"NAVER_CLIENT_SECRET_{i}")
|
|
if cid and csec:
|
|
keys.append((cid, csec))
|
|
return keys
|
|
|
|
|
|
class NaverAdapter(SearchAdapter):
|
|
source = "naver"
|
|
|
|
def __init__(self, keys: list[tuple[str, str]] | None = None, rate_limiter: RateLimiter | None = None, timeout: float = 10.0):
|
|
self._keys = keys if keys is not None else load_naver_keys()
|
|
self._idx = 0
|
|
self._rl = rate_limiter or RateLimiter(0.1, 0.3) # 공식 API — 짧은 간격
|
|
self._timeout = timeout
|
|
self._ok = 0
|
|
self._blocked = 0
|
|
|
|
def _headers(self) -> dict:
|
|
cid, csec = self._keys[self._idx]
|
|
return {"X-Naver-Client-Id": cid, "X-Naver-Client-Secret": csec}
|
|
|
|
def _rotate(self):
|
|
self._idx = (self._idx + 1) % len(self._keys)
|
|
|
|
async def search(self, query: str, limit: int = 40) -> list[NormalizedProduct]:
|
|
if not self._keys:
|
|
raise AdapterError("네이버 API 키 없음(.env NAVER_CLIENT_ID/SECRET)", source=self.source)
|
|
|
|
collected: list[dict] = []
|
|
async with httpx.AsyncClient(timeout=self._timeout) as client:
|
|
start = 1
|
|
while len(collected) < limit and start <= _MAX_START:
|
|
display = min(_MAX_DISPLAY, limit - len(collected))
|
|
data = await self._request(client, {
|
|
"query": query, "display": display, "start": start,
|
|
"sort": "sim", "exclude": "used:rental:cbshop",
|
|
})
|
|
items = data.get("items", [])
|
|
if not items:
|
|
break
|
|
collected.extend(items)
|
|
start += display
|
|
if len(items) < display:
|
|
break
|
|
|
|
products = transform_items(collected, self.source)
|
|
self._ok += 1
|
|
LOG.d(f"[naver] query={query!r} → {len(products)}건 (limit {limit})")
|
|
return products[:limit]
|
|
|
|
async def _request(self, client: httpx.AsyncClient, params: dict) -> dict:
|
|
"""키 개수만큼 재시도. 429/403 이면 다음 키로 로테이션."""
|
|
last_status = None
|
|
for _ in range(max(1, len(self._keys))):
|
|
await self._rl.wait()
|
|
r = await client.get(_API, params=params, headers=self._headers())
|
|
if r.status_code == 200:
|
|
return r.json()
|
|
if r.status_code in (429, 403):
|
|
self._blocked += 1
|
|
last_status = r.status_code
|
|
LOG.w(f"[naver] {r.status_code} → 키 로테이션(idx {self._idx})")
|
|
self._rotate()
|
|
continue
|
|
raise AdapterError(f"네이버 API 오류 {r.status_code}: {r.text[:200]}", source=self.source)
|
|
raise AdapterError(f"네이버 API 쿼터/차단(모든 키 소진, last={last_status})", source=self.source, blocked=True)
|
|
|
|
async def health(self) -> AdapterHealth:
|
|
total = self._ok + self._blocked
|
|
rate = (self._ok / total) if total else 0.0
|
|
return AdapterHealth(source=self.source, ok=(self._blocked == 0 or rate > 0.5),
|
|
recent_success_rate=rate, blocked_rate=(self._blocked / total) if total else 0.0)
|
|
|
|
async def close(self):
|
|
"""httpx 클라이언트를 search 마다 생성/정리하므로 별도 정리 불필요(수명주기 통일용 no-op)."""
|
|
return
|