69f6641c27
검색이 소모하는 리소스/비용/시간을 잡 단위로 집계해 result.metrics 로 적재(API/FE 노출).
지금까진 타임스탬프만 있고 실제 비용 동인(AI 토큰·대역폭)은 버려지고 있었다.
- services/metrics.SearchMetrics: duration_ms + ai(calls/tokens/est_cost_usd, gpt-4o-mini 단가)
+ crawl(fetches/html_bytes/malls_crawled) + source_ms
- AI 클라이언트: resp.usage 를 last_usage 로 노출(그동안 폐기하던 토큰)
- 어댑터: last_bytes(처리 HTML 바이트) 노출 — naver/coupang/browser_base 공통
- handler: 각 fetch 타이밍+바이트, AI 호출 토큰을 metrics 로 누적 → 결과에 스냅샷
- FE: 작업 카드에 원가 4타일(소요/AI비용/토큰/크롤 트래픽)
- 테스트 2종. ⚠️ html_bytes 는 대역폭 근사(오픈마켓 리소스 미차단분 제외=하한), CDP 정확화는 백로그
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
76 lines
3.1 KiB
Python
76 lines
3.1 KiB
Python
"""검색 1건의 리소스/비용/시간 계측(관측용).
|
|
|
|
한 상품 검색이 소모하는 것을 잡 단위로 집계한다:
|
|
- 시간: 전체 소요 + 소스별 소요(ms)
|
|
- AI: 호출 수 + 토큰(prompt/completion) + 추정 비용($)
|
|
- 크롤: 외부 fetch 수 + 처리 HTML 바이트 + 크롤한 몰
|
|
|
|
핸들러가 각 호출을 타이밍하고, AI 클라이언트/어댑터가 노출하는 last_usage/last_bytes 를 읽어 누적한다.
|
|
결과는 job.result.metrics 로 적재돼 API/FE 에서 검색 원가를 확인할 수 있다.
|
|
|
|
⚠️ HTML 바이트는 '처리한 응답 본문' 기준(대역폭 근사). 쿠팡은 리소스 차단이라 실제와 근접하지만,
|
|
오픈마켓(리소스 미차단)은 CSS/JS/이미지가 빠져 실제 대역폭보다 작다(하한). 정확 대역폭은 백로그(CDP).
|
|
"""
|
|
|
|
import time
|
|
|
|
# 모델별 1M 토큰당 단가(USD). input=prompt, output=completion. 모르면 0(비용 미추정).
|
|
_PRICING = {
|
|
"gpt-4o-mini": (0.150, 0.600),
|
|
"gpt-4o": (2.50, 10.00),
|
|
"gpt-4.1-mini": (0.40, 1.60),
|
|
}
|
|
|
|
|
|
def estimate_cost(model: str, prompt_tokens: int, completion_tokens: int) -> float:
|
|
inp, out = _PRICING.get(model, (0.0, 0.0))
|
|
return round(prompt_tokens / 1_000_000 * inp + completion_tokens / 1_000_000 * out, 6)
|
|
|
|
|
|
class SearchMetrics:
|
|
"""검색 1건의 누적 계측기. 스레드/코루틴 공유 X — 잡마다 새로 만든다."""
|
|
|
|
def __init__(self, model: str = ""):
|
|
self._start = time.monotonic()
|
|
self._model = model
|
|
self.ai_calls = 0
|
|
self.ai_prompt = 0
|
|
self.ai_completion = 0
|
|
self.fetches = 0
|
|
self.html_bytes = 0
|
|
self.source_ms: dict[str, int] = {}
|
|
self.crawled_malls: list[str] = []
|
|
|
|
def add_ai(self, usage):
|
|
"""OpenAI resp.usage(prompt_tokens/completion_tokens) 누적. None 이면 무시."""
|
|
if not usage:
|
|
return
|
|
self.ai_calls += 1
|
|
self.ai_prompt += getattr(usage, "prompt_tokens", 0) or 0
|
|
self.ai_completion += getattr(usage, "completion_tokens", 0) or 0
|
|
|
|
def add_fetch(self, source: str, html_bytes: int, ms: int, crawl: bool = False):
|
|
"""외부 fetch 1건(소스·바이트·소요) 누적. crawl=True 면 오픈마켓 폴백 크롤."""
|
|
self.fetches += 1
|
|
self.html_bytes += html_bytes or 0
|
|
self.source_ms[source] = self.source_ms.get(source, 0) + ms
|
|
if crawl and source not in self.crawled_malls:
|
|
self.crawled_malls.append(source)
|
|
|
|
def snapshot(self) -> dict:
|
|
return {
|
|
"duration_ms": int((time.monotonic() - self._start) * 1000),
|
|
"ai": {
|
|
"calls": self.ai_calls,
|
|
"prompt_tokens": self.ai_prompt,
|
|
"completion_tokens": self.ai_completion,
|
|
"est_cost_usd": estimate_cost(self._model, self.ai_prompt, self.ai_completion),
|
|
},
|
|
"crawl": {
|
|
"fetches": self.fetches,
|
|
"html_bytes": self.html_bytes,
|
|
"malls_crawled": self.crawled_malls,
|
|
},
|
|
"source_ms": self.source_ms,
|
|
}
|