o2o-site-AEO/solution/backend/services/llm/perplexity.py
김성경 dbae2d4f35 [feat] solution/backend: LLM 공급자를 OpenAI 기본값으로 전환, Perplexity 실비용 계측 추가
## 1. Gemini -> OpenAI 공급자 추상화

Gemini 쿼터/인증 실패로 COPY 잡(소개문·FAQ 생성)이 반복 DEAD 되는 걸 보고, 공급자를
OpenAI로 바꾸되 설정 하나로 되돌릴 수 있게 했다.

- services/llm/errors.py·types.py(신규): 공급자 무관 예외·Usage·ImagePart·LlmResult
- services/llm/gemini.py: 기존 call() 은 그대로 두고 generate() 인터페이스 추가
- services/llm/openai.py(신규): OpenAI Chat Completions 구현. 실측(2026-09-16):
  gpt-5.6-luna 는 temperature 커스텀 값을 거부한다("Only the default (1) value is
  supported") — 아예 안 보낸다.
- services/llm/provider.py(신규): LLM_PROVIDER 설정(기본 openai, 모르는 값은 gemini)으로
  둘 중 하나를 고른다.
- gemini_text.py·gemini.py(vision)·gemini_extract.py: 공개 함수 이름은 그대로 두고
  내부만 provider.active() 로 배선 — vision_service.py 등 6개 호출부는 무변경.
  단 model 선택 로직(vision_service.py·copy_steps.py)은 공급자에 맞는 모델명을 고르도록 한 줄씩 고쳤다.
- config_models.py: llm_provider·openai_api_key·openai_text_model·openai_vision_model 추가.

## 2. Perplexity 실비용 계측 추가

OpenAI 전환 김에 실제 발행 파이프라인(스테이,머뭄 기준)을 끝까지 돌려 LLM 비용을 재보니,
services/llm/perplexity.py 에는 애초에 토큰·비용 계측이 없었다. 추가하는 과정에서
실측(2026-09-16, 실제 API 응답): `usage.cost` 는 문서 예시(평평한 숫자)와 달리
`{input_tokens_cost, output_tokens_cost, request_cost, total_cost}` 객체였다 — 그대로
가정하고 배포했다가 지역 이야기 생성(LOCAL_SYNC) 잡이 재시도 3회 후 DEAD 로 떨어지는 걸
라이브에서 확인하고 고쳤다. 어떤 모양이 와도 예외를 던지지 않게 방어했다.

- services/llm/perplexity.py: Usage·read_usage() 추가(usage.cost.total_cost 를 그대로 읽는다
  — 토큰 단가표로 역산하지 않는다. 검색 컨텍스트 요금까지 포함된 진짜 값이라서다)
- external/perplexity.py·place_research.py·story_service.py·itinerary_llm_service.py·
  external/restaurant_discovery.py: 각 호출부에 tokens/비용 로그 추가

실측(스테이,머뭄 1건 발행, 지역 콘텐츠는 캐시): Perplexity $0.050(일정 생성이 절반 이상),
OpenAI $0.019(비전 $0.015 + 소개문·FAQ $0.003 + 가사 $0.0006).

검증: 신규/영향받은 테스트 전부 통과(services/llm 신규 3파일, gemini_extract 최초 HTTP
계층 테스트, perplexity 비용 계측 등). 실 OpenAI/Perplexity API로 사업장 수집→비전→
소개문·FAQ→발행까지 라이브로 왕복 확인.

## 3. site/EssentialInfoSection.tsx

미확인 항목 개수 안내 문구 제거(별도 작업, 스테이징된 상태 그대로 포함).

Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
2026-09-16 17:30:11 +09:00

109 lines
4.6 KiB
Python

"""Perplexity 호출 — 이 프로젝트에서 Perplexity 로 나가는 **유일한 통로**.
여기가 책임지는 것: 주소·인증 헤더·타임아웃·응답 파싱.
여기가 책임지지 않는 것: 무엇을 물을지(services/prompts/channel_discovery.py),
답으로 받은 URL 을 믿을지(services/grounding/channels.py).
★ Perplexity 답변을 **사실로 쓰지 않는다.** 이 어댑터의 산출물은 "여기를 보라"는 URL 포인터일
뿐이고, 실제 사실은 그 URL 을 크롤링해서 얻는다. 그래서 응답 원문(raw)을 통째로 박제해
나중에 환각을 추적할 수 있게 한다.
"""
import json
from dataclasses import dataclass
import httpx
from config.server_configs import external_api_config
API_URL = "https://api.perplexity.ai/chat/completions"
DEFAULT_MODEL = "sonar"
# 첫 구조화 출력 요청은 스키마 준비에 10~30초가 걸린다 — 그 시간을 포함한 값이다.
DEFAULT_TIMEOUT = httpx.Timeout(90.0, connect=10.0)
DEFAULT_MAX_TOKENS = 2048
class PerplexityError(RuntimeError):
"""Perplexity 호출 실패. 호출측(collector)은 ErrorType.COLLECT_FETCH_FAILED 로 매핑한다."""
class PerplexityNotConfigured(PerplexityError):
"""PERPLEXITY_API_KEY 미설정 — 이 어댑터만 비활성. **서버 부팅을 막지 않는다.**"""
def is_configured() -> bool:
"""키가 설정돼 있는지. 어댑터 등록 여부를 판단할 때 쓴다."""
return bool((external_api_config.perplexity_api_key or "").strip())
@dataclass
class Usage:
"""호출 1회의 실제 사용량·비용.
★ cost 는 우리가 계산한 값이 아니라 Perplexity 가 응답에 직접 실어주는 실제 청구액(USD)이다
(`usage.cost.total_cost`) — 검색 컨텍스트 요금(request_cost)까지 포함된 진짜 값이라,
Gemini·OpenAI 처럼 토큰 단가표로 역산하는 것보다 정확하다.
★ 실측(2026-09-16): `usage.cost` 는 평평한 숫자가 아니라
`{"input_tokens_cost", "output_tokens_cost", "request_cost", "total_cost"}` 객체다 —
문서 예시(평평한 숫자)와 다르다. num_search_queries 는 비용은 아니지만 검색 남용 감시용으로 같이 둔다."""
input_tokens: int = 0
output_tokens: int = 0
num_search_queries: int = 0
cost: float = 0.0
def read_usage(payload: dict) -> Usage:
"""응답의 usage 를 읽는다. 필드가 없거나 모양이 다르면 0 — 계측 실패가 본 기능을 막으면 안 된다."""
u = payload.get("usage") or {}
cost_field = u.get("cost")
if isinstance(cost_field, dict):
cost = cost_field.get("total_cost")
else:
cost = cost_field
return Usage(
input_tokens=int(u.get("prompt_tokens") or 0),
output_tokens=int(u.get("completion_tokens") or 0),
num_search_queries=int(u.get("num_search_queries") or 0),
cost=float(cost) if isinstance(cost, (int, float)) else 0.0,
)
async def call(body: dict, *, client: httpx.AsyncClient | None = None) -> dict:
"""★ LLM 이 실제로 불리는 지점. chat/completions 1회.
Gemini 쪽(services/llm/gemini.py)과 달리 재시도하지 않는다 — 이 호출은 검색을 동반해
한 번이 비싸고 느리다. 실패하면 수집 파이프라인이 등록된 링크로 그냥 진행한다
(services/collect_service.py 의 discover_links 참조).
응답 본문(dict)을 그대로 돌려준다. 해석은 부르는 쪽 몫이다.
"""
api_key = (external_api_config.perplexity_api_key or "").strip()
if not api_key:
raise PerplexityNotConfigured("PERPLEXITY_API_KEY 미설정 — 채널 발견을 건너뛴다")
headers = {"Authorization": f"Bearer {api_key}", "Content-Type": "application/json"}
owns_client = client is None
http = client or httpx.AsyncClient(timeout=DEFAULT_TIMEOUT)
try:
resp = await http.post(API_URL, json=body, headers=headers)
except httpx.TimeoutException as ex:
raise PerplexityError(f"Perplexity 타임아웃: {ex}") from ex
except httpx.HTTPError as ex:
raise PerplexityError(f"Perplexity 호출 실패: {type(ex).__name__}: {ex}") from ex
finally:
if owns_client:
await http.aclose()
if resp.status_code != 200:
raise PerplexityError(f"Perplexity 응답 오류: status={resp.status_code} body={resp.text[:200]}")
try:
payload = resp.json()
except (json.JSONDecodeError, ValueError) as ex:
raise PerplexityError(f"Perplexity 응답 JSON 파싱 실패: {ex}") from ex
if not isinstance(payload, dict):
raise PerplexityError("Perplexity 응답이 객체가 아니다")
return payload