o2o-site-AEO/backend/services/external/perplexity.py
Mina Choi 6784e59ca5 최초 커밋 — 기존 코드 전체 + 문서 체계 신설
git 저장소가 없어 히스토리·협업 기반이 아예 없던 상태를 연다.
함께 문서를 재편했다. 그동안 문서가 있어도 "이 제품이 뭘 푸는가"와
"어떻게 도는가"를 담은 문서가 없어서, 목표 문장이 backend/frontend
README 두 곳에 복붙돼 있었다 — 상위 문서가 없어 아래로 샌 것이다.

신설
  README.md               레포 진입점 + 문서 지도 + 문서 규칙 4가지
  AGENTS.md               에이전트·신규 합류자용 함정 목록과 규약
                          (CLAUDE.md 는 여기로 걸린 심볼릭 링크)
  docs/PRODUCT.md         제품 정의 — 문제·사용자·원칙·**non-goals**·성공 기준
  docs/ARCHITECTURE.md    payload 경계·발행 파이프라인·서빙 결정·앱 분리 설계

이동
  backend/docs/DECISIONS.md → docs/DECISIONS.md
    백엔드만의 결정이 아니다. 게다가 코드 주석 ~25곳이 이미
    `docs/DECISIONS.md` 로 적고 있어 레포 루트 기준으로는 그게 맞다.

갱신
  docs/DEPLOY.md          서빙 결정 반영 — nginx 정적 서빙이 지금 경로(3절),
                          Azure 는 나중에 켤 때(4절)로 분리
  docs/ARCHITECTURE.md    사이트 = 한 장(2026-08-31) 구조 반영
  docs/COLLECTION_SEO_AEO_FLOW.md
                          robots.txt·sitemap.xml 은 오리진 루트에만 굽는다는 점 명시
  frontend/site/scripts/prerender.ts
                          헤더 주석의 렌더 보고서 경로가 실제(422줄)와 달라 수정

.gitignore
  ★ CLAUDE.md 를 더 이상 무시하지 않는다. 에이전트 지침은 팀과 모든
    에이전트가 공유하는 규약이라 커밋해야 한다 — 무시하면 클론한 사람이
    "배포 후 republish_all.py 필수" 같은 함정을 전달받지 못한다.
    개인용 오버라이드는 ~/.claude/CLAUDE.md 에 둔다.
2026-08-31 13:57:59 +09:00

144 lines
5.9 KiB
Python

"""채널 URL 발견 — 겹들을 엮어 결과를 만드는 자리.
이 파일이 하는 일은 **엮는 것뿐**이다. 고칠 것이 생기면 해당 겹으로 바로 간다:
무엇을 묻는가 services/prompts/channel_discovery.py 프롬프트·응답 스키마
어떻게 부르는가 services/llm/perplexity.py HTTP·타임아웃·인증
답을 믿을 것인가 services/grounding/channels.py 채널 판정·상세 페이지 필터
무엇을 돌려주는가 여기 호출 → 필터 → 결과 조립
★ Perplexity 응답을 **사실로 쓰지 않는다.** 산출물은 "여기를 보라"는 URL 포인터일 뿐이고,
사실은 그 URL 을 크롤링해 얻는다. 원문(raw)은 감사·환각 추적용으로 통째로 박제한다.
"""
from dataclasses import dataclass, field
import httpx
from common.logger import LOG
from services.grounding.channels import (
DiscoveredLink,
classify_url,
collect_links,
filter_links,
search_count,
)
from services.llm.perplexity import (
DEFAULT_MAX_TOKENS,
DEFAULT_MODEL,
DEFAULT_TIMEOUT,
PerplexityError,
PerplexityNotConfigured,
call,
is_configured,
)
from services.prompts.channel_discovery import RESPONSE_SCHEMA, SYSTEM_PROMPT, build_prompt
# 후기 유입을 막기 위해 공식 채널 도메인만 검색한다.
SEARCH_DOMAIN_FILTER = [
"yanolja.com",
"goodchoice.kr",
"place.naver.com",
"map.naver.com",
"naver.me",
]
# 이 횟수를 넘으면 프롬프트·도메인 필터를 의심한다 — 검색 요금은 토큰 요금과 별도다.
SEARCH_COUNT_WARN_THRESHOLD = 8
@dataclass
class ChannelDiscovery:
"""채널 발견 결과.
links : 상세 페이지로 판정돼 살아남은 후보 URL. 동일 업소 검증을 통과해야 크롤링 대상이 된다
raw : 응답 원문(본문 + search_results). place_links.raw 에 통째로 박제한다
search_count : 이번 호출에서 발생한 검색 횟수 — **검색 요금이 토큰 요금과 별도**라 추적한다
filtered_out : 걸러낸 URL 과 사유 [(url, reason), ...].
★ 조용히 버리지 않는다 — 운영자가 "왜 이 URL 이 빠졌나"를 볼 수 있어야
필터가 과했는지(진짜 채널을 버렸는지) 판단할 수 있다
"""
links: list[DiscoveredLink] = field(default_factory=list)
raw: dict = field(default_factory=dict)
search_count: int = 0
filtered_out: list[tuple[str, str]] = field(default_factory=list)
def reason_counts(self) -> dict[str, int]:
"""탈락 사유별 건수. 로그·운영 화면에서 쓴다."""
counts: dict[str, int] = {}
for _url, reason in self.filtered_out:
counts[reason] = counts.get(reason, 0) + 1
return counts
async def discover_channels(
name: str,
address: str | None = None,
category_hint: str | None = None,
*,
model: str = DEFAULT_MODEL,
include_blogs: bool = False,
client: httpx.AsyncClient | None = None,
) -> ChannelDiscovery:
"""상호명으로 채널 URL 후보를 찾는다. **URL 발견 전용 — 답변을 사실로 쓰지 마라.**
돌려주는 URL 은 아직 '이 가게의 것'이라는 보장이 없다. 동일 업소 검증을 통과해
확정(place_links.confirmed_at)된 URL 만 크롤링 대상이 된다.
발견된 URL 중 **상세 페이지가 아닌 것(루트·목록·SEO 랜딩)과 블로그는 걸러낸다.**
걸러낸 목록은 `filtered_out` 에 사유와 함께 남는다 — 조용히 버리지 않는다.
args:
include_blogs : 블로그·카페 URL 도 후보로 남길지. **기본 False** —
블로그는 채널이 아니라 후기라 크롤링해도 공식 정보가 아니다
raises:
PerplexityNotConfigured : 키 미설정(이 어댑터만 비활성)
PerplexityError : 타임아웃·5xx·응답 파싱 불가
"""
if not (name or "").strip():
raise PerplexityError("상호명이 비어 있다")
body = {
"model": model,
"messages": [
{
"role": "system",
"content": SYSTEM_PROMPT,
},
{"role": "user", "content": build_prompt(name, address, category_hint)},
],
"max_tokens": DEFAULT_MAX_TOKENS,
"temperature": 0, # URL 수집이라 창의성이 해롭다
"response_format": RESPONSE_SCHEMA,
"search_domain_filter": SEARCH_DOMAIN_FILTER, # ★ 야놀자·여기어때·네이버로 한정
}
payload = await call(body, client=client)
found, dropped_raw = collect_links(payload)
links, dropped_quality = filter_links(found, include_blogs)
filtered_out = dropped_raw + dropped_quality
searches = search_count(payload)
result = ChannelDiscovery(
links=links, raw=payload, search_count=searches, filtered_out=filtered_out
)
# 내부 검색 횟수는 품질·지연 관측값이다. Sonar 과금은 토큰 + 요청 컨텍스트 요금이다.
usage = payload.get("usage") or {}
reasons = result.reason_counts()
reason_text = " ".join(f"{k}{v}" for k, v in sorted(reasons.items())) or "없음"
LOG.i(
f"[perplexity] '{name}' 검색={searches}회 발견={len(found)} 통과={len(links)} "
f"탈락={len(filtered_out)}({reason_text}) tokens={usage.get('total_tokens', '?')}"
)
if searches > SEARCH_COUNT_WARN_THRESHOLD:
LOG.w(
f"[perplexity] 검색 {searches}회 — 기준({SEARCH_COUNT_WARN_THRESHOLD}회) 초과. "
f"지연·오탐 후보가 늘 수 있으니 도메인 필터·프롬프트를 확인하라"
)
# raw 는 응답 전체를 그대로 둔다 — 나중에 환각 추적에 쓴다(사실 근거로는 쓰지 않는다).
return result