e27b73c018
소스 어댑터 패턴으로 크롤링을 시작한다. 쿠팡은 Akamai Bot Manager 의 JS 행동 챌린지라 curl_cffi 단독 불가 → Patchright(스텔스 Playwright) + 실제 Chrome(channel=chrome)으로 챌린지를 통과하고 selectolax 로 파싱한다. - contract: SearchAdapter(ABC)·NormalizedProduct·AdapterHealth·AdapterError - coupang: adapter(브라우저 재사용, 챌린지 1회)·parser(순수)·selectors(외부화, webpack 해시 prefix 매칭) - 공용: rate_limiter(2~8s 랜덤)·proxy(무프록시 off 인터페이스)·util.parse_price - 가격 파싱: 단위가격 '(1개당 44,400원)'의 앞 '1' 오인 방지 — '원' 앞 숫자 앵커링 - deps: curl_cffi·selectolax·patchright(nodriver 는 py3.14 버그로 대체) - tests: 파서 회귀(소형 fixture) — 라이브 2회 검색 + 파서 3/3 통과 Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com> |
||
|---|---|---|
| .. | ||
| common | ||
| config | ||
| crud | ||
| router | ||
| services | ||
| tests | ||
| .dockerignore | ||
| conftest.py | ||
| Dockerfile | ||
| pytest.ini | ||
| README.md | ||
| requirements.txt | ||
| run_local_server.sh | ||
| web_main.py | ||
LPS (Lowest Price Search)
인터넷 최저가를 찾는 솔루션. 프레임워크는 backend 와 동일하게 구성한 골격이며,
구체적인 도메인 로직(크롤링/오픈API 연동/최저가 산정 등)은 아직 정해지지 않았다.
스택 / 아키텍처 (backend 미러링)
- FastAPI 앱 (
router/router.py) +web_main.py부트스트랩 - 설정:
config/— TOML 로더(config.local.toml) + pydantic 모델,APP_ENV(기본 local) - DB:
common/database/db_session_manager.py— 논리 DB × Read/Write 엔진, service→람다 위임 패턴- 엔진은 lazy 생성이라 DB 없이도 부팅/healthz 동작한다. 테이블·crud 가 생기면 그때 실제 접속.
- 공통 응답 규약:
common/models/gmodel.py—Res_WebPacketProtocol.result(성공/코드/설명) - 결과 코드:
common/enums.py—ErrorType,DBType,DBWRType - 계층 컨벤션:
router(컨트롤러) →services(비즈니스) →crud(DB 접근)
폴더 구조
lps/
├── web_main.py # 진입점
├── requirements.txt / Dockerfile / .dockerignore
├── run_local_server.sh # 로컬 실행(대화형), 포트 9400
├── pytest.ini / conftest.py
├── config/
│ ├── config_loader.py / config_models.py / server_configs.py
│ └── config.local.toml.example # cp 해서 config.local.toml 로 사용(시크릿, 미커밋)
├── common/
│ ├── enums.py / logger.py / singleton.py
│ ├── utils/gtime.py
│ ├── models/gmodel.py # 프로토콜 base
│ └── database/{db_session_manager.py, model/models.py(MAIN_BASE)}
├── router/
│ ├── router.py # app + /healthz (도메인 라우터 미등록)
│ └── v1/validator/dependencies.py# RemoveNoneResponse
├── services/ # (비어있음) 도메인 서비스 추가 위치
├── crud/ # (비어있음) DB 접근 계층 추가 위치
└── tests/test_health.py # 스모크 테스트
로컬 실행
cp config/config.local.toml.example config/config.local.toml # 값 채우기
./run_local_server.sh # → http://localhost:9400/docs
테스트
python -m pytest # tests/ (기본 healthz 스모크)
포트
- backend 9300 / agent 9500 과 겹치지 않도록 LPS 는 9400 사용.
새 도메인 추가 순서 (backend 컨벤션)
common/database/model/models.py에 테이블 정의(+DBType)crud/<domain>_crud.py(ABC 인터페이스 + 구현)services/<domain>_service.py(비즈니스 로직)router/v1/<domain>/{protocol.py, <domain>.py}작성 후router/router.py에서include_router