o2o-negosium-original/lps
민헌 2481c79e3f feat(lps): DECODO 포트기반 sticky + 대역폭 최적화(리소스 차단)
대시보드 실측 반영 — Decodo residential 은 포트 기반 sticky(gate:10001..N,
고정 user/pass, 각 포트=sticky 세션). IP 회전 = 포트 순환.

- proxy.DecodoProxy: 시간창 기반 포트 선택(창 안 동일 IP, 창 지나면 다음 포트=새 IP).
  _UNSET sentinel 로 '미지정(env)' vs '명시적 빈값' 구분(테스트 결정성)
- coupang/adapter: 이미지/미디어/폰트/CSS 차단(block_resources) — per-GB 대역폭 대폭 절감,
  Akamai(JS)·상품파싱엔 무영향. 라이브 검증: 차단 ON 에도 Akamai 통과+파싱 정상
- .env.example: DECODO_HOST/USERNAME/PASSWORD/PORT_START/PORT_END/SESSION_MINUTES
- tests: 포트범위/시간창 안정성/활성조건 5건 → 전체 44/44

Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
2026-07-09 09:48:54 +09:00
..
common feat(lps): 재시도/못찾음 완결 로직 — 재정제 루프 + not_found + 네거티브 캐시 2026-07-09 09:12:47 +09:00
config chore(lps): 시크릿용 .env 도입 — API 키(NAVER/OpenAI/Azure) 주입 경로 2026-07-08 17:14:34 +09:00
crud feat(lps): 재시도/못찾음 완결 로직 — 재정제 루프 + not_found + 네거티브 캐시 2026-07-09 09:12:47 +09:00
router feat(lps): 검색 API 라우터 — 요청 적재(enqueue) + 상태/큐 통계 조회 2026-07-08 16:49:28 +09:00
services feat(lps): DECODO 포트기반 sticky + 대역폭 최적화(리소스 차단) 2026-07-09 09:48:54 +09:00
tests feat(lps): DECODO 포트기반 sticky + 대역폭 최적화(리소스 차단) 2026-07-09 09:48:54 +09:00
worker feat(lps): 재시도/못찾음 완결 로직 — 재정제 루프 + not_found + 네거티브 캐시 2026-07-09 09:12:47 +09:00
.dockerignore feat(lps): 인터넷 최저가 검색 솔루션 프레임워크 골격 추가 2026-07-08 15:18:27 +09:00
.env.example feat(lps): DECODO 포트기반 sticky + 대역폭 최적화(리소스 차단) 2026-07-09 09:48:54 +09:00
conftest.py feat(lps): 인터넷 최저가 검색 솔루션 프레임워크 골격 추가 2026-07-08 15:18:27 +09:00
Dockerfile feat(lps): 작업 큐 엔진 — PostgreSQL 원자적 claim + lease + dead-letter 2026-07-08 16:37:32 +09:00
pytest.ini feat(lps): 인터넷 최저가 검색 솔루션 프레임워크 골격 추가 2026-07-08 15:18:27 +09:00
README.md chore(lps): 시크릿용 .env 도입 — API 키(NAVER/OpenAI/Azure) 주입 경로 2026-07-08 17:14:34 +09:00
requirements.txt feat(lps): AI 유사도 판정 — '같은 상품' 매칭으로 액세서리 오염 해결 2026-07-09 08:44:57 +09:00
run_local_server.sh feat(lps): 작업 큐 엔진 — PostgreSQL 원자적 claim + lease + dead-letter 2026-07-08 16:37:32 +09:00
web_main.py feat(lps): 작업 큐 엔진 — PostgreSQL 원자적 claim + lease + dead-letter 2026-07-08 16:37:32 +09:00
worker_main.py feat(lps): DECODO residential 프록시 — 쿠팡 sticky 세션 + 주기적 IP 회전 2026-07-09 09:40:26 +09:00

LPS (Lowest Price Search)

인터넷 최저가를 찾는 솔루션. 프레임워크는 backend 와 동일하게 구성한 골격이며, 구체적인 도메인 로직(크롤링/오픈API 연동/최저가 산정 등)은 아직 정해지지 않았다.

스택 / 아키텍처 (backend 미러링)

  • FastAPI 앱 (router/router.py) + web_main.py 부트스트랩
  • 설정: config/ — TOML 로더(config.local.toml) + pydantic 모델, APP_ENV(기본 local)
  • DB: common/database/db_session_manager.py — 논리 DB × Read/Write 엔진, service→람다 위임 패턴
    • 엔진은 lazy 생성이라 DB 없이도 부팅/healthz 동작한다. 테이블·crud 가 생기면 그때 실제 접속.
  • 공통 응답 규약: common/models/gmodel.py — Res_WebPacketProtocol.result(성공/코드/설명)
  • 결과 코드: common/enums.py — ErrorType, DBType, DBWRType
  • 계층 컨벤션: router(컨트롤러) → services(비즈니스) → crud(DB 접근)

폴더 구조

lps/
├── web_main.py                     # 진입점
├── requirements.txt / Dockerfile / .dockerignore
├── run_local_server.sh             # 로컬 실행(대화형), 포트 9600
├── pytest.ini / conftest.py
├── config/
│   ├── config_loader.py / config_models.py / server_configs.py
│   └── config.local.toml.example   # cp 해서 config.local.toml 로 사용(시크릿, 미커밋)
├── common/
│   ├── enums.py / logger.py / singleton.py
│   ├── utils/gtime.py
│   ├── models/gmodel.py            # 프로토콜 base
│   └── database/{db_session_manager.py, model/models.py(MAIN_BASE)}
├── router/
│   ├── router.py                   # app + /healthz (도메인 라우터 미등록)
│   └── v1/validator/dependencies.py# RemoveNoneResponse
├── services/                       # (비어있음) 도메인 서비스 추가 위치
├── crud/                           # (비어있음) DB 접근 계층 추가 위치
└── tests/test_health.py            # 스모크 테스트

로컬 실행

cp config/config.local.toml.example config/config.local.toml   # DB 등 비-시크릿 설정
cp .env.example .env                                           # 시크릿(API 키) — NAVER/OPENAI 등
./run_local_server.sh                                          # → http://localhost:9600/docs

config.local.toml = 비밀 아닌 설정(포트/DB), .env = 시크릿(API 키). 둘 다 git 미추적. 워커는 별도 프로세스: python worker_main.py

테스트

python -m pytest            # tests/ (기본 healthz 스모크)

포트

  • backend 9300 / negodata 9400 / agent 9500 과 겹치지 않도록 LPS 는 9600 사용.

새 도메인 추가 순서 (backend 컨벤션)

  1. common/database/model/models.py 에 테이블 정의(+ DBType)
  2. crud/<domain>_crud.py (ABC 인터페이스 + 구현)
  3. services/<domain>_service.py (비즈니스 로직)
  4. router/v1/<domain>/{protocol.py, <domain>.py} 작성 후 router/router.py 에서 include_router