add autoproxy for firecrwal
parent
638b83ea18
commit
a282bb3b29
|
|
@ -128,9 +128,10 @@ class FirecrawlClient:
|
|||
},
|
||||
"waitFor": 5000,
|
||||
"maxAge": 0,
|
||||
"timeout": 180000, # Firecrawl 잡 타임아웃(ms) — links+rawHtml+json(doctors·branding 포함) 조합 추출이 기본 60s를 넘기는 경우가 잦아 180s로 상향.
|
||||
"proxy": "auto", # 기본 엔진이 차단되는 사이트(예: viewclinic.com)는 자동으로 stealth 프록시로 재시도.
|
||||
"timeout": 120000, # proxy:auto면 60s로도 충분했지만(실측), 혹시 모르니 여유있게 120s.
|
||||
},
|
||||
timeout=200, # 위 Firecrawl 잡 타임아웃보다 길어야 우리 쪽 HTTP 클라이언트가 먼저 끊지 않음.
|
||||
timeout=150, # 위 Firecrawl 잡 타임아웃보다 길어야 우리 쪽 HTTP 클라이언트가 먼저 끊지 않음.
|
||||
label="firecrawl-clinic-info",
|
||||
)
|
||||
if not resp or not resp.is_success:
|
||||
|
|
|
|||
Loading…
Reference in New Issue