CPU 배포 이미지에서 CUDA 의존성 분리
This commit is contained in:
parent
ce50e89089
commit
8b0a7e45ac
@ -31,7 +31,8 @@ AI_DETECTOR_USE_POS=true
|
|||||||
SIMILARITY_THRESHOLD=0.85
|
SIMILARITY_THRESHOLD=0.85
|
||||||
|
|
||||||
# KoSimCSE / KoSBERT (PDF VII-3 권장 - 한국어 오픈소스 임베딩, 자체 산출물)
|
# KoSimCSE / KoSBERT (PDF VII-3 권장 - 한국어 오픈소스 임베딩, 자체 산출물)
|
||||||
USE_KOSIMCSE=true
|
# CPU 기본 이미지는 torch를 포함하지 않습니다. 레거시 KoSimCSE를 별도 설치한 경우만 true.
|
||||||
|
USE_KOSIMCSE=false
|
||||||
KOSIMCSE_MODEL=BM-K/KoSimCSE-roberta-multitask
|
KOSIMCSE_MODEL=BM-K/KoSimCSE-roberta-multitask
|
||||||
KOSIMCSE_MAX_LENGTH=512
|
KOSIMCSE_MAX_LENGTH=512
|
||||||
|
|
||||||
|
|||||||
@ -35,7 +35,7 @@ class Settings(BaseSettings):
|
|||||||
similarity_threshold: float = 0.85
|
similarity_threshold: float = 0.85
|
||||||
|
|
||||||
# KoSimCSE / KoSBERT (PDF VII-3 권장) - 한국어 오픈소스 임베딩
|
# KoSimCSE / KoSBERT (PDF VII-3 권장) - 한국어 오픈소스 임베딩
|
||||||
use_kosimcse: bool = True
|
use_kosimcse: bool = False
|
||||||
kosimcse_model: str = "BM-K/KoSimCSE-roberta-multitask"
|
kosimcse_model: str = "BM-K/KoSimCSE-roberta-multitask"
|
||||||
kosimcse_max_length: int = 512
|
kosimcse_max_length: int = 512
|
||||||
|
|
||||||
|
|||||||
@ -120,3 +120,10 @@ python -m scripts.validate_precedents data/precedents/precedents.jsonl
|
|||||||
|
|
||||||
Ubuntu 18.04는 지원 종료 상태이므로 OS 업그레이드 전까지 외부 공개 범위를 최소화하고,
|
Ubuntu 18.04는 지원 종료 상태이므로 OS 업그레이드 전까지 외부 공개 범위를 최소화하고,
|
||||||
API 인증·방화벽·키 회전을 별도 운영 작업으로 완료해야 한다.
|
API 인증·방화벽·키 회전을 별도 운영 작업으로 완료해야 한다.
|
||||||
|
|
||||||
|
## 선택적 KoSimCSE
|
||||||
|
|
||||||
|
기본 CPU 이미지는 새 영속 문자 인덱스를 사용하며 `torch`와 `sentence-transformers`를
|
||||||
|
포함하지 않는다. 일반 PyPI의 최신 torch가 CUDA 런타임 수 GB를 함께 설치할 수 있기
|
||||||
|
때문이다. 레거시 KoSimCSE가 반드시 필요한 별도 이미지에서만 해당 Python 버전에 맞는
|
||||||
|
공식 CPU 전용 torch wheel을 먼저 설치한 뒤 sentence-transformers를 추가한다.
|
||||||
|
|||||||
@ -9,7 +9,6 @@ openai>=1.55
|
|||||||
httpx>=0.27
|
httpx>=0.27
|
||||||
kiwipiepy>=0.18
|
kiwipiepy>=0.18
|
||||||
datasketch>=1.6
|
datasketch>=1.6
|
||||||
sentence-transformers>=3.0
|
|
||||||
openpyxl>=3.1
|
openpyxl>=3.1
|
||||||
joblib>=1.4
|
joblib>=1.4
|
||||||
scipy>=1.13
|
scipy>=1.13
|
||||||
|
|||||||
Loading…
Reference in New Issue
Block a user