프로덕션을 깨지 않는 임베딩 버전 관리

시간이 지나며 바뀌는 세 가지

임베딩 모델 — 제공자가 v3를 내놓아 업그레이드하고 싶어져.
청킹 전략 — 분할기나 청크 크기를 바꾸게 돼.
메타데이터 스키마 — tenant_id나 권한 수준을 추가하게 돼.

세 변경 모두 다시 수집해야 해. 핵심은 유지 보수 중단 없이 해내는 거야.

이름에 버전 접미사를 붙여

컬렉션이나 테이블 이름에 docs-bge-m3-v3, chats-openai-large-2026q2처럼 버전을 넣고 앱은 설정 포인터로 현재 버전을 가리켜. 새 컬렉션을 나란히 만들고 검증한 뒤 포인터를 전환하고, 일주일 뒤 이전 컬렉션을 지워. 되돌릴 때도 설정 하나만 바꾸면 돼.

검색 시점의 예비 경로

이전 기간에는 새 컬렉션과 이전 컬렉션을 모두 검색하고 최저 점수를 넘는 결과가 더 많은 쪽을 반환할 수 있어. 새 모델이 일부 쿼리에서 더 나쁜 경우를 완전히 전환하기 전에 발견할 수 있지.

Code

버전이 있는 컬렉션 도우미·python

import os

DOCS_COLLECTION = os.environ.get('DOCS_COLLECTION', 'docs-bge-m3-v3')

def docs():
    return get_client().get_or_create_collection(DOCS_COLLECTION,
                                                 metadata={'hnsw:space': 'cosine'})

전환 기간의 이중 읽기·python

OLD = get_client().get_collection('docs-bge-m3-v2')
NEW = get_client().get_collection('docs-bge-m3-v3')

def retrieve(question: str, k: int = 5, min_score: float = 0.3):
    new_results = query(NEW, question, k)
    above = [r for r in new_results if (1 - r['distance']) >= min_score]
    if len(above) >= k:
        return above
    # 새 collection 이 이 query 에 thin 이면 옛 collection 으로 fallback
    return query(OLD, question, k)

시간이 지나며 바뀌는 세 가지

이름에 버전 접미사를 붙여

검색 시점의 예비 경로

Code

External links

Exercise

Progress

댓글 0