문은 객체가 아니라 디바이스에 달아

# 전: 표가 adapter 인스턴스에 산다.
class LocalAdapter(Adapter):
    def __init__(self):
        self._gpu = asyncio.Semaphore(1)   # 이 객체의 호출만 지킴

# ...한편 완전히 다른 route 에서:
async def upscale(req):
    # 같은 디바이스. 다른 객체. 표를 달라고 한 적이 없음.
    return await asyncio.to_thread(run_upscaler, req)   # 문 밖


# 후: 표가 자원이랑 같은 자리, 프로세스 범위에 산다.
_gate: asyncio.Semaphore | None = None

def gpu_gate() -> asyncio.Semaphore:
    """같이 쓰는 GPU 표. 디바이스 작업이면 뭐든 이걸 받고 해."""
    global _gate
    if _gate is None:                # 늦게 만듦: 돌고 있는 loop 에 묶임
        _gate = asyncio.Semaphore(1)
    return _gate

# 이제 모든 입구가 표 하나를 같이 씀:
async with gpu_gate():
    await run_gpu_thread(infer, ...)      # 생성
async with gpu_gate():
    await run_gpu_thread(upscale, ...)    # upscale

def reset_gpu_gate_for_tests() -> None:
    """프로세스 범위는 프로세스 수명을 가져. 테스트 프로세스도 포함해서.
    autouse fixture 가 singleton 을 떨궈서 테스트 loop 마다 다시 묶이게 함."""
    global _gate
    _gate = None

# 취소 경합: AWAIT 가 풀릴 때 표를 놓는 경우.
async with gpu_gate():
    await asyncio.to_thread(infer_sync, ...)
# task.cancel() -> await 가 지금 풀림 -> `async with` 가 지금 빠져나감
# -> 표가 빔. worker 스레드는 아직 디바이스 위에서 한창 돌고 있음.
# 다음 job 이 합법적으로 표를 받아서 두 번째 inference 를 쌓음.

# 고침: 내가 기다리기를 관둘 때가 아니라 스레드가 빠져나올 때까지 쥐고 있기.
async def run_gpu_thread(fn, /, *args, record=None):
    inner = asyncio.ensure_future(asyncio.to_thread(fn, *args))
    try:
        return await asyncio.shield(inner)        # 취소가 inner 를 못 죽임
    except asyncio.CancelledError:
        if record is not None:
            record.cancel_requested = True        # 단계 콜백이 이걸 읽음
        while not inner.done():                   # 디바이스가 빌 때까지 기다림
            try:
                await asyncio.shield(inner)
            except asyncio.CancelledError:
                continue                          # 또 들어온 취소는 흡수
            except BaseException:
                break
        raise                                     # 이제야 위로 올려보냄

# 이제 놓는 건 내 제어 흐름이 아니라 디바이스에 대한 진술이야.