Responses API Streaming — typed semantic events

Chat Completions 가 raw delta 를 주고 의미 조립을 dev 에 맡긴다면, Responses 는 typed semantic event 를 줘. response.output_text.delta, response.output_text.done, response.tool_call.created, response.error — type 으로 filter, type 위에서 build.

왜 typed 가 더 나아

Untyped delta 는 'concat 해서 의미 만들어' 가 dev 의 일. Typed event 는 'text delta 인지, tool 시작인지, error 인지' 가 wire 에서 명시. 같은 코드가 더 짧고 더 robust.

Event 의 종류 (대표적)

response.created — response 시작
response.output_text.delta — 새 텍스트 fragment
response.output_text.done — 텍스트 완료
response.tool_call.created / ...arguments.delta — tool 호출 흐름
response.error — 실패
response.completed — 전체 종료

Filtering 패턴

async for event in stream: if event.type.endswith('.delta'): ... — type prefix/suffix 로 grouping. Untyped delta 의 'concat 한 후 정규식' 같은 hack 이 필요 없어.

Code

for event in stream — typed events·python

stream = client.responses.create(
    model="gpt-5.4",
    input="Write a poem about the ocean.",
    stream=True,
)

for event in stream:
    match event.type:
        case "response.output_text.delta":
            print(event.delta, end="", flush=True)
        case "response.function_call_arguments.delta":
            print(f"[tool args: {event.delta}]")
        case "response.completed":
            print(f"\\n\\nDone. Tokens: {event.response.usage.total_tokens}")
        case "error":
            print(f"Error: {event.message}")

Responses API Streaming — typed semantic events

왜 typed 가 더 나아

Event 의 종류 (대표적)

Filtering 패턴

Code

External links

Exercise

Progress

댓글 0