Tool 정의와 호출

Schema가 prompt야

Tool description이랑 parameter description은 모델이 보는 prompt의 일부야. 모델이 올바른 tool 고르고 정확한 인자 넘기는지 결정해. "정보 가져오기" 같은 모호한 description 주면 나쁜 tool call 받고; 정확한 거 ("미국 상장 ticker (예: 'AAPL')의 주가 lookup. 현재 USD 가격 반환.") 주면 좋은 거 받아.

여러 tool — 모델이 고르게

Tool array 보낼 수 있어. 모델이 어떤 거 (있다면) 호출할지 결정. 한 turn 안에 여러 개 순차 또는 병렬 호출도 가능 — 둘 다 처리해.

응답 모양

모델이 tool 호출 결정하면 응답 message가 빈 content랑 채워진 tool_calls array 가짐. 각 tool call은 function.name (어떤 tool)이랑 function.arguments (이미 dict로 parsing됨 — Ollama가 알아서 JSON parse, JSON 문자열 반환하는 OpenAI랑 다름) 가짐.

Code

한 정의에 여러 tool·python

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Current weather for a city. Returns temp (number) and condition (string).",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string", "description": "City name like 'Tokyo' or 'Seoul'"},
                    "unit": {"type": "string", "enum": ["celsius", "fahrenheit"]},
                },
                "required": ["city"],
            },
        },
    },
    {
        "type": "function",
        "function": {
            "name": "search_files",
            "description": "Search for files matching a glob pattern under a directory.",
            "parameters": {
                "type": "object",
                "properties": {
                    "pattern": {"type": "string", "description": "Glob pattern, e.g. '*.py'"},
                    "directory": {"type": "string", "description": "Directory path; default '.'"},
                },
                "required": ["pattern"],
            },
        },
    },
]

tool_calls 검사하고 dispatch·python

import httpx, json, glob

def get_weather(city: str, unit: str = "celsius") -> str:
    return json.dumps({"city": city, "temp": 22, "unit": unit, "condition": "sunny"})

def search_files(pattern: str, directory: str = ".") -> str:
    matches = glob.glob(f"{directory}/{pattern}")
    return json.dumps({"files": matches[:10], "count": len(matches)})

REGISTRY = {
    "get_weather": get_weather,
    "search_files": search_files,
}

resp = httpx.post(
    "http://localhost:11434/api/chat",
    json={"model": "qwen2.5:7b", "tools": tools, "stream": False,
          "messages": [{"role": "user", "content": "What's the weather in Tokyo?"}]},
    timeout=120.0,
).json()

assistant_msg = resp["message"]
for call in assistant_msg.get("tool_calls", []):
    name = call["function"]["name"]
    args = call["function"]["arguments"]
    print(f"Model wants: {name}({args})")
    if name in REGISTRY:
        result = REGISTRY[name](**args)
        print(f"  -> {result}")

Schema가 prompt야

여러 tool — 모델이 고르게

응답 모양

Code

External links

Exercise

Progress

댓글 0