Slide 47
Slide 47 text
AutoGen で SLM を呼び出すには?
モデルの定義部分を差し替える!(逆に言えば、これだけ!)
# Azure OpenAI Base のモデル
model_client =
AzureOpenAIChatCompletionClient(
azure_endpoint=os.getenv("ENDPOINT"),
api_key=os.getenv("API_KEY"),
api_version=os.getenv("API_VERSION"),
model=os.getenv("MODEL")
)
# Ollama でホストされた Phi-4
model_client = OpenAIChatCompletionClient(
api_key="plaseholder_but_not_used",
model="phi4",
base_url="http://localhost:11434/v1",
temperature=0.7,
max_tokens=1024,
model_info={
"json_output": False,
"function_calling": False,
"vision": False,
"family": "unknown",
},
)
ここで、Function Calling に対応したモデルか、
画像入力に対応したモデルか、など、
モデルの機能性について json で定義する。