Function calling と構造化出力

Arkor の推論エンドポイントが POST /v1/chat/completions で OpenAI 互換の tools、tool_choice、response_format フィールドを受け付けるようになりました。

新しくなったこと#

• Function calling: tools の配列と tool_choice を渡すと、モデルが呼び出すと判断したときに構造化された tool_calls を出力します。
• 構造化出力: 応答を JSON Schema、正規表現、または固定の文法に制約できます。

エンドポイントでツールを有効にする#

推論ワーカーのデプロイ時に tool-call パーサーを設定し、再デプロイしてください。