モデルとルーティング

モデルのフォールバック

主モデルが使えないとき自動で切り替え。

models 配列に優先順で指定します。先頭が 503 やタイムアウトなら次を使い、レスポンスの model フィールドで実際に使ったモデルが分かります。

-d '{"models":["waffo.seed-2-0-mini-260428","<another-model-id>"],
     "messages":[{"role":"user","content":"Hello"}]}'
フォールバックは利用不可のときだけ発動し、内容による拒否では切り替わりません。