Cookbook

サポートボットにナレッジベースを接続

ドキュメントを検索可能なコンテキストに。

Doubao Embedding 2 でドキュメントを分割・ベクトル化し、検索した断片を system プロンプトに入れてテキストモデルで回答します。

emb = client.embeddings.create(model="<embedding-model-id>", input=chunks)
index.add([e.embedding for e in emb.data], chunks)

q = client.embeddings.create(model="<embedding-model-id>", input=[question]).data[0].embedding
ctx = "\n\n".join(index.search(q, k=5))
r = client.chat.completions.create(model="waffo.seed-2-0-mini-260428",
    messages=[{"role": "system", "content": f"只根据资料回答:\n{ctx}"}, {"role": "user", "content": question}])