timmy / 使用 litellm 呼叫 LLM API 生成回應

0 лайк(-ов)
0 форк(-ов)
1 файл(-ов)
Последняя активность 9 months ago
litellm 提供一個統一的介面來呼叫不同的 LLM(如 OpenAI、Anthropic、Azure OpenAI 等),簡化 API 介接,適用於聊天機器人、AI 助理或內容生成應用。
1 import os
2 from litellm import completion
3
4 # 設定 API 金鑰(建議使用環境變數)
5 os.environ["OPENAI_API_KEY"] = "your-api-key"
6
7 # 發送請求至 LLM
8 response = completion(
9 model="gpt-3.5-turbo",
10 messages=[{"role": "user", "content": "Hello, how are you?"}]
Новее Позже