Naposledy aktivní 9 months ago

litellm 提供一個統一的介面來呼叫不同的 LLM(如 OpenAI、Anthropic、Azure OpenAI 等),簡化 API 介接,適用於聊天機器人、AI 助理或內容生成應用。

timmy revidoval tento gist 9 months ago. Přejít na revizi

1 file changed, 14 insertions

litellm_completion_example.py(vytvořil soubor)

@@ -0,0 +1,14 @@
1 + import os
2 + from litellm import completion
3 +
4 + # 設定 API 金鑰(建議使用環境變數)
5 + os.environ["OPENAI_API_KEY"] = "your-api-key"
6 +
7 + # 發送請求至 LLM
8 + response = completion(
9 + model="gpt-3.5-turbo",
10 + messages=[{"role": "user", "content": "Hello, how are you?"}]
11 + )
12 +
13 + # 顯示回應
14 + print(response["choices"][0]["message"]["content"])
Novější Starší