All gists matching topic llm

timmy / 使用 litellm 呼叫 LLM API 生成回應

0 Favoriten
0 Forks
1 Dateien
Zuletzt aktiv 9 months ago
litellm 提供一個統一的介面來呼叫不同的 LLM（如 OpenAI、Anthropic、Azure OpenAI 等），簡化 API 介接，適用於聊天機器人、AI 助理或內容生成應用。
ai api chatbot litellm llm openai python
1 import os
2 from litellm import completion
3
4 # 設定 API 金鑰（建議使用環境變數）
5 os.environ["OPENAI_API_KEY"] = "your-api-key"
6
7 # 發送請求至 LLM
8 response = completion(
9 model="gpt-3.5-turbo",
10 messages=[{"role": "user", "content": "Hello, how are you?"}]

timmy / Streamlit 聊天應用示範

0 Favoriten
0 Forks
1 Dateien
Zuletzt aktiv 10 months ago
此範例展示如何使用 Streamlit 建立簡單的聊天應用，模擬 AI 助手回應使用者輸入。利用 st.chat_message 來顯示對話歷史，並透過 st.chat_input 來獲取使用者輸入，使應用具備互動性，適合用於 AI 對話介面開發。
chat-app interactive-gui llm python streamlit ui-design
1 import streamlit as st
2 import random
3 import time
4
5 st.write("Streamlit loves LLMs! 🤖 [Build your own chat app](https://docs.streamlit.io/develop/tutorials/llms/build-conversational-apps) in minutes, then make it powerful by adding images, dataframes, or even input widgets to the chat.")
6
7 st.caption("Note that this demo app isn't actually connected to any LLMs. Those are expensive ;)")
8
9 # Initialize chat history
10 if "messages" not in st.session_state:
Neuer Älter

Powered by Opengist ⋅ Load: 51ms⋅

Deutsch