Ollama API 客戶端的應用 düzenlemesi

timmy bu gisti düzenledi 10 months ago. Düzenlemeye git

Değişiklik yok

timmy bu gisti düzenledi 11 months ago. Düzenlemeye git

1 file changed, 22 insertions

ollama_client_example.py(dosya oluşturuldu)

		@@ -0,0 +1,22 @@
1	+	from ollama_client import OllamaClient
2	+
3	+	# 初始化 OllamaClient
4	+	api_url = "http://192.168.88.82:11434" # 替換為你的 API URL
5	+	api_key = "your_api_key_here" # 如果需要身份驗證，填入 API 金鑰；否則設為 None
6	+	client = OllamaClient(api_url=api_url, api_key=api_key)
7	+
8	+	# 呼叫 process_text 處理文本
9	+	text_to_process = "Hello, how are you?"
10	+	additional_prompt = "This is a polite greeting example."
11	+	result = client.process_text(text=text_to_process, additional_prompt=additional_prompt)
12	+
13	+	print("處理結果:")
14	+	print(result)
15	+
16	+	# 呼叫 get_models 獲取可用模型列表
17	+	available_models = client.get_models()
18	+
19	+	print("可用模型列表:")
20	+	for model in available_models:
21	+	print(model)
22	+

timmy bu gisti düzenledi 11 months ago. Düzenlemeye git

Değişiklik yok

timmy bu gisti düzenledi 11 months ago. Düzenlemeye git

1 file changed, 7 insertions, 7 deletions

ollama_client.py

			@@ -10,7 +10,7 @@ class OllamaClient:
10	10		:param api_key: 如果需要身份驗證，填入 API 金鑰；否則為 None。
11	11		:param timeout: 請求超時時間（秒）。
12	12		"""
13		-	self.api_url = api_url.rstrip("/") # 移除末尾的斜杠以避免拼接錯誤
	13	+	self.api_url = api_url.rstrip("/") # 移除末尾的斜槓以避免拼接錯誤
14	14		self.api_key = api_key
15	15		self.timeout = timeout
16	16		self.headers = {"Content-Type": "application/json"}
			@@ -19,12 +19,12 @@ class OllamaClient:
19	19
20	20		def process_text(self, text, model="qwen2.5:14b", additional_prompt=None):
21	21		"""
22		-	發送文本到指定模型，並獲取處理後的結果。
	22	+	發送文字到指定模型，並獲取處理後的結果。
23	23
24		-	:param text: 要處理的文本。
25		-	:param model: 指定要使用的模型（默認為 'qwen2.5:14b'）。
26		-	:param additional_prompt: 可選的提示詞，將添加在文本之前。
27		-	:return: 處理後的文本。
	24	+	:param text: 要處理的文字。
	25	+	:param model: 指定要使用的模型（預設為 'qwen2.5:14b'）。
	26	+	:param additional_prompt: 可選的提示詞，將添加在文字之前。
	27	+	:return: 處理後的文字。
28	28		"""
29	29		# 合成最終的 prompt
30	30		final_prompt = f"{additional_prompt}\n{text}" if additional_prompt else text
			@@ -63,7 +63,7 @@ class OllamaClient:
63	63
64	64		def get_models(self):
65	65		"""
66		-	獲取當前可用的模型完整資訊。
	66	+	獲取目前可用的模型完整資訊。
67	67
68	68		:return: 包含模型完整資訊的列表（如果失敗，返回空列表）。
69	69		"""

timmy bu gisti düzenledi 11 months ago. Düzenlemeye git

1 file changed, 86 insertions

ollama_client.py(dosya oluşturuldu)

		@@ -0,0 +1,86 @@
1	+	import requests
2	+
3	+
4	+	class OllamaClient:
5	+	def __init__(self, api_url, api_key=None, timeout=30):
6	+	"""
7	+	初始化 OllamaClient。
8	+
9	+	:param api_url: API 基本端點，例如 'http://192.168.88.82:11434'
10	+	:param api_key: 如果需要身份驗證，填入 API 金鑰；否則為 None。
11	+	:param timeout: 請求超時時間（秒）。
12	+	"""
13	+	self.api_url = api_url.rstrip("/") # 移除末尾的斜杠以避免拼接錯誤
14	+	self.api_key = api_key
15	+	self.timeout = timeout
16	+	self.headers = {"Content-Type": "application/json"}
17	+	if self.api_key:
18	+	self.headers["Authorization"] = f"Bearer {self.api_key}"
19	+
20	+	def process_text(self, text, model="qwen2.5:14b", additional_prompt=None):
21	+	"""
22	+	發送文本到指定模型，並獲取處理後的結果。
23	+
24	+	:param text: 要處理的文本。
25	+	:param model: 指定要使用的模型（默認為 'qwen2.5:14b'）。
26	+	:param additional_prompt: 可選的提示詞，將添加在文本之前。
27	+	:return: 處理後的文本。
28	+	"""
29	+	# 合成最終的 prompt
30	+	final_prompt = f"{additional_prompt}\n{text}" if additional_prompt else text
31	+
32	+	payload = {
33	+	"model": model,
34	+	"prompt": final_prompt,
35	+	"stream": False, # 確保回應為全量模式
36	+	}
37	+	try:
38	+	response = requests.post(
39	+	f"{self.api_url}/api/generate",
40	+	json=payload,
41	+	headers=self.headers,
42	+	timeout=self.timeout,
43	+	)
44	+	response.raise_for_status()
45	+
46	+	# 確保回應是 JSON 格式
47	+	try:
48	+	data = response.json()
49	+	except ValueError as e:
50	+	print(f"無法解析 Ollama LLM 的回應，非 JSON 格式: {e}")
51	+	print(f"回應內容: {response.text}")
52	+	return text
53	+
54	+	# 提取回應中的處理結果
55	+	processed_text = data.get("response")
56	+	if not processed_text:
57	+	print("Ollama LLM 回應中缺少 'response' 欄位。")
58	+	return text
59	+	return processed_text
60	+	except requests.exceptions.RequestException as e:
61	+	print(f"Ollama LLM 請求錯誤: {e}")
62	+	return text
63	+
64	+	def get_models(self):
65	+	"""
66	+	獲取當前可用的模型完整資訊。
67	+
68	+	:return: 包含模型完整資訊的列表（如果失敗，返回空列表）。
69	+	"""
70	+	try:
71	+	response = requests.get(
72	+	f"{self.api_url}/api/tags", headers=self.headers, timeout=self.timeout
73	+	)
74	+	response.raise_for_status()
75	+	data = response.json()
76	+	models = data.get("models", [])
77	+	if not models:
78	+	print("未能從 Ollama LLM 獲取模型列表。")
79	+	return []
80	+	return models
81	+	except requests.exceptions.RequestException as e:
82	+	print(f"Ollama LLM 請求錯誤: {e}")
83	+	return []
84	+	except ValueError:
85	+	print("無法解析 Ollama LLM 的回應。")
86	+	return []

Daha yeni Daha eski