Ollama 已在当地摆设了deepseek，怎样用Python语言调用

以下是利用 Python 调用摆设在 Ollama 上的 DeepSeek 模子的步调：
1. 安装依赖

bash
复制

2. pip install requests

复制代码

2. 底子调用代码

python
复制

2. import requests
3. import json
5. # 配置信息
6. OLLAMA_HOST = "http://localhost:11434"  # 默认地址
7. MODEL_NAME = "deepseek-chat"  # 确认模型名称（通过 ollama list 查看）
9. def generate(prompt: str, max_tokens: int = 512, temperature: float = 0.7):
10.     """
11.     调用 DeepSeek 模型生成文本
12.    
13.     参数：
14.     prompt: 输入的提示文本
15.     max_tokens: 最大生成token数（默认512）
16.     temperature: 温度参数（0-1，默认0.7）
17.     """
18.     try:
19.         response = requests.post(
20.             url=f"{OLLAMA_HOST}/api/generate",
21.             headers={"Content-Type": "application/json"},
22.             json={
23.                 "model": MODEL_NAME,
24.                 "prompt": prompt,
25.                 "stream": False,  # 关闭流式输出
26.                 "options": {
27.                     "temperature": temperature,
28.                     "max_tokens": max_tokens
29.                 }
30.             }
31.         )
32.         response.raise_for_status()  # 检查HTTP错误
33.         return json.loads(response.text)["response"]
34.    
35.     except requests.exceptions.RequestException as e:
36.         print(f"API请求失败: {str(e)}")
37.         return None
38.     except KeyError:
39.         print("响应格式异常")
40.         return None
42. # 使用示例
43. if __name__ == "__main__":
44.     result = generate("请用Python实现快速排序算法")
45.     if result:
46.         print("模型回复：\n", result)

复制代码

3. 流式输出书本（恰当长文本）

python
复制

2. def stream_generate(prompt: str, max_tokens: int = 1024):
3.     """流式输出版本（实时显示生成结果）"""
4.     try:
5.         response = requests.post(
6.             url=f"{OLLAMA_HOST}/api/generate",
7.             headers={"Content-Type": "application/json"},
8.             json={
9.                 "model": MODEL_NAME,
10.                 "prompt": prompt,
11.                 "stream": True,  # 启用流式输出
12.                 "options": {"max_tokens": max_tokens}
13.             },
14.             stream=True
15.         )
16.         response.raise_for_status()
18.         full_response = []
19.         for line in response.iter_lines():
20.             if line:
21.                 chunk = json.loads(line.decode("utf-8"))
22.                 if not chunk["done"]:
23.                     print(chunk["response"], end="", flush=True)
24.                     full_response.append(chunk["response"])
25.         
26.         return "".join(full_response)
28.     except requests.exceptions.RequestException as e:
29.         print(f"\n请求失败: {str(e)}")
30.         return None
32. # 使用示例
33. stream_generate("请详细解释量子计算的原理")

复制代码

4. 参数分析

参数分析max_tokens控制天生文本的最大长度（发起 512-4096）temperature控制天生随机性（0-1，值越大输出越随机）top_p核采样概率（0-1，通常与 temperature 二选一）stream是否启用流式传输（恰当长文本场景）5. 常见题目处置惩罚

Q1: 出现毗连错误
python
复制

2. # 检查服务是否运行
3. import subprocess
4. subprocess.run(["ollama", "serve"], check=True)

复制代码

Q2: 模子不存在错误
bash
复制

2. # 查看可用模型列表
3. ollama list

复制代码

Q3: 调解性能参数
python
复制

2. json={
3.     "model": MODEL_NAME,
4.     "prompt": prompt,
5.     "options": {
6.         "num_ctx": 4096,  # 上下文窗口大小
7.         "num_gpu": 1,     # GPU层数（需要CUDA支持）
8.         "main_gpu": 0,   # 主GPU索引
9.         "seed": 42       # 随机种子
10.     }
11. }

复制代码

6. 高级功能

python
复制

2. # 获取模型信息
3. requests.get(f"{OLLAMA_HOST}/api/show", json={"name": MODEL_NAME})
5. # 创建模型副本
6. requests.post(f"{OLLAMA_HOST}/api/create", json={"name": "my-deepseek-copy", "modelfile": f"FROM {MODEL_NAME}"})

复制代码

发起根据实际摆设情况调解：

•         假如服务摆设在长途服务器，修改 OLLAMA_HOST
  
•         通过 ollama pull 确保模子已下载
  
•         生产情况发起添加超时处置惩罚：
  

python
复制

2. response = requests.post(..., timeout=(10, 30))  # 连接10秒，读取30秒超时

复制代码