本地安装deepseek大模型,并使用 python 调用
首先进入 ollama 官网
https://ollama.com/
点击下载
下载完成后所有都是下一步,就可以
点击搜索 Models :
https://ollama.com/search
然后点击下载:
选择后复制:
ollama run deepseek-r1:32b
例如:
让它安装完成后:
ollama list
ollama run deepseek-r1:32b
vscode 进行python编程
C:\Users\admin>python
Python 3.11.9 (tags/v3.11.9:de54cf5, Apr 2 2024, 10:12:12) [MSC v.1938 64 bit (AMD64)] on win32
Type "help", "copyright", "credits" or "license" for more information.
>>> exit()
安装 openai 包
pip install openai
检查 ollama 状态:
http://127.0.0.1:11434/
参照文档:
https://github.com/ollama/ollama/blob/main/docs/openai.md
编写 python 代码:
注意: model=‘deepseek-r1:32b’, 这里一定和你用 ollama 用 list 里面看到的一样
from openai import OpenAI
client = OpenAI(
base_url='http://localhost:11434/v1/',
# required but ignored
api_key='ollama',
)
chat_completion = client.chat.completions.create(
messages=[
{
'role': 'user',
'content': '你是谁',
}
],
model='deepseek-r1:32b',
)
# 使用示例
if __name__ == "__main__":
txtcontent = chat_completion.choices[0].message.content
print(txtcontent)
输出:
<think>
</think>
您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手DeepSeek-R1。如您有任何任何问题,我会尽
我所能为您提供帮助。