调用deepseek大模型时智能嵌入函数
DeepSeek-R1 当前炙手可热,以其强大的自然语言处理和推理能力而广受赞誉。饶是如此,却并不原生支持函数调用(function_call),这是开发过程中不可或缺的一部分。虽有第三方调校的模型支持,然终非官方自带,还需假以时日。本文虽然简短,应该是全网写得最通透的了吧。
哪些模型支持函数调用呢,去ollama.com网站去搜索,带tools标签的模型便是:
本机8GB vram,只能用qwen2.5:7b了进行测试了。
下载完成,运行,记住模型名称为“qwen2.5:7b”,后面会用到:
万事俱备,上代码运行,注意,ollama部署的模型,openai支持的访问地址为:http://localhost:11434/v1。直接上代码: