当前位置: 首页 > article >正文

C#测试基于OllamaSharp调用本地DeepSeek模型

  基于Ollama在本地部署DeepSeek模型后,使用Ater.DeepSeek.Core包没法调用本地服务接口,而是需要使用OllamaSharp包。
在这里插入图片描述
  OllamaSharp包中最重要的类为OllamaApiClient,该类的构造函数中传入本地Ollama服务地址(一般为http://127.0.0.1:11434),常用的两个函数如下(其它函数及说用说明详见参考文献3):
  1)ListLocalModelsAsync函数获取本地部署的模型列表;
  2)GenerateAsync函数根据输入的对话内容返回对话结果。

  主要代码如下:

private OllamaApiClient m_client = null;
private List<OllamaSharp.Models.Model> m_models;

//Winform构造函数中初始化上述两个属性
m_client = new OllamaApiClient(new Uri("http://127.0.0.1:11434"));
m_models = new List<OllamaSharp.Models.Model>();

//Winform的load时间中加载本地模型
var modelResponse = await m_client.ListLocalModelsAsync();
if (modelResponse is null)
{
    MessageBox.Show("获取本地模型失败");
    return;
}
foreach (var model in modelResponse)
{
    m_models.Add(model);
    comboBox1.Items.Add(model.Name);
}

//点击对话按钮调用本地模型对话
m_client.SelectedModel = m_models[comboBox1.SelectedIndex].Name;
txtResult.Text = string.Empty;

await foreach (var stream in m_client.GenerateAsync(txtChat.Text))
{
    txtResult.Text += stream.Response;
}

  程序运行效果如下:
在这里插入图片描述

参考文献:
[1]https://blog.csdn.net/weixin_72139050/article/details/145861436
[2]https://blog.csdn.net/daremeself/article/details/145769387
[3]https://github.com/awaescher/OllamaSharp
[4]https://blog.csdn.net/zlbcdn/article/details/145954736


http://www.kler.cn/a/598533.html

相关文章:

  • 电脑上不了网普通用户排除方法
  • 关于CNN,RNN,GAN,GNN,DQN,Transformer,LSTM,DBN你了解多少
  • 力扣HOT100之滑动窗口:3. 无重复字符的最长子串
  • 【数据分享】2000—2024年我国省市县三级逐年归一化植被指数(NDVI)数据(年平均值/Shp/Excel格式)
  • Qt 控件概述 QLCDNumber 和 Progressbar
  • 深度学习框架PyTorch——从入门到精通(7)优化模型参数
  • Java UDP聊天室搭建指南
  • 群体智能优化算法-蚁狮优化算法(Ant Lion Optimizer, ALO,含Matlab源代码)
  • HQChart使用教程46-K线图如何对接第3方数据42-DRAWTEXT_LINE数据结构
  • Qt窗口控件之菜单栏QMenuBar
  • 【后端开发面试题】每日 3 题(十七)
  • 搭建简易的rtsp服务器
  • 深入理解Java对象克隆:从浅入深掌握深克隆与浅克隆
  • CMS漏洞-DeDeCMS篇
  • 【uni-app】引用公共组件
  • 新配置了一台服务器+域名共178:整个安装步骤,恢复服务
  • quartz.net条件执行
  • 供应链与生产制造L1L4级高阶流程规划框架(53页PPT)(文末有下载方式)
  • vue3 ts 注册全局组件
  • JVM 类加载器之间的层次关系,以及类加载的委托机制