基于 Spring AI 孵化一款 AI 产品
最近收到很多粉丝的私信,疑问最多的就是为何我们团队最近很少更新内容?首先非常感谢大家对腾飞开源团队的关注和支持,其实我们团队最近3个月一直在做一件事情:孵化一款 AI 产品。
一、引言
我们目睹了一场前所未见的技术革命——人工智能(AI)正在以惊人的速度和力度颠覆传统行业,开启了一个智能化的新时代。从医疗健康到金融服务,从制造业到零售业,乃至教育、娱乐等领域,AI的应用如同春雨润物无声地渗透进了社会的每一个角落。接下来由我来给大家汇报,我们现在这款 AI 产品的进展情况。
二、技术选型
1.首先我给大家介绍前端技术选型:Vue3、Vue Router、Vite、Axios、Pinia、Element Plus、microsoft/fetch-event-source 等当前主流的技术。
2.后端技术选型:Spring AI、SpringBoot3、Spring Security、MyBatis-flex、MyBatis-flex-ext、JWT、Druid、Fastjson 等也是目前主流的技术。
三、主要功能
1.数据大模型:聊天模型(qwen、gemma等);向量模型(mofanke/dmeta-embedding-zh等);还有文生态模型等。我们的愿景是想实现根据不同的模型供应商,根据不同的业务需求实现快速的切换,后续会继续对接更多的模型。
2.向量数据库:主要用于聊天记录存储和知识库向量存储。向量数据库支持多种,并支持动态添加,目前已经实现 Pgvector 动态创建模式和表。
3.聊天记忆配置,可以根据不同的需求选择内存、数据库和向量存储三种方式。能够实现连续对话和上下文记忆功能,使得对话更加连贯和个性化。
4.知识库构建,使用文档的切片技术,将文档切片后使用向量嵌入模型将数据保存到向量数据,并进行相似性向量搜索功能。
为了方便知识库文档的集中管理,还提供了文档管理的功能。
文档数据导入支持: .txt, .md, .docx, .doc, .pdf等多种文件格式,并且支持上传、手工录入和网络链接三种不同的方式。
文档管理:支持对应文档的切片查询,重新切片等功能。
切片管理:可以查看存储在向量数据的文档切片的具体内容。
向量搜索:支持切片的相似度搜索。
5.聊天助手:支持多种不同聊天模型的自由切换,并且实现聊天记忆的功能。
四、近期计划
1.使用已构建好的知识库实现RAG知识问答。
2.基于现在搭建好的平台,实现web客户端功能的开发,开放用户注册功能。
3.收集每位粉丝朋友的需求,我们会根据实际情况进行刷选和实现。
五、结束语
最后再次感谢所有支持腾飞开源的粉丝朋友,请多给我点赞、收藏和关注,你们的支持是我无限的动力。