当前位置: 首页 > article >正文

react与nodejs实现流式传输,并可以进行中断(fetch聊天版)

一、前端
1.首先我们直观流的接收,后面再来流的中断

    // 创建一个新的 AbortController
      const controller = new AbortController();
     setAbortController(controller); // 保存控制器以便之后使用

     const responseStream: any = await fetch(
        "你的后端地址url",
        {
          method: "POST", // 请求方法
          headers: {
            "Content-Type": "application/json", // 根据需要设置其他头部
            Authorization: `Bearer ${localStorage.getItem("accessToken")}`, // 携带 token
          },
          body: JSON.stringify(content), // 将复杂的参数对象转换为 JSON 字符串
          signal: controller.signal, // 将取消信号传递给请求
        }
      );

2. 其中signal为前端客户端中断流连接请求的信号
3.判断流是否ok

 if (!responseStream.ok) {
        throw new Error("Network response was not ok");
      }

4.创建流的接收

 const reader = responseStream.body.getReader();
 const decoder = new TextDecoder();
 let done = false;//流是否接收完的标志
 let result = "";//拼接流

5.流的循环展示

 while (!done) {     // 持续读取流数据,直到完成
        const { value, done: readerDone } = await reader.read();
        done = readerDone;
        doneRef.current = done;//后面要用到中断流请求的参数
        result += decoder.decode(value, { stream: true });
        //此处之后可以进行你需要的逻辑操作
        //result 是一个流传输的数据,会不断接收后端传过来的数据
      }

6.如果想要实现流传输的中断

const stopStream = () => {
    doneRef.current = true;
    if (abortController) {
      abortController.abort(); // 取消请求
      doneRef.current = true;
    }
  };

7.先在你要中断流的函数中编辑 其中 abortController为你创建流式的中断器 即

    const controller = new AbortController();

      setAbortController(controller); // 保存控制器以便之后使用

8.在react中 abortController

  const [abortController, setAbortController]: any = useState(null);

二、后端

 1.设置响应头

// 设置响应头,支持流式传输
   res.setHeader("Content-Type", "text/event-stream");
   res.setHeader("Transfer-Encoding", "chunked");

2.监听客户端中断请求

 

  let isRequestAborted = false;
  // 监听客户端中断请求
  res.on("close", () => {
    if (!res.writableFinished) {
      console.log("客户端中断了请求");
      isRequestAborted = true;
      res.end();
    }
  });

3.创造流式

// 调用流式 API
   const stream = await openai.chat.completions.create({
   messages: AllChatList,
   model: "xxxxxxxxx",
   stream: true, // 启用流式响应
 });

 4.发送数据

 let aiResponse = ""; // 用于存储完整的 AI 响应
            let IsStop = 0;
            // 逐块发送数据给前端
            for await (const chunk of stream) {
              if (isRequestAborted) {
                // 如果客户端中断了请求,停止发送数据
                console.log("请求已中断,停止流式传输");
                IsStop = 1;
                break;
              }
              const content = chunk.choices[0]?.delta?.content || "";
              aiResponse += content; // 逐步收集 AI 的响应内容
              res.write(content); // 将数据块发送给前端
            }
            // 结束响应
            res.end();

 

 


http://www.kler.cn/a/504430.html

相关文章:

  • linux mysql 备份
  • 4种革新性AI Agent工作流设计模式全解析
  • 机组存储系统
  • HTML应用指南:利用GET请求获取星巴克门店数据
  • Android SystemUI——基础简介(一)
  • centos修改/etc/resolv.conf 重启network后又恢复到原来的状态
  • RTX 5090 加持,科研服务器如何颠覆 AI 深度学习构架?
  • 自动驾驶ADAS算法--测试工程环境搭建
  • RDP、VNC、SSH 三种登陆方式的差异解析
  • 工程水印相机结合图纸,真实现场时间地点,如何使用水印相机,超简单方法只教一次!
  • 【免费开源】积木JimuBI大屏集成eladmin
  • arcgis中生成格网矢量带高度
  • 【MySQL】简单解析一条SQL查询语句的执行过程
  • 注册中心及技术选型对比分析
  • Single-agent和Multi-agent的区别及各自适用的落地场景(ChatGPT-4o,智谱清言 GLM 4 Plus 回答)
  • C#使用OpenTK绘制3D可拖动旋转图形三棱锥
  • 2025年01月13日Github流行趋势
  • 网络层协议-----IP协议
  • k8s之pod生命周期
  • Open FPV VTX开源之betaflight配置
  • 深度剖析RabbitMQ:从基础组件到管理页面详解
  • TiDB常见操作指南:从入门到进阶
  • Unreal Engine 5 C++ Advanced Action RPG 八章笔记
  • 【Uniapp-Vue3】uni-api交互反馈showToast的使用方法
  • RV1126+FFMPEG推流项目(4)VENC模块视频编码流程
  • adb端口转发