大模型赋能网络安全整体应用流程概述
一、四个阶段概述
安全大模型的应用大致可以分为四个阶段：
阶段一主要基于开源基础模型训练安全垂直领域的模型；
阶段二主要基于阶段一训练出来的安全大模型开展推理优化、蒸馏等工序，从而打造出不同安全场景的专家模型，比如数据安全领域、安全运营领域、调用邮件识别领域等等；
阶段三基于不同安全场景的专家模型开展智能体开发，此过程属于复杂的系统工程，需要基于不同的场景对多个专家模型和安全大模型进行微调、提示、检索增强、联合任务适配、大小模型协同等，典型的架构为MOE。
阶段四主要为生产环境的推理应用，将不同场景的安全智能体通过本地部署或者SAAS服务的方式，接入用户侧的安全系统，再经过适当的人工调优即可实现大模型赋能安全。当然，此阶段内也存在不同阶段的应用需求，大致可分为基于RAG的客制化需求、基于用户语料的微调需求以及新领域的智能体需求。鉴于这些可能的需求，在引入大模型赋能安全时，采用支持多智能体灵活扩展，且支持新智能体开发的解决方案架构，可有效避免后期的烟囱式建设。