第八节：GLM-4v-9b模型的大语言模型源码解读(ChatGLMForConditionalGeneration)
文章目录
- 前言
- 一、ChatGLMForConditionalGeneration类源码解读
-
- 1、ChatGLMForConditionalGeneration类源码
- 2、self.transformer方法源码
- 3、loss_fct = CrossEntropyLoss(ignore_index=-100)方法Demo
- 二、ChatGLMModel类源码解读
- 三、GLMTransformer结构源码解读
- 四、GLMBlock结构源码解读
- 五、GLM的self.self_attention结构源码解读
- 六、GLM的CoreAttention结构源码解读
前言
清华智普的GLM-4v-9b模型，作为优化的多模态大模型，特别适用于国内应用场景，解决了国外模型本地化不足的问题。本专栏提供环境安装、数据处理、视觉与语言模型源码理解，并基于Hugging Face重构GLM模型搭建教程，帮助理解、修改和应用GLM模型，指导搭建多模态大模型，帮助读者自由搭建与修改大模型。本节给出GLM-4-9B模型的视觉加载源码解读内容。
第一节：GLM-4v-9B大模型安装、推理与训练详细教程
第二节：GLM-4v-9B数据加载源码解读
第三节：GLM-4v-9B数据加载之huggingface数据加载方法教程(通用大模型数据加载实列)
第四节：GLM-4v-9b模型的tokenizer源码解读
第五节：GLM-4v-9b模型model加载源码解读(模型相关参数方法解读)
第六节：GLM-4v-9b模型加载源码解读(模型加载方法解读)
第七节：GLM-4v-9b模型的视觉模型源码解读
第八节：GLM-4v-9b模型的大语言模型源码解读(ChatGLMForConditionalGeneration)
第九节：通过Debug解析ChatGLMForConditionalGeneration的数据流，理解GLM-4v-9b模型架构
第十节：通过Debug解析ChatGLMModel的数据流