LLM（大语言模型）和AIGC入门学习路线图，零基础入门到精通，收藏这一篇就够了
大模型是指网络规模庞大的深度学习模型，其参数量通常在千亿级别。
学习大模型需要具备计算机基础，这一点非常重要！
要系统地入门大模型，首先需要学习深度学习的基础知识，包括神经网络（NN）、卷积神经网络（CNN）和循环神经网络（RNN）等。
在学习完基础知识后，你可以借助开源算法来学习如何使用大模型进行自然语言处理任务。目前有很多大模型开源算法可供学习和使用。你可以选择一些经典的大模型算法，如BERT、GPT-2和Transformer等，通过阅读相关的论文和代码实现来深入了解它们的工作原理和应用场景。
本文旨在提供系统的学习路径和实践项目，帮助你更好地掌握大模型的使用和应用。
学习路径
本文分为四个章节，各章节的学习目标如下。请注意本文主要是面向工程界撰写，学术部分较少。
入门篇
-
了解大语言模型的基础知识和常见术语。
-
学会使用编程语言访问 OpenAI API 等常见大语言模型接口。
提高篇
-
了解机器学习、神经网络、NLP 的基础知识。
-
了解 Transformer 以及典型 Decoder-only 语言模型的基础结构和简单原理。
-
了解大语言模型发展历史，以及业界主流模型（含开源模型）进展。
应用篇
-
可以在本地环境搭建开源模型的推理环境。Prompt 工程。
-
使用已有框架（如Langchain）或自行开发，结合大语言模型结果，开发生产应用。
深入篇（本文涉及少量资料）
-
掌握 Continue Pre-train、Fine-tuning 已有开源模型的能力。
-
掌握 Lora、QLora 等低资源高效模型训练的能力。
-
掌握大语言模型微调以及预训练数据准备的能力。
-
深入了解大模型背后的技术原理。
-
了解生产环境部署大模型的相关技术点。
读者可以根据自己需要选择对应的章节，如对大语言模型的原理不感兴趣，可只关注入门篇和应用篇。考虑到阅读背景，本文尽可能提供中文资料或有中文翻译的资料。
入门篇
在入门之前，请申请 OpenAI API，并具备良好的国际互联网访问条件。
大语言模型综述 大语言模型迄今为止最好的学术向中文综述。中文版本：LLM_Survey_Chinese_0418.pdf 作为入门资料偏难，看不懂的部分可以等到后面章节再回头重看。ChatGPT Prompt Engineering for Developers 虽然是 Prompt 工程，但是内容比较简单，适合入门者。
中英双语字幕：https://github.com/GitHubDaily/ChatGPT-Prompt-Engineering-for-Developers-in-Chinese OpenAI Quickstart OpenAI 官方 Quickstart 文档。以及 API Reference State of GPT：GPT 联合创始人做的演示，极好的总结了 GPT 的训练和应用。
视频：https://www.youtube.com/watch?v=bZQun8Y4L2A PPT：https://karpathy.ai/stateofgpt.pdf
提高篇
清华大模型公开课：从NLP到大模型的综合课程，挑选感兴趣的了解。
深度学习：台湾大学李宏毅：台湾大学李宏毅，国语教程里最好的，讲的很清楚，也比较有趣。Understanding large language models ：理解大语言模型。The Illustrated GPT-2 (Visualizing Transformer Language Models)：图解 GPT2 中文翻译：https://zhuanlan.zhihu.com/p/139840113
InstructGPT: Training language models to follow instructions with human feedback：著名的 InstructGPT 论文。另外一篇中文介绍：https://huggingface.co/blog/zh/rlhf Huggingface NLP Course：NLP 入门课程 0x30 应用篇 Building Systems with the ChatGPT API 中文字幕：https://www.bilibili.com/video/BV1gj411X72B/ Langchain Langchain 是大语言模型最火的应用框架。即使不使用，也可以借鉴。
LangChain for LLM Application Development 中文字幕：https://www.bilibili.com/video/BV1Ku411x78m/ GPT best practices：OpenAI 官方出的最佳实践。openai-cookbook：OpenAI 官方 Cookbook。Brex’s Prompt Engineering Guide：Prompt 工程简介
深入篇
Huggingface Transformer 文档：Transformer 官方文档
复杂推理：大语言模型的北极星能力 ：略学术，解释大语言模型能力的来源。
GPT，GPT-2，GPT-3 论文精读：视频精读。Building LLM applications for production：在生产环境中构建 LLM 应用。
AI大模型学习福利
作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取
2024最新版CSDN大礼包：《AGI大模型学习资源包》免费分享
一、全套AGI大模型学习路线
AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！
因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取
2024最新版CSDN大礼包：《AGI大模型学习资源包》免费分享
二、640套AI大模型报告合集
这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。
因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取
2024最新版CSDN大礼包：《AGI大模型学习资源包》免费分享
三、AI大模型经典PDF籍
随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。
因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取
2024最新版CSDN大礼包：《AGI大模型学习资源包》免费分享
四、AI大模型商业化落地方案
因篇幅有限，仅展示部分资料，需要点击下方链接即可前往获取
2024最新版CSDN大礼包：《AGI大模型学习资源包》免费分享
作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。