AI by Hand：手搓 AI 模型
本文分享一个手推深度学习计算过程的网站，通过动图演示 AI 算法的计算过程。里面设计了很多例子。
AI by hand 示例 :https://dongou.tech/ai/dongou/ai-by-hand-%E2%9C%8D%EF%B8%8F-with-prof-tom-yeh-for-ai-professionals/
主页：https://aibyhand.substack.com/
文章目录
- 1. MoE (Mixture of Experts，专家混合模型）
- 2. RNN (Recurrent Neural Network，循环神经网络）
- 3. Mamba’s S6 model（Mamba 的 S6 模型）
- 4. Matrix Multiplication（矩阵乘法）
- 5. LLM Sampling
- 6. MLP in Pytorch（多层感知机）
- 7. Backpropagation（反向传播）
- 8. Transformer（变换器模型）
- 9. Batch Normalization
- 10. GAN(generative adversarial network，生成对抗网络）
- 11. Self Attention（自注意力机制）
- 12. Dropout（随机失活）
- 13. Autoencoder（自编码器）
- 14. Vector Database向量数据库
- 15. CLIP（对比语言-图像预训练）
- 16. ResNet（残差网络）
- 17. GCN(Graph Convolutional Network，图卷积网络）
- 18. Sora’s Diffusion Transformer (DiT，Sora 的扩散变换器）
- 19. Switch Transformer
- 20. RLHF（通过人类反馈的强化学习）
1. MoE (Mixture of Experts，专家混合模型）
2. RNN (Recurrent Neural Network，循环神经网络）
3. Mamba’s S6 model（Mamba 的 S6 模型）
4. Matrix Multiplication（矩阵乘法）
5. LLM Sampling
6. MLP in Pytorch（多层感知机）
7. Backpropagation（反向传播）
8. Transformer（变换器模型）
9. Batch Normalization
10. GAN(generative adversarial network，生成对抗网络）
11. Self Attention（自注意力机制）
12. Dropout（随机失活）
13. Autoencoder（自编码器）
14. Vector Database向量数据库
15. CLIP（对比语言-图像预训练）
16. ResNet（残差网络）
17. GCN(Graph Convolutional Network，图卷积网络）
18. Sora’s Diffusion Transformer (DiT，Sora 的扩散变换器）
19. Switch Transformer
20. RLHF（通过人类反馈的强化学习）
