【自学笔记】机器学习基础知识点总览-持续更新

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

机器学习重点知识点总览

一、机器学习基础概念

• 定义：机器学习是一种人工智能技术，通过对数据的学习和分析，让计算机系统自动提高其性能。
• 本质：找到一个能无限接近需求的一个函数。
• 核心要素：数据、算法、模型。
• 主要流派：符号主义、贝叶斯分类、联结主义、进化计算和行为主义。

二、机器学习理论基础

• 数学基础：概率论、数理统计、线性代数、数据分析、数值逼近、最优化理论和计算复杂理论。
• 统计基础：描述性统计、推断统计（参数估计、假设检验）、联合概率分布、假设空间、均值、标准差、方差、协方差。

三、机器学习算法

1. 监督学习

• 线性回归：通过最小化误差平方和来寻找最佳拟合直线。
• 逻辑回归：用于预测事件发生的概率，常用于分类问题。
• 决策树：根据多个特征进行分类，易于理解和解释。
• 随机森林：集成多个决策树，提高分类和回归的准确性。
• 支持向量机：通过找到最佳超平面来最大化分类间隔。
• K-近邻：根据最近的K个邻居进行分类或回归。
• 神经网络：模拟人脑神经元网络，实现高度智能化的学习。

2. 无监督学习

• 关联规则算法：发现不同事物之间同时出现的概率。
• K-means算法：将相似的样本划分为一个簇。
• PCA主成分分析：通过正交变换将多个变量转化为少数几个主成分。

3. 强化学习

• 定义：通过学习可以获得最大回报的行为，强化学习可以让agent（个体）根据自己当前的状态，来决定下一步采取的动作。
• 应用：在机器人学、视频游戏等领域有广泛应用。

四、机器学习处理流程

1. 需求分析与数据获取：明确目标任务，收集相关数据。
2. 数据预处理：对数据进行清洗、去除异常值、缺失值处理、特征选择等。
3. 特征工程：对原始数据进行转换、组合和选择等处理，以提取更有用的特征或属性。
4. 算法模型：选择合适的建模方法或算法，进行模型训练。
5. 模型评估：评估模型在训练集和测试集上的性能，进行优化。
6. 模型应用：将训练好的模型应用于新数据的预测、分类、聚类等任务。

五、机器学习常见问题与解决方法

• 过拟合：在训练数据集上表现良好，而在未知数据上表现差。
  • 解决方法：获取和使用更多的数据、特征降维、加入正则化、Dropout、Early stopping、交叉验证等。
• 欠拟合：模型没有很好地学习到数据特征，不能够很好地拟合数据。
  • 解决方法：增加新特征、添加多项式特征、减少正则化参数、使用非线性模型等。

六、机器学习应用领域

• 图像处理
• 金融
• 医疗
• 自然语言处理
• 网络安全
• 娱乐业

总结

提示：这里对文章进行总结：
例如：以上就是今天要讲的内容，自学记录机器学习基础知识点总览。