模型

一、监督学习和半监督学习：目前工业界的大部分应用场景（Loss函数，优化模型评估效果）

二、无监督学习：数据无需标注，聚类算法

三、强化学习：机器人场景，近似人类习惯

机器学习分类

决策树模型、线性模型、核学习模型、神经网络模型；目标函数、损失函数、模型及优化损失函数（调参）

1、决策树模型

决策树模型

• 好处可解释，坏处不稳定，容易过拟合
• 对抗不稳定现象：可用多棵树单独训练然后合并，成本比较高
• 解决成本高问题：随机树-随机深林算法

损失函数、均分误差

2、线性模型

线性模型

• 关注分类效
• 用随机梯度下降方法（需关注梯度步长，和数据批量大小）来优化损失函数下降效果
• 线性模型（ 回归 ）：模型效果用平均均方误差

3、神经网络

MLP 神经网络

• 好处：无需像线性模型那么手动提取特征，抽取特征的方法有： 多层感知机、卷积神经网络、递归神经网络、Transformers
• 缺点：数据量大，指数级别增值，数据量大1000倍甚至是10000倍

卷积神经网络

卷积神经网络：CNN；应用场景：如：图片分类

卷积神经网络解决，神经网络运输时数据量过大问题，采用局部窗口数据（kernel）

循环神经网络：RNN；应用场景：如上下文预测，完形填空