激活函数

[暂未理解]在神经网络中，激活函数是一种非线性变换，作用于输入信号后输出一定范围内的值。每个神经元都有自己的激活函数，它通常被安置在神经元的输出端，将神经元的输入信号进行变换后输出给下一层神经元或是作为最终的输出结果。

损失函数

用于评估训练效果距离预期效果的偏差的函数。与优化器配合使用

优化器

用什么方法，向什么方向优化学习效果。我的理解是，就是就好像

深度学习总体描述类比

深度学习就好像没有明确图纸的修公路,只知道开始位置和结束的大概位置,但不知道怎么修. 一群工人每施工完一天, 工头就停下来评估与目标的偏差,究竟是偏左还是偏右,这个过程就是损失函数做的事情,评估情况 根据评结果,工程师就制定下一阶段的施工计划,往左还是往右 ,这个就是优化器做的事情,调整施工方向和方法

在这个比喻中，训练数据代表着开始位置和结束位置，我们的目标是建立一条从开始到结束的高效路径，但我们不知道具体的路线。因此，我们需要使用深度学习模型来尝试逐步构建出这样一条路径。

模型训练过程中，每个训练迭代都会产生一个输出结果，并通过损失函数评估这个结果与实际目标之间的差异。这相当于工头每天停下来评估施工情况，确定当前是否偏离了预期的方向，以及需要采取哪些措施来调整方向。

根据损失函数的结果，我们可以使用优化器来更新模型权重和偏置值，以便于更好地拟合训练数据并最终达到我们的目标。这相当于工程师根据工头的评估结果，制定下一阶段的施工计划，调整施工方向和方法以便于更好地完成项目。

总之，在深度学习模型的训练过程中，损失函数和优化器是非常重要的组成部分，充当了监督训练过程、调整模型参数以及提高模型性能的关键角色。