新浪中文网

手机浏览器扫描二维码访问

第586章 怎么理解激活函数是连接感知机和神经网络的桥梁（第1页）

激活函数：连接感知机和神经网络的桥梁

要理解激活函数如何把简单的感知机变成复杂的神经网络，我们可以用一个故事和一个比喻来说明。

故事比喻：魔法学院的考核门

在一座神秘的魔法学院里，有许多魔法师想要进入更高等级的殿堂学习更强大的法术。但这座学院设有一道道考核门，每一扇门都会评估魔法师的潜力，决定他们是否有资格进入下一层。

这些考核门，就像神经网络中的激活函数，它们决定哪些信息可以继续往下传递，哪些信息应该被忽略。

激活函数的作用：筛选并放大关键信息

每个魔法师在进入考核门之前，都需要经过以下流程：

1.计算魔力值（感知机的加权求和）

?每个魔法师的能力不同，有些擅长火球术，有些擅长治愈术，还有些只是普通人。

?在进入考核门之前，学院的考官会对每位魔法师的天赋进行加权评分（相当于神经网络的加权求和）。

?比如，火系魔法的分数高，治疗系魔法的分数低，不同魔法的权重不同。

比喻：这就像感知机中的线性计算，它只是单纯地累加输入信息，但还没有真正决定“谁能晋级”。

2.进入考核门（激活函数的作用）

?魔法学院的考核门不会让所有魔法师都进入下一层，它会根据他们的魔力值来筛选：

?如果魔力值太低，考核门会直接关闭（相当于ReLU函数把负值变成0）。

?如果魔力值很高，考核门会全力开启，让魔法师顺利通过（相当于Sigmoid或ReLU把大数保留）。

?如果魔力值一般，考核门可能会半开半闭，让部分魔法师勉强进入（相当于Sigmoid在0附近平滑过渡）。

比喻：这个考核门就是激活函数，它决定哪些信息（魔法师）能继续传递，哪些信息（魔法师）会被屏蔽。

3.进入下一层（神经网络的深度学习）

?通过考核门的魔法师，进入更高级的学院，学习更复杂的魔法。

?这一层的导师会根据他们的技能，进一步筛选、训练，并将合格者送往更高层次的殿堂。

?只有经历多层训练的魔法师，最终才能成为大魔导师（神经网络最终完成学习和预测）。

系统沙雕我添堵，一身反骨离大谱  三国：身为反贼，没有金手指  轮回塔  海贼：从女帝开始，路飞持续崩溃  异能太强，大佬被特殊部门收编了  开局就长生，可我咋是奴隶啊  开局创建杀手组织，我威压诸天  大反派女魔头，前世居然是男的  高中三年，无人知道我已觉醒  北域时空  遗笑苍天  被废静心多年，你们才开始后悔？  兽世溺宠：蛇蛇我啊，万龙之母  穿越之异世女领主  直播算命：你爹让你扔下水道了  开局逃荒直接掀桌  斩神：我道系青年，请个神合理吧  穿书七十年代，过好自己的日子  庶女当家日常  等你一直等到老