UU阅书 通过搜索各大小说站为您自动抓取各类小说的最快更新供您阅读!

激活函数包括阶跃函数,但也有其他函数,就像除了应急预案,还有日常处理程序。

故事比喻:魔法门与激活函数

在一个魔法世界里,有一座魔法学院,每位魔法师都要经过一道神秘的魔法门,才能进入更高级的修炼殿堂。

但这扇门不会让所有人随便通过,它会根据魔法师的魔力值来决定:

? 如果魔力值太低,门不会打开(相当于激活函数抑制无用信息)。

? 如果魔力值很高,门会全力打开(相当于激活函数放大有用信息)。

? 如果魔力值一般,门可能会半开半闭,让魔法师勉强通过(相当于某些平滑的激活函数)。

这个魔法门的决策过程,就像 AI 里的激活函数,它决定哪些信息能进入下一层,哪些要被过滤掉!

激活函数的作用:筛选、放大、非线性化

想象 AI 神经网络是一个“魔法训练过程”,每一层都需要做决策,而激活函数就像这个**“魔法门”**,决定哪些信息能继续往下走。

1. 魔力值的计算(输入信号加权求和)

? 每个魔法师的天赋不同,有些擅长火系魔法,有些擅长治愈术。

? 在进入魔法门之前,考官会给每个魔法师打分(相当于神经网络的加权求和)。

? 但这些分数本身没有用,必须经过魔法门筛选,才能决定是否晋级。

比喻: 这就像神经网络中的线性计算,只是单纯地累加输入信息,但还没有做真正的决策。

2. 通过魔法门(激活函数的选择)

不同的魔法门有不同的规则,对应不同的激活函数:

ReLU 魔法门(ReLU 激活函数):

? 如果魔力值 ≥ 0,门会打开,让魔法师进入。

? 如果魔力值 < 0,门会彻底关闭,不让任何人进入。

比喻: 这就像一个严格的守卫,没有天赋的魔法师(负值输入)直接被拒绝,只允许优秀的魔法师进入。

Sigmoid 魔法门(Sigmoid 激活函数):

? 如果魔力值很高,门会完全打开(接近 1)。

? 如果魔力值很低,门会完全关闭(接近 0)。

? 如果魔力值一般,门会半开半闭(0~1 之间)。

比喻: 这就像一个温和的导师,会根据魔法师的天赋程度,决定“部分晋级”还是“完全晋级”。

tanh 魔法门(tanh 激活函数):

? 如果魔力值很高,门会完全打开(1)。

? 如果魔力值很低,门会完全关闭(-1)。

比喻: 这就像一个双向考核,既允许优秀的魔法师(正值)进入,也允许黑暗魔法师(负值)进入,而普通人(接近 0)则会被忽略。

3. 进入下一层(神经网络的深度学习)

? 通过魔法门的魔法师,进入更高级的学院,学习更强大的魔法(神经网络的下一层学习更复杂的特征)。

? 经过多层考核,最终只有最强的魔法师才能成为大魔导师(AI 预测出最优结果)。

比喻: 这就像深度神经网络,每一层的激活函数确保最重要的信息传递,最终形成智能预测。

另一种比喻:水闸与激活函数

想象一个水坝,它控制着水流的流动方式,不同的水闸系统就像不同的激活函数:

? ReLU 水闸:只有水位达到一定高度(≥0),水闸才会打开;如果水位太低(负值),水闸就不会开。

? Sigmoid 水闸:水闸会根据水位高度,逐渐调整开合程度(类似 0 到 1 的平滑输出)。

? tanh 水闸:可以控制双向水流,允许正向和负向的水流通过(-1 到 1)。

比喻: 激活函数就像水闸,决定信息如何流动,确保神经网络学习复杂的模式,而不仅仅是线性计算。

结论:激活函数的关键作用

它决定哪些信息能传递到下一层,哪些信息被屏蔽。

它给神经网络带来了“非线性能力”,让 AI 解决复杂问题,而不仅仅是简单的加法计算。

不同的激活函数适用于不同的任务,比如 ReLU 适用于深度网络,Sigmoid 适用于概率预测,tanh 适用于情感分析等。

思考:你觉得在现实生活中,还有哪些场景符合“激活函数”的特点?

UU阅书推荐阅读:刚重生,青涩校花投怀送抱全球觉醒:偷听SSS级校花心声邻家妹子爱上我手术直播间非黑即白?不,我是商业巨擘!一颗水灵珠,驾驭全球海洋大妆大清佳人军痞王爷,超猛的!我高手下山专打气运之子结婚抓奸笑我傻,跪求原谅你是谁花都奇兵师妹老想撩我怎么办游戏缔造者隐姓埋名二十年,崛起先杀白月光贵妻谋后我只是个病人,别叫我天灾捡回家的班花太黏人,我遭老罪了重生80,断绝关系后我垄断了南方市场步步为局盖世龙婿极速治愈:双修镇压道基因武道全能少女UP主我表白的人全让病娇妹妹送走了替身又如何,玄学大佬拿捏女财阀人在家中坐,萝莉天上来重生后,我只想混娱乐圈工业大摸底:摸出来个南天门计划妻子背叛:摇身一变成太子做媒这一块,我谁都不服做卡牌,我可是你祖宗!镇魂天下:开局一个小枪兵桃运修真者重启平行人生灵气复苏:从文明书院开始漫漫修真路,一人独登仙陌上花开为君归轮回剑典盛世良后道士不想下山思归何归大唐盛世游龙前男友爆红后我被迫官宣了深山林场:重返83打猎发家妖女满堂?明明是仙子忠诚!破事精英之怕麻烦的副经理炮灰女配的逆袭人生开局觉醒酒葫芦,晋升先天灵宝在民族资产的路上
UU阅书搜藏榜:小楼大厦大国中医潇洒离婚后,她藏起孕肚成首富!予你熠熠星光小祖宗她是顶流大佬的心尖宠平淡的水乡生活绑定慈母系统后,我摆烂了凰妃逆天下玄学大佬被乖兮兮的奶狗缠疯了林域守从长征开始:十军团的绝境血路接单相亲,美女总裁赖上我直播打假,开局800页保险护体我和我姐一起穿越了魔族少年闯人间四合院:从逃荒开始逆天十八线艺人搞副业,天天跑警局穿书:我被疯批反派夜夜盯到腿软小市场住手!这不是游戏世界!才女清照权斗觉醒时代:我的队友全是觉醒女神神豪花钱系统!医品嫡妃:娇宠偏执摄政王重生之寒门吝啬媳八零后少林方丈史上最强斩妖师道吟重生黑客女王:冷少追妻忙第99次心动娘亲有点拽我家有只九尾狐腹黑竹马:小青梅,吃不够!被团宠成顶流后,她掉马了最强老公:独宠软萌小甜妻圣灵魔法师绝品医妃:误惹腹黑王爷顶流宠妃倾天下总裁老公惹不得我是修士,你们怎么跟我玩修真到异世求求你出道吧穿越后我靠混吃等死苟成了终极大佬慢穿之璀璨人生蚀骨婚情:前夫,请止步人在终极,开局时空之子美人犹记总裁三观不太正五行天
UU阅书最新小说:国运游戏我是机器降神被甩觉醒系统,我成亿万神豪我十岁,辈分祖师爷,全村来迎接千禧逆袭:从网吧老板到科技巨头龙族:屠龙?卡塞尔懂个屁!绝美老婆有五魂,我直呼受不鸟!高考前,废柴醒来成为道家天师离婚后,我靠影视黑科技系统变强跟我打?我可是氪命玩家群聊通两界,我天师身份瞒不住了重生73:怒怼吸血亲戚,坐拥空间吃香喝辣离婚那天摊牌了:我是上市公司老总!直播:我靠反向带娃火遍全网!高武:一元秒杀,超脱成神重生1978,为国铸剑我,医武双绝,出狱秒杀一切!带着异能穿越:杨齐的花花世界九个绝色师姐,风情万种重返81:赶走白眼狼后我七天成万元户重返八零,奉子成婚迎娶女大学生辞职躺平后,我变超有钱了高冷校花救赎我?抱歉,我已成武神官场之巅峰权力长公主被火葬场?先撕渣男白月光重生:开局校花签下卖身契大国科技,从1983开始自由与枷锁之囚牢我被冤枉了难道还不许我反抗吗高武:拉满全属性,我直接无敌了我的乐园不科学!出狱被断亲?我医武双绝你们哭什么!穿进韩漫,我靠收集一百万善意成为救世主从垃圾处理厂员工到都市修真霸主高冷天后出道从无绯闻,直到有我年代:开局抓到女知青玉米地盗窃重生2015,我的快意人生改开,摸着答案过河国芯崛起:从香江到硅谷单纯校花重金求子?我直接应聘接单中奖被害,复活后,我人间无敌我的小青梅居然靠时停占我便宜高手下山:霸道师姐太护短御兽时代:我把自己练成灭世凶兽薛警官探案轶事权力巅峰这个明星有点狗满身SSS级天赋的我怎么输重生:逼我当渣男是吧高武:用对方法无需肝!肝帝无用复出后:白露和雨琦喊我小孩哥