《机器学习基础教程：李宏毅核心笔记解析》

大家好，如果您还对《机器学习基础教程：李宏毅核心笔记解析》不太了解，没有关系，今天就由本站为大家分享《机器学习基础教程：李宏毅核心笔记解析》的知识，包括的问题都会给大家分析到，还望可以解决大家的问题，下面我们就开始吧！

在这里写下图片描述。不幸的是，RNN 的训练更加困难。我们期望一条蓝线，但现实就像绿线.

这里写图片描述是一个经常遇到的问题，方法作者也解释了。

这里描述的图片是，橙点的跳跃过程非常振荡，甚至可以飞出去，所以他用了一个工程师的想法来解决这个问题，叫拍手，给梯度设置一个最大值。例如，当大于15时，它等于15。

为什么RNN 具有来自sigmod 函数的独特特性？不，因为实验表明ReLu 的表现更差。

直观评估，稍微改变某个参数，看看梯度变化了多少。

假设你输入10000.最后一刻的输出是w^999。改变w 的值对输出有多大影响？

从这里的图片描述可以看出，梯度是很难训练的。它具有高顺序性，相同的权重在不同的时间点会重复使用。

LSTM 是解决这个问题的好方法。它可以解决太平坦（梯度消失）的问题，但无法解决崎岖不平（梯度爆炸）的问题。

在这里写下图片描述。听说还有几个面试问题。

为什么RNN被LSTM取代？

因为它可以解决梯度消失问题。

为什么可以解决呢？

如上图，忘记门。

这里有一点。 LSTM 有一个升级版本，称为门控循环单元(GRU)。它只有两个门，参数数量是LSTM 的一半，所以如果LSTM 过拟合，可以考虑这种方法。 （原理是关联输入和输出门）

还有一些其他方法。

在这里写下图片描述。事实上，RNN 有很多应用。在上面的槽填充中，输入和输出是相同的数字。

其他应用：

Sentiment Analysis

情绪分析，负面正面

这里写图片描述

Key Term Extraction

关键词提取

在此填写图片描述

Speech Recognition

语音识别

在这里写下图片描述。哈哈哈。对于上述修剪方法的语音识别，无法区分“好棒”和“好棒棒”。还有另一种方法可以解决它。它被称为Conntctionist Temporal Classification（CTC），即添加一个符号。意思是什么都没有。

在这里写下图片描述。如何训练CTC？

这里写图来描述CTC得到的结果

这是描述这个传说的图片。谷歌的语音系统已经完全被CTC取代。

Machine Translation

另一个神奇的应用是机器翻译。读取RNN 输入序列后，有关输入序列的所有信息都将在最后一个时间点存储在内存中。

在这里写下图像描述在这里写下图像描述，就像推文纸牌一样。

这里写下图片描述，什么时候停止？当“休息”被推出时停止。

这也可以在RNN 中完成。

在这里写图片描述对于翻译来说非常有效。

下图是Google的研究结果。如果输入一种语言的文本，输出另一种语言的文本，是否可以输入语音，输出另一种语音，从而实现语音翻译呢？例如，台语翻译成英语只需要采集台语声音信号和英语翻译，不需要台语语音识别的文本结果。

这里写下图片描述

Beyond Sequence

那么这个序列到序列的方法也可以用在句法解析中进行句法分析，得到树桩结构。

好了，文章到这里就结束啦，如果本次分享的《机器学习基础教程：李宏毅核心笔记解析》和问题对您有所帮助，还望关注下本站哦！

用户评论

拽年很骚

想尝试机器学习，李宏毅的笔记看起来很不错啊

    有17位网友表示赞同！

该用户已上天

一直听别人说李宏毅讲课很棒，现在开始看笔记感觉很有用

    有18位网友表示赞同！

你与清晨阳光

终于找到一个入门机器学习的好资源了！

    有17位网友表示赞同！

╭摇划花蜜的午后

机器学习有点抽象， 希望李宏毅的笔记能让我更清晰地理解

    有17位网友表示赞同！

酒笙倾凉

准备趁这段时间好好学习机器学习，这笔记看起来很适合我

    有8位网友表示赞同！

肆忌

李宏毅的大名在我的CS圈里一直响着，终于有机会接触他的教材了！

    有9位网友表示赞同！

剑已封鞘

学习一个新东西真是充满挑战， 不过看到这份笔记很有动力哦

    有16位网友表示赞同！

棃海

机器学习越来越热门了，想要跟上时代的潮流 trzeba开始入门学习啦

    有13位网友表示赞同！

未来未必来

之前对机器学习一点概念没有，现在看李宏毅的笔记感觉打开了新的世界！

    有16位网友表示赞同！

君临臣

希望看完这笔记之后能掌握一些基本的机器学习知识

    有16位网友表示赞同！

箜篌引

学习一个新技能需要认真付出， 这种类型的笔记很贴心

    有8位网友表示赞同！

我没有爱人i

李宏毅的教学风格一直被人称赞，现在可以亲自感受一下了！

    有16位网友表示赞同！

青衫故人

这份笔记看起来非常系统化， 学习起来应该很方便

    有18位网友表示赞同！

身影

想要在数据分析领域有所发展， 必须提升机器学习能力

    有8位网友表示赞同！

水波映月

机器学习笔记是入门学习的必备资源， 之前一直没找到好的资料！

    有10位网友表示赞同！

半世晨晓。

感觉这笔记应该是相当详细的介绍， 适合零基础的人学习

    有8位网友表示赞同！

杰克

越来越多人了解机器学习的重要性， 学习它似乎成了新常态

    有15位网友表示赞同！

在哪跌倒こ就在哪躺下

看到这么多人推荐李宏毅的笔记， 相信质量绝对有保证！

    有19位网友表示赞同！

墨城烟柳

利用空闲时间学习这部分知识， 对未来的发展很有帮助

    有6位网友表示赞同！

【《机器学习基础教程：李宏毅核心笔记解析》】相关文章：

1.蛤蟆讨媳妇【哈尼族民间故事】

2.米颠拜石

3.王羲之临池学书

4.清代敢于创新的“浓墨宰相”——刘墉

5.“巧取豪夺”的由来－－米芾逸事

6.荒唐洁癖　惜砚如身（米芾逸事）

7.拜石为兄－－米芾逸事

8.郑板桥轶事十则

9.王献之被公主抢亲后的悲惨人生

10.史上真实张三丰：在棺材中竟神奇复活