摘要:本文主要向大家介绍了机器人之attention 机制入门,通过具体的内容向大家展现,希望对大家学习机器人有所帮助。
本文主要向大家介绍了机器人之attention 机制入门,通过具体的内容向大家展现,希望对大家学习机器人有所帮助。
今天来看看 attention 是什么。
下面这篇论文算是在NLP中第一个使用attention机制的工作。他们把attention机制用到了神经网络机器翻译(NMT)上,NMT其实就是一个典型的sequence to sequence模型,也就是一个encoder to decoder模型
https://arxiv.org/pdf/1409.0473.pdf
encoder 里面用的是 Bi RNN,这样每个单词的表达不仅能包含前一个单词的信息,还可以包含后一个; 前向RNN按输入序列的顺序,生成同样顺序的隐藏层状态,反向RNN则逆向生成隐藏层状态序列,然后我们将每个时刻的这两个状态合并为一个状态,这样它就既包含当前单词的前一个单词信息,也包含后一个信息; 这个状态之后将被用于 decoder 部分。
这里的条件概率是这样的,
和一般的encoder decoder区别就是这个条件概率考虑了每个单词的语境向量 c
c 就是由前面得到的 h 计算
权重 alpha 由 e 计算,alpha i j 相当于 y i 是由 x j 翻译而成的概率,这个概率就反映了 hj 的重要性
这里就应用了 attention 机制,这样 decoder 就决定了输入句子中的什么部分需要加以注意
有了注意力机制就不用把所有的输入信息都转化到一个固定长度的向量中
e 是个 score,用来评价 j 时刻的输入和 i 时刻的输出之间的匹配程度,
a 是一个 alignment midel,是一个前向神经网络。
这篇文章中有 seq2seq+attention 的实现:
seq2seq 的 keras 实现
本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注职坐标人工智能智能机器人频道!
您输入的评论内容中包含违禁敏感词
我知道了
请输入正确的手机号码
请输入正确的验证码
您今天的短信下发次数太多了,明天再试试吧!
我们会在第一时间安排职业规划师联系您!
您也可以联系我们的职业规划师咨询:
版权所有 职坐标-一站式IT培训就业服务领导者 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
沪公网安备 31011502005948号