011文学网

011文学网 > 都市言情 > 重塑千禧年代 > 249 弱小(4k)

249 弱小(4k)(3)

会的一部分人赞同易科的解题思路,但谷歌方面却出现了不同的声音。

“为什么非要使用循环神经网络?”谷歌的乌思克尔特本来正在休假,但因为对DL的交流感兴趣便报名过来,“为什么不试试自注意力Self-attention?我认为它对NLP领域将会有更优秀的改变。”

“Self-attention可以进行更好的并行计算能力,而不是像RNN那样进行顺序处理,它还能直接比较序列中任意两个位置的向量表示,这样就能更有效的捕捉和利用长距离依赖关系,但RNN不行!”

“RNN虽然理论上也能捕捉长距离依赖,但实际上往往因梯度消失或爆炸问题而难以实现!”

乌思克尔特研究的是谷歌的机器翻译改进方法,他的父亲就是计算语言学的教授,尽管刚开始进入谷歌时对语言翻译的工作很不喜欢,但最终还是专注于这一领域的研究,而他近期正在琢磨的便是“自注意力Self-attention”在相关领域的改善。

吴恩达很快明白这位谷歌研究员的意思,也在几经思索后给予反驳:“自注意力没有显式地编码位置信息,这就意味着如果以它为核心的模型无法区分序列中相同词语在不同位置的意义差异,而在自然语言的处理中,词语的语义又与位置紧密相关。”

点击读下一页,继续阅读 渔雪 作品《重塑千禧年代249 弱小(4k)

其他人正在读: 青山 庆余年 弟弟太会撩!电竞男神直播强吻! 穿越星际妻荣夫贵 天人图谱 没钱修什么仙? 元始法则 兰姨 谍云重重 仙人消失之后 阵问长生 养父 在美漫当心灵导师的日子 重建修仙家族 从水猴子开始成神 多我一个后富怎么了 夜无疆 异度旅社 开局一座神秘岛 太虚至尊 缚耳来 仙工开物 太古龙象诀 神话版三国 柯南里的捡尸人 带着农场混异界 我的天,他做菜会发光 叩问仙道 文明之万象王座 插翅难飞
本周热门小说

青山 庆余年 天人图谱 弟弟太会撩!电竞男神直播强吻! 穿越星际妻荣夫贵 养父 没钱修什么仙? 谍云重重 兰姨 元始法则 仙人消失之后 阵问长生 在美漫当心灵导师的日子 我的天,他做菜会发光 从水猴子开始成神 重建修仙家族 夜无疆 多我一个后富怎么了 东宫媚 逐王 异度旅社 仙工开物 柯南里的捡尸人 文明之万象王座 信息素说我们不可能 开局一座神秘岛 插翅难飞 叩问仙道 神话版三国 九域剑帝

年度热门小说:

天人图谱 许盛邵湛 重回1982小渔村 招黑体质开局修行在废土 1979黄金时代 晋末长剑 从水猴子开始成神 谁让他玩游戏王的! 第五形态 限时占有 开局金风细雨楼主,一刀惊天下 我有一个修仙世界 谁让他修仙的! 深入浅出 宿命之环 天命之上 穿越星际妻荣夫贵 提灯看刺刀 失婚 仙人消失之后 在美漫当心灵导师的日子 夜无疆 普罗之主 大道之上 四合院里的读书人 山野小医神 整座大山都是我的猎场 天倾之后 高武纪元 宋檀记事

最新更新小说:

楚剑秋柳天瑶混沌天帝诀免费全文阅读 绝世无双萧天策高薇薇 奶爸至尊之君临天下 天降魔主,拳镇山河 刚成大隋人皇,你跟我说这是洪荒 我登录了僵尸先生 满级悟性,我把下界打造成仙界 非常规数码宝贝 军营:对不起,我是纠察! 重明仙宗 从读书开始肝成仙武圣人 渡劫丹神 华娱:从神棍到大娱乐家 从皇宫禁军开始,分身遍御天下 医武高手秦君 同时穿越:全是深渊难度 香江风云:扎职为王 晚明风华 西游妖帝:从小蛤蟆开始 倒反天罡,我家王后要造反! 狐嫁新娘 从上海滩的人力车夫开始崛起 无限:反派的洗白之路 直播鉴宝:你这精灵可不兴育啊! 重生开个网吧,成了IT界公敌? 别胡说,我这是人皇幡 大玄第一侯 三塔游戏 大佬甜妻宠上天顾九辞霍明澈 骂我朝廷鹰犬?我乃大秦武圣!