思考一下Memory的形式

【声明】:如下观点均是个人鄙见,尽可能地引出论文出处,有待同大家一起讨论商榷。 【一】. 2015-ICLR-《Neural Machine Translation by Jointly Learning to Align and Translate》 【二】. 2015-ACL-《Neural Responding Machine for Short-Text Conversation》 【三】. 2015-ICLR-《Memory Networks》 序,统一概念: 句子中的词向量化表示 和 段落中的句子向量化表示 意思逻辑一致。【1,2】两篇文章均是在句子层面的,因而采用句子/词 的表示方法,而在【3】QA系统应用中 对应为 段落/句子。 论文【一】观点: 应用领域:机器翻译系统。 1.1    输入端所有输入文本信息都压缩到固定长度的向量的方法是错误的; 原因:句子较长时,即输入信息较多时,解码能力变差,即模型解析能力变弱。(摘自【原文P1第三段】A potential issue with this encoder–decoder … 继续阅读