Neural Machine Translation by Jointly Learning to Align and Translate
作者：Dzmitry Bahdanau、Kyunghyun Cho、Yoshua Bengio（2015，ICLR / arXiv:1409.0473）
论文讲了什么
这是注意力机制（Attention）的奠基之作。论文针对早期 Seq2Seq 模型“把整个源句子压缩成一个固定向量”的瓶颈，提出：翻译时每一步让模型自动聚焦源句子的不同部分（软对齐），极大改善了长句翻译质量。
为什么经典
- 首次提出“注意力”思想：从“记全句”变成“按需查阅”
- 为后来的 Transformer（2017）“全靠注意力”铺平道路，是大模型注意力架构的直接源头
- 奠定了机器翻译、摘要、对话等几乎所有 NLP 任务的“编码器-解码器+注意力”范式
一句话导读：注意力机制的“开山之作”，让机器翻译学会“边看边译、重点看哪译哪”。
详细解读（中文）
一、论文背景：Seq2Seq 把整个源句压缩成固定长度向量，长句翻译时信息丢失严重、效果崩塌（”长句瓶颈”）。能否让模型在翻译每个词时”动态关注”源句的相关部分？
二、核心创新：论文提出注意力机制（Attention）：解码器生成每个目标词时，用”对齐分数”（对齐模型打分）计算源句各位置的加权求和，形成”上下文向量”，从而动态聚焦源句的相关部分。该机制彻底解决了固定向量瓶颈，显著提升长句翻译质量。
三、关键技术细节：① 提出”双向 RNN 编码器+注意力解码器”：编码器双向捕捉上下文，解码器用注意力对齐；② 对齐模型 a(s,h)=v^T·tanh(W_h·h + W_s·s) 学习”目标词↔源词”软对齐；③ 注意力权重可视化揭示模型学到了”符合直觉的对齐关系”（如英语-法语词序对应）；④ 在 WMT 英法/英德上大幅超越当时的 Seq2Seq 与统计基线，尤其长句改善明显。
影响与后续发展
Bahdanau 注意力是”注意力机制”的源头论文：其”软对齐+动态上下文”思想被 Transformer 的自注意力全面继承发扬，也催生了 Luong 注意力、多头注意力、以及如今大模型中无处不在的注意力组件——堪称现代大语言模型的”第一块拼图”。
查看原始论文（权威链接）
英文原文摘要（Original Abstract，节选）
Neural Machine Translation by Jointly Learning to Align and Translate (Bahdanau Attention): Neural machine translation typically uses an encoder-decoder architecture that compresses the whole source sentence into a fixed-length vector. We propose a novel architecture that allows a model to automatically search for the parts of a source sentence relevant to predicting a target word, achieving significantly improved translation quality and introducing the attention mechanism that later became central to modern sequence models.
提示：以上英文摘要为原文节选，完整论文请通过上方权威链接查看（原始论文版权归原作者/出版方所有）。