NeoAMT: Neologism-Aware Agentic Machine Translation with Reinforcement Learning

Idea

NeoAMT 把 neologism-aware translation 做成可主动查词的 agentic process：模型先 reasoning，再按需检索 Wiktionary definitions，结合词义修订译文。配套 Neko 数据、专门的 neologism reward 与 difficulty-adaptive rollout allocation，使训练关注新词而不牺牲整句语义。

Research Problem

Neologisms 的含义可能与字面形式完全不同，parametric knowledge 不足时普通 MT 容易给出流畅但错误的译文；只看整句 quality score 又可能掩盖少数关键新词的误译。论文研究怎样训练 translation agent 有效调用词典，并把更多 RL exploration 分配给真正困难的 source texts。

Insight

词典应检索完整 sense、etymology 与 part-of-speech，而不仅是 headword；reward 也需要同时约束 neologism span 和整句 semantic fidelity。论文以相对 quality-estimation gap 定义 difficulty，使 reference quality 不再被默认为生成译文不可超过的上限。

Method

1. 清洗 English Wiktionary，建立跨语言 neologism examples 与 references，并把约 331 万 lexical entries 的 definitions、senses、etymology 等编码为 bge-m3 vectors，通过 FAISS 检索相关词义。
2. Agent 可交替输出 <think> 与 <search>，检索结果置于 <information>，最终输出 <translation>；search query 可以是未知词、相关关键词或例句，不强制固定搜索次数。
3. Outcome reward 将 lemmatized neologism-span coverage 与 XCOMET、CometKiwi scores 混合，并以 translation-format gate 约束；另探索 query 是否覆盖目标 neologism 的 process reward，而不是把查询命中等同于翻译正确。
4. 以 CometKiwi 对 reference 与当前译文评分之差定义 translation difficulty，按差值指数调整每题 rollout group size，在 batch 总预算与上下限内分配；采用 GRPO，loss 仅覆盖模型生成 token，mask retrieved information。