arXiv cs.LG· G. L. John Salvin (Indian Institute of Technology Palakkad), Swapnil Hingmire (Indian Institute of Technology Palakkad)·· 9 小时前AI 评分22
COMET 跨文字系统可比性研究:诊断并修正 Indic MT 评测中的 tokeniser 文字系统偏差
Making COMET Comparable Across Scripts: Diagnosis and Correction of Tokeniser-Induced Script Bias in Indic MT Evaluation
AI 导读
研究在 IndicMT Eval 上把目标译文重新编码为拉丁字母后发现,文字系统身份可解释原生文字 COMET 分数方差的 22.9%,且五种语言与人工标注的一致性全部下降,问题根源在 tokeniser。
来源:arXiv cs.LG · arxiv.org