BARTpho：越南语的预训练序列到序列模型

BARTpho有两个版本：BARTpho-syllable和BARTpho-word，它们是首个为越南语预训练的大规模单语序列到序列模型。BARTpho采用了 BART 序列去噪模型的“大”架构和预训练方案，因此特别适用于生成型自然语言处理任务。越南语文本摘要的下游任务实验证明，在自动评估和人工评估中，BARTpho优于强基线 mBART ，并改进了当前技术水平。

BARTpho的总体架构和实验结果请参阅我们的 paper 论文：

@article{bartpho,
title     = {{BARTpho: Pre-trained Sequence-to-Sequence Models for Vietnamese}},
author    = {Nguyen Luong Tran and Duong Minh Le and Dat Quoc Nguyen},
journal   = {arXiv preprint},
volume    = {arXiv:2109.09701},
year      = {2021}
}

在使用BARTpho帮助生成发表结果或整合到其他软件时，请引用我们的论文。

获取更多信息或提出请求，请访问 BARTpho's homepage ！