Whisper Base Norwegian
此模型是 NbAiLab/NCC_S 数据集上经过微调的
pere/whisper-small-nob-clr
模型。在评估集上取得以下结果:
- Loss: 0.3284
- Wer: 15.0122
模型描述
需要更多信息
预期用途与限制
需要更多信息
训练和评估数据
需要更多信息
训练过程
训练超参数
训练过程中使用了以下超参数:
- 学习率:1e-05
- 训练批次大小:64
- 评估批次大小:32
- 种子:42
- 梯度累积步数:2
- 总训练批次大小:128
- 优化器:Adam,参数为 betas=(0.9,0.999),epsilon=1e-08
- 学习率调度器类型:constant_with_warmup
- 训练步数:3000
- 混合精度训练:Native AMP
训练结果
|
Training Loss
|
Epoch
|
Step
|
Validation Loss
|
Wer
|
|
0.5975
|
0.33
|
1000
|
0.3354
|
15.7734
|
|
0.5783
|
0.67
|
2000
|
0.3327
|
16.3520
|
|
0.5788
|
1.0
|
3000
|
0.3284
|
15.0122
|
框架版本
- Transformers 4.26.0.dev0
- Pytorch 1.13.0+cu117
- Datasets 2.7.1.dev0
- Tokenizers 0.13.2