英文

Whisper Base Norwegian

此模型是 NbAiLab/NCC_S 数据集上经过微调的 pere/whisper-small-nob-clr 模型。在评估集上取得以下结果:

  • Loss: 0.3284
  • Wer: 15.0122

模型描述

需要更多信息

预期用途与限制

需要更多信息

训练和评估数据

需要更多信息

训练过程

训练超参数

训练过程中使用了以下超参数:

  • 学习率:1e-05
  • 训练批次大小:64
  • 评估批次大小:32
  • 种子:42
  • 梯度累积步数:2
  • 总训练批次大小:128
  • 优化器:Adam,参数为 betas=(0.9,0.999),epsilon=1e-08
  • 学习率调度器类型:constant_with_warmup
  • 训练步数:3000
  • 混合精度训练:Native AMP

训练结果

Training Loss Epoch Step Validation Loss Wer
0.5975 0.33 1000 0.3354 15.7734
0.5783 0.67 2000 0.3327 16.3520
0.5788 1.0 3000 0.3284 15.0122

框架版本

  • Transformers 4.26.0.dev0
  • Pytorch 1.13.0+cu117
  • Datasets 2.7.1.dev0
  • Tokenizers 0.13.2