Whisper turbo MN — Benchmark speech-to-text bahasa Mongol
Hasil nyata dari Whisper turbo MN Batch API (titik operasi yang disempurnakan, bahasa mn) yang dievaluasi pada 4 dataset bahasa Mongol dan 265 sampel audio. Setiap angka di bawah diukur — bukan pemasaran. WER, kecepatan, dan harga ditampilkan apa adanya, jujur tanpa basa-basi.
265/265 sampel ditranskripsi · 100% sukses
Lebih rendah lebih baik · pada 265 sampel
Harga
Harga daftar Whisper turbo MN untuk transkripsi batch. Tanpa diskon atau tarif yang dinegosiasikan — tarif mentah per menit.
Sumber harga: harga publik Whisper turbo MN. Duudlaga Flow ditampilkan hanya untuk konteks — halaman ini mengisolasi Whisper turbo MN agar angka tidak dibesar-besarkan oleh produk kami.
WER & CER per dataset
Tingkat kesalahan kata dan karakter per dataset. Lebih rendah lebih baik — dan ini angka nyata Whisper turbo MN, yang lemah di Common Voice 24.
Ringkasan dataset
Akurasi, kecepatan, dan waktu agregat untuk tiap dataset.
| Dataset | Sumber | Sampel | Sukses | WER | CER | Akurasi | Kecepatan | Audio (dtk) | Proses (dtk) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 18% | 6% | 82.0% | 1.98× | 330.6s | 167.1s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 17% | 4.7% | 83.0% | 2.9× | 645.1s | 222.3s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 19.1% | 6.8% | 80.9% | 1.99× | 269.8s | 135.9s |
| Modern Voice | — | 92 | 92/92 | 40.1% | 15.7% | 59.9% | 2.56× | 603.8s | 235.9s |
WER vs kecepatan — per sampel
Setiap titik adalah satu sampel audio. Titik ideal di kiri bawah (sedikit kesalahan, cepat). Whisper turbo MN punya kesalahan tinggi pada banyak sampel Common Voice 24.
Hasil per sampel
Kebenaran acuan ditampilkan apa adanya di kolom Diharapkan. Kolom hasil menyorot merah hanya kata yang salah oleh Whisper turbo MN — tanpa coret-ganti, hanya kesalahan.
| # | Audio | Sampel | Dataset | Diharapkan (kebenaran acuan) | Hasil Whisper turbo MN | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 0.0% | 0.0% | 0/0/0 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | 0.0% | 0.0% | 0/0/0 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуу хээрээр гэр хэцээр дэр хийж явдаг хүн. | 0.0% | 0.0% | 0/0/0 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурмаст уурлаас Болдоггүй Бор өгнөө хоёр луугаар нэргүүлэхээр явуулжээ. | 50.0% | 14.3% | 0/0/5 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гэээд гэртээ оров. | 14.3% | 2.7% | 0/0/1 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө өндөр дээдэс таны тухайд би бодол ч чадахгүй. | 25.0% | 10.9% | 1/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | 0.0% | 0.0% | 0/0/0 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шүл л өгч биз. | 28.6% | 10.0% | 0/0/2 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаагүй явсан юм чинь. | 14.3% | 6.2% | 0/0/1 |
Metodologi
Bagaimana angka ini diperoleh.
Penyedia: Whisper turbo MN (Whisper large-v3-turbo fine-tuned on Mongolian Common Voice + FLEURS (LoRA merged into the base weights) — the most recent Mongolian adaptation of a current-generation Whisper.). Model dengan lencana ini dilatih pada data yang tumpang tindih dengan korpus benchmark (Common Voice Mongolia — 113 dari 173 sampel — atau korpus publik Shunya Labs). Skor pada korpus yang tumpang tindih menjadi tinggi karena hafalan; nilai model ini lewat tabel per dataset di halaman detailnya, terutama korpus yang TIDAK dipakai melatihnya.
Endpoint local (transformers). Bahasa mn. Titik operasi Blgn94/whisper-large-v3-turbo-mn-lora (merged LoRA) on mps. Diariasis none.
Dataset: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 sampel, total 1849.3s audio.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Metrik: WER dan CER dihitung dengan perataan Levenshtein kata/karakter standar, dinormalisasi untuk huruf besar/kecil dan tanda baca. Akurasi = 100 − WER. Faktor kecepatan = durasi audio ÷ waktu pemrosesan (× waktu nyata). Semua permintaan adalah panggilan nyata ke Batch API Whisper turbo MN, bukan cache atau simulasi.
Penyorotan perbedaan: Kolom hasil diratakan ke kebenaran acuan dan mewarnai merah setiap substitusi dan penyisipan. Penghapusan (kata yang hilang dari hasil) tidak ditampilkan di kolom hasil — kolom Diharapkan sudah memuat seluruh kebenaran acuan apa adanya.