Whisper turbo MN — Benchmark rozpoznawania mowy w języku mongolskim
Rzeczywiste wyniki Whisper turbo MN Batch API (udoskonalony punkt operacyjny, język mn) ocenione na 4 mongolskich zbiorach danych i 265 próbkach audio. Każda liczba poniżej jest zmierzona, a nie z marketingu. WER, prędkość i cena są pokazane tak, jak są, brutalnie szczerze.
265/265 próbek transkrybowanych · 100% sukcesu
Niższy jest lepszy · na 265 próbkach
Cena
Cena katalogowa Whisper turbo MN dla transkrypcji wsadowej. Bez rabatów i negocjowanych stawek — surowa stawka za minutę.
Źródło ceny: publiczne ceny Whisper turbo MN. Duudlaga Flow jest pokazany tylko kontekstowo — ta strona izoluje Whisper turbo MN, aby liczba nie była zawyżana przez nasz produkt.
WER i CER według zbioru danych
Wskaźniki błędów słownych i znakowych według zbioru danych. Niższy jest lepszy — a to są rzeczywiste liczby Whisper turbo MN, które są słabe na Common Voice 24.
Podsumowanie według zbioru danych
Agregowana dokładność, prędkość i czasy dla każdego zbioru danych.
| Zbiór danych | Źródło | Próbki | Sukces | WER | CER | Dokładność | Prędkość | Audio (s) | Przetw. (s) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 18% | 6% | 82.0% | 1.98× | 330.6s | 167.1s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 17% | 4.7% | 83.0% | 2.9× | 645.1s | 222.3s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 19.1% | 6.8% | 80.9% | 1.99× | 269.8s | 135.9s |
| Modern Voice | — | 92 | 92/92 | 40.1% | 15.7% | 59.9% | 2.56× | 603.8s | 235.9s |
WER a prędkość — na próbkę
Każdy punkt to jedna próbka audio. Optymalne miejsce to lewy dolny róg (mało błędów, szybko). Whisper turbo MN ma wysoki poziom błędów na wielu próbkach Common Voice 24.
Wyniki na próbkę
Prawda odniesienia jest pokazana dosłownie w kolumnie Oczekiwane. Kolumna wyniku wyróżnia na czerwono tylko słowa, które Whisper turbo MN rozpoznał błędnie — bez przekreśleń i zamian, tylko błędy.
| # | Dźwięk | Próbka | Zbiór danych | Oczekiwane (prawda odniesienia) | Wynik Whisper turbo MN | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 0.0% | 0.0% | 0/0/0 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | 0.0% | 0.0% | 0/0/0 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуу хээрээр гэр хэцээр дэр хийж явдаг хүн. | 0.0% | 0.0% | 0/0/0 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурмаст уурлаас Болдоггүй Бор өгнөө хоёр луугаар нэргүүлэхээр явуулжээ. | 50.0% | 14.3% | 0/0/5 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гэээд гэртээ оров. | 14.3% | 2.7% | 0/0/1 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө өндөр дээдэс таны тухайд би бодол ч чадахгүй. | 25.0% | 10.9% | 1/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | 0.0% | 0.0% | 0/0/0 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шүл л өгч биз. | 28.6% | 10.0% | 0/0/2 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаагүй явсан юм чинь. | 14.3% | 6.2% | 0/0/1 |
Metodologia
Jak uzyskano te liczby.
Dostawca: Whisper turbo MN (Whisper large-v3-turbo fine-tuned on Mongolian Common Voice + FLEURS (LoRA merged into the base weights) — the most recent Mongolian adaptation of a current-generation Whisper.). Modele z tą odznaką trenowano na danych, które pokrywają się z korpusami benchmarku (mongolski Common Voice — 113 ze 173 próbek — lub publiczny korpus Shunya Labs). Wyniki na nakładających się korpusach są zawyżone przez zapamiętywanie; oceniaj te modele po tabeli z podziałem na zbiory danych na stronie szczegółów, zwłaszcza po korpusach, na których NIE były trenowane.
Endpoint local (transformers). Język mn. Punkt pracy Blgn94/whisper-large-v3-turbo-mn-lora (merged LoRA) on mps. Diaryzacja none.
Zbiory danych: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 próbek, łącznie 1849.3s audio.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Metryki: WER i CER są obliczane standardowym dopasowaniem Levenshteina słów/znaków, znormalizowanym pod kątem wielkości liter i interpunkcji. Dokładność = 100 − WER. Współczynnik prędkości = czas trwania audio ÷ czas przetwarzania (× czas rzeczywisty). Wszystkie żądania to rzeczywiste wywołania Batch API Whisper turbo MN, nie z pamięci podręcznej ani symulowane.
Podświetlanie różnic: Kolumna wyniku jest dopasowywana do prawdy odniesienia i koloruje na czerwono każdą substytucję i insercję. Delecje (słowa brakujące w wyniku) nie są pokazywane w kolumnie wyniku — kolumna Oczekiwane zawiera już pełną prawdę odniesienia taką, jaka jest.