Whisper large-v3-turbo — ਮੰਗੋਲੀਅਨ ਸਪੀਚ-ਟੂ-ਟੈਕਸਟ ਬੈਂਚਮਾਰਕ
Whisper large-v3-turbo Batch API (ਸੁਧਾਰੀ ਓਪਰੇਟਿੰਗ ਪੁਆਇੰਟ, ਭਾਸ਼ਾ mn) ਦੁਆਰਾ 4 ਮੰਗੋਲੀਅਨ ਡੇਟਾਸੈਟਾਂ ਅਤੇ 265 ਆਡੀਓ ਨਮੂਨਿਆਂ ’ਤੇ ਮੁਲਾਂਕਣ ਕੀਤੇ ਅਸਲ ਨਤੀਜੇ। ਹੇਠਾਂ ਹਰ ਨੰਬਰ ਮਾਪਿਆ ਗਿਆ ਹੈ — ਮਾਰਕੀਟਿੰਗ ਨਹੀਂ। WER, ਗਤੀ ਅਤੇ ਕੀਮਤ ਜਿਵੇਂ ਹਨ, ਸਖ਼ਤ ਇਮਾਨਦਾਰੀ ਨਾਲ ਵਿਖਾਏ ਗਏ ਹਨ।
265/265 ਨਮੂਨੇ ਟ੍ਰਾਂਸਕ੍ਰਾਈਬ · 100% ਸਫਲਤਾ
ਘੱਟ ਬਿਹਤਰ · 265 ਨਮੂਨਿਆਂ ’ਤੇ
ਕੀਮਤ
ਬੈਚ ਟ੍ਰਾਂਸਕ੍ਰਿਪਸ਼ਨ ਲਈ Whisper large-v3-turbo ਦੀ ਸੂਚੀ ਕੀਮਤ। ਕੋਈ ਛੂਟ ਜਾਂ ਗੱਲਬਾਤ ਕੀਤੀ ਦਰ ਨਹੀਂ — ਪ੍ਰਤੀ ਮਿੰਟ ਕੱਚੀ ਦਰ।
ਕੀਮਤ ਸ੍ਰੋਤ: Whisper large-v3-turbo ਜਨਤਕ ਕੀਮਤਾਂ। Duudlaga Flow ਸਿਰਫ਼ ਸੰਦਰਭ ਲਈ ਵਿਖਾਇਆ ਗਿਆ ਹੈ — ਇਹ ਪੰਨਾ Whisper large-v3-turbo ਨੂੰ ਵੱਖ ਰੱਖਦਾ ਹੈ ਤਾਂ ਜੋ ਨੰਬਰ ਸਾਡੇ ਉਤਪਾਦ ਨਾਲ ਫੁੱਲ ਨਾ ਜਾਵੇ।
ਡੇਟਾਸੈਟ ਮੁਤਾਬਕ WER ਅਤੇ CER
ਡੇਟਾਸੈਟ ਮੁਤਾਬਕ ਸ਼ਬਦ ਅਤੇ ਅੱਖਰ ਗਲਤੀ ਦਰ। ਘੱਟ ਬਿਹਤਰ — ਅਤੇ ਇਹ Whisper large-v3-turbo ਦੇ ਅਸਲ ਨੰਬਰ ਹਨ, ਜੋ Common Voice 24 ’ਤੇ ਕਮਜ਼ੋਰ ਹਨ।
ਡੇਟਾਸੈਟ ਸਾਰ
ਹਰ ਡੇਟਾਸੈਟ ਲਈ ਸਮੁੱਚੀ ਸ਼ੁੱਧਤਾ, ਗਤੀ ਅਤੇ ਸਮਾਂ।
| ਡੇਟਾਸੈਟ | Source | ਨਮੂਨੇ | ਸਫਲਤਾ | WER | CER | ਸ਼ੁੱਧਤਾ | ਗਤੀ | ਆਡੀਓ (ਸੈ) | ਪ੍ਰੋਸੈ. (ਸੈ) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 100.3% | 56.2% | -0.3% | 0.86× | 330.6s | 382.6s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 99.4% | 47.7% | 0.6% | 1.01× | 645.1s | 640.2s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 101% | 58.1% | -1.0% | 0.55× | 269.8s | 489.7s |
| Modern Voice | — | 92 | 92/92 | 96.8% | 55.6% | 3.2% | 1.18× | 603.8s | 513.8s |
WER vs ਗਤੀ — ਨਮੂਨੇ ਮੁਤਾਬਕ
ਹਰ ਬਿੰਦੂ ਇੱਕ ਆਡੀਓ ਨਮੂਨਾ ਹੈ। ਆਦਰਸ਼ ਥਾਂ ਹੇਠਾਂ-ਖੱਬੇ (ਘੱਟ ਗਲਤੀ, ਤੇਜ਼) ਹੈ। Whisper large-v3-turbo ਕੋਲ ਕਈ Common Voice 24 ਨਮੂਨਿਆਂ ’ਤੇ ਉੱਚ ਗਲਤੀ ਹੈ।
ਨਮੂਨੇ ਮੁਤਾਬਕ ਨਤੀਜੇ
ਉਮੀਦ ਕਾਲਮ ਵਿੱਚ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਜਿਵੇਂ ਹੈ ਉਵੇਂ ਵਿਖਾਇਆ ਗਿਆ ਹੈ। ਨਤੀਜਾ ਕਾਲਮ ਸਿਰਫ਼ ਉਹ ਸ਼ਬਦ ਲਾਲ ਵਿੱਚ ਉਭਾਰਦਾ ਹੈ ਜੋ Whisper large-v3-turbo ਨੇ ਗਲਤ ਕੀਤੇ — ਕੋਈ ਸਟ੍ਰਾਈਕਥ੍ਰੂ/ਅਦਲਾ-ਬਦਲੀ ਨਹੀਂ, ਸਿਰਫ਼ ਗਲਤੀਆਂ।
| # | ਆਡੀਓ | ਨਮੂਨਾ | ਡੇਟਾਸੈਟ | ਉਮੀਦ (ਗਰਾਊਂਡ ਟ੍ਰੁਥ) | Whisper large-v3-turbo ਨਤੀਜਾ | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Дээ амсхалд бараа бээхэээ тэндэ мэдэжэээгээээ хэлэээ. | 100.0% | 56.9% | 0/1/7 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | нады заясан аджырғалгеттэгэртэ құрыққын сарай құтсаттэ бәсэнгэ чуэл | 100.0% | 54.7% | 0/4/8 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одо дэ дүр стөл чин рэгэсэсэлэй чэцгэй | 100.0% | 51.9% | 0/0/7 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би боз қолтүү хэрэр гэр цэр дэр хий жабдэг хүн | 60.0% | 29.4% | 0/0/6 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Hann formast orðlas boltgu, borðu hún hærð, þógar, neyrgur fyrir og sér. | 120.0% | 92.2% | 2/0/10 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Эсфина þessi орður, get gist í orð. | 100.0% | 83.8% | 0/0/7 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Уүндөрдээд тэний түхээд би бодал чадагүй. | 87.5% | 37.0% | 0/2/5 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | хараан горубтойг үудагаас сай кайлиң хүнүүсыйг сан рэх бэг келл ў. | 137.5% | 62.5% | 3/0/8 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Танар отжунгута шүлэл ўүтжүт. | 100.0% | 43.3% | 0/3/4 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ёрөз үлтурэсэй салагы афсэймчэн. | 100.0% | 58.3% | 0/3/4 |
ਵਿਧੀ-ਵਿਗਿਆਨ
ਇਹ ਨੰਬਰ ਕਿਵੇਂ ਪ੍ਰਾਪਤ ਹੋਏ।
ਪ੍ਰੋਵਾਈਡਰ: Whisper large-v3-turbo (Whisper large-v3-turbo open weights (4 decoder layers) run locally — the speed-optimised distillation of large-v3.).
ਐਂਡਪੁਆਇੰਟ local (transformers). ਭਾਸ਼ਾ mn. Operating point openai/whisper-large-v3-turbo (language=mn, task=transcribe) on mps. ਸਪੀਕਰ ਵੱਖਰੇਪਣ none.
ਡੇਟਾਸੈਟ: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 ਨਮੂਨੇ, ਕੁੱਲ 1849.3s ਆਡੀਓ।
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
ਮੈਟ੍ਰਿਕਸ: WER ਅਤੇ CER ਮਿਆਰੀ ਸ਼ਬਦ/ਅੱਖਰ ਲੇਵੇਨਸ਼ਟਾਈਨ ਇਕਸਾਰਤਾ ਨਾਲ, ਕੇਸ ਅਤੇ ਵਿਰਾਮ ਚਿੰਨ੍ਹ ਲਈ ਨੌਰਮਲਾਈਜ਼ ਕਰਕੇ ਗਣਨਾ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਸ਼ੁੱਧਤਾ = 100 − WER। ਗਤੀ ਗੁਣਾਂਕ = ਆਡੀਓ ਮਿਆਦ ÷ ਪ੍ਰੋਸੈਸਿੰਗ ਸਮਾਂ (× ਰੀਅਲ-ਟਾਈਮ)। ਸਾਰੀਆਂ ਬੇਨਤੀਆਂ ਅਸਲ Whisper large-v3-turbo Batch API ਕਾਲਾਂ ਹਨ, ਕੈਸ਼ ਜਾਂ ਸਿਮੂਲੇਟਡ ਨਹੀਂ।
ਅੰਤਰ ਉਭਾਰ: ਨਤੀਜਾ ਕਾਲਮ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਨਾਲ ਇਕਸਾਰ ਹੋ ਕੇ ਹਰ ਬਦਲ ਅਤੇ ਸ਼ਾਮਲ ਨੂੰ ਲਾਲ ਰੰਗਦਾ ਹੈ। ਮਿਟਾਉਣ (ਨਤੀਜੇ ਵਿੱਚੋਂ ਗੈਰ-ਹਾਜ਼ਰ ਸ਼ਬਦ) ਨਤੀਜਾ ਕਾਲਮ ਵਿੱਚ ਨਹੀਂ ਵਿਖਾਏ ਜਾਂਦੇ — ਉਮੀਦ ਕਾਲਮ ਪਹਿਲਾਂ ਹੀ ਪੂਰੀ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਜਿਵੇਂ ਹੈ ਰੱਖਦਾ ਹੈ।