Whisper large-v3 — منگولین speech-to-text بینچ مارک
Whisper large-v3 Batch API (بہتر آپریٹنگ پوائنٹ، زبان mn) کے 4 منگولین ڈیٹاسیٹ اور 265 آڈیو نمونوں پر جانچے گئے حقیقی نتائج۔ نیچے کا ہر عدد ناپا گیا ہے — مارکیٹنگ نہیں۔ WER، رفتار اور قیمت جیسی ہے ویسی ہی، سخت ایمانداری سے دکھائے گئے ہیں۔
265/265 نمونے ٹرانسکرائب · 100% کامیابی
کم بہتر ہے · 265 نمونوں پر
قیمت
بیچ ٹرانسکرپشن کے لیے Whisper large-v3 کی فہرستی قیمت۔ کوئی رعایت یا بات چت کی شرح نہیں — فی منٹ خام شرح۔
قیمت کا ذریعہ: Whisper large-v3 عوامی قیمتیں۔ Duudlaga Flow صرف سیاق کے لیے دکھایا گیا ہے — یہ صفحہ Whisper large-v3 کو الگ رکھتا ہے تاکہ عدد ہماری مصنوعات سے پھولا نہ ہو۔
ڈیٹاسیٹ کے حساب سے WER اور CER
ڈیٹاسیٹ کے حساب سے لفظ اور حرف غلطی کی شرحیں۔ کم بہتر ہے — اور یہ Whisper large-v3 کے حقیقی اعداد ہیں، جو Common Voice 24 پر کمزور ہیں۔
ڈیٹاسیٹ خلاصہ
ہر ڈیٹاسیٹ کی مجموعی درستگی، رفتار اور وقت۔
| ڈیٹاسیٹ | Source | نمونے | کامیابی | WER | CER | درستگی | رفتار | آڈیو (سیکنڈ) | پروسیس (سیکنڈ) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 91.2% | 38.8% | 8.8% | 0.72× | 330.6s | 456.5s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 86.2% | 33% | 13.8% | 1.87× | 645.1s | 344.8s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 94% | 41% | 6.0% | 1.13× | 269.8s | 238.3s |
| Modern Voice | — | 92 | 92/92 | 87.7% | 37.2% | 12.3% | 1.53× | 603.8s | 394.1s |
WER بمقابلہ رفتار — فی نمونہ
ہر نقطہ ایک آڈیو نمونہ ہے۔ بہترین جگہ نیچے بائیں (کم غلطی، تیز) ہے۔ Whisper large-v3 کئی Common Voice 24 نمونوں پر زیادہ غلطی رکھتا ہے۔
فی نمونہ نتائج
متوقع کالم میں حقیقی حوالہ جیسا ہے ویسی ہی دکھایا گیا ہے۔ نتائج کالم صرف ان الفاظ کو سرخ میں نمایاں کرتا ہے جو Whisper large-v3 غلط کر گیا — کوئی اسٹرائیک تھرو/تبدیلی نہیں، صرف غلطیاں۔
| # | آڈیو | نمونہ | ڈیٹاسیٹ | متوقع (حقیقی حوالہ) | Whisper large-v3 نتیجہ | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Кэлтээ амсгол түрээ хасаа омон танд мэдэж байгаа хэлээ. | 87.5% | 32.8% | 1/0/6 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надзай асан аджирал гэдэгээрдээ үрхүн сарай хүгцадтай байсан гэж бүх. | 83.3% | 33.3% | 0/2/8 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Атаах тээ төрч төрч энрээгээсээ салхих чигцгээ. | 100.0% | 53.8% | 0/0/7 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би босголту хэрээр гэр хэцэр дэрхийж ябдог хүн. | 70.0% | 17.6% | 0/2/5 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Ханхурмас дуу орлос болдгой бараа үгэнээ 2 лоогуу арны эргүйлэхээр ягалж байна. | 120.0% | 51.9% | 2/0/10 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Аж байнааша ородор, гэдгэжтэй оров. | 85.7% | 35.1% | 0/2/4 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Уу, үндэр дээд таныи тухууд би бааталг чалтахгүй. | 87.5% | 28.3% | 0/0/7 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин 3-тэг хуудагаса эхлэн хүмүүстэг сайнархаж гэлэв. | 75.0% | 35.7% | 0/0/6 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Танр очингууд шүүллэл үхж байз. | 100.0% | 50.0% | 0/2/5 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөөл үүлтүрөссээ салаагуу ябсан имч нь. | 100.0% | 33.3% | 0/1/6 |
طریقہ کار
یہ اعداد کیسے حاصل ہوئے۔
فراہم کنندہ: Whisper large-v3 (OpenAI Whisper large-v3 open weights run locally with an explicit Mongolian language token — the reference open-source ASR baseline.).
اینڈپوائنٹ local (transformers). زبان mn. Operating point openai/whisper-large-v3 (language=mn, task=transcribe) on mps. اسپیکر علیحدگی none.
ڈیٹاسیٹ: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 نمونے، کل 1849.3s آڈیو۔
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
میٹرکس: WER اور CER معیاری لفظ/حرف لیونشٹائن المنت سے، حروف کے حجم اور اوقاف کے لیے نارملائز کر کے حساب کیے جاتے ہیں۔ درستگی = 100 − WER۔ رفتار فیکٹر = آڈیو دورانیہ ÷ پروسیسنگ وقت (× ریئل ٹائم)۔ تمام درخواستیں حقیقی Whisper large-v3 Batch API کالز ہیں، کیشڈ یا سمیولیٹڈ نہیں۔
فرق نمایاں کرنا: نتائج کالم حقیقی حوالہ کے ساتھ منتظم ہوتا ہے اور ہر متبادل اور شامل شدہ کو سرخ کرتا ہے۔ حذف شدہ (نتائج سے غائب الفاظ) نتائج کالم میں نہیں دکھائے جاتے — متوقع کالم پہلے ہی پوری حقیقی حوالہ جیسا ہے رکھتا ہے۔