Gladia — Benchmark ng Mongolian speech-to-text
Tunay na resulta mula sa Gladia Batch API (pinahusay na operating point, wika mn) na sinuri sa 4 Mongolian na dataset at 265 audio sample. Bawat numero sa ibaba ay sinusukat — hindi marketing. Ang WER, bilis, at presyo ay ipinapakita kung ano talaga, walang paligoy-ligoy na tapat.
265/265 sample na-transcribe · 100% tagumpay
Mas mababa mas mainam · sa 265 sample
Presyo
Presyo sa listahan ng Gladia para sa batch transcription. Walang diskonto o negotiated na rate — ang hilaw na rate kada minuto.
Pinagmulan ng presyo: pampublikong presyo ng Gladia. Ang Duudlaga Flow ay ipinapakita para sa konteksto lamang — inhihiwalay ng pahinang ito ang Gladia para hindi palabasin ang numero ng aming produkto.
WER at CER bawat dataset
Tasa ng error sa salita at karakter bawat dataset. Mas mababa mas mainam — at ito ang tunay na numero ng Gladia, na mahina sa Common Voice 24.
Buod ng dataset
Pinagsama-samang katumpakan, bilis, at timing para sa bawat dataset.
| Dataset | Source | Mga sample | Tagumpay | WER | CER | Katumpakan | Bilis | Audio (seg) | Proseso (seg) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 90.5% | 39.5% | 9.5% | 0.74× | 330.6s | 447.4s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 86.2% | 33.5% | 13.8% | 0.87× | 645.1s | 738.8s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 96.9% | 42.6% | 3.1% | 0.6× | 269.8s | 448.1s |
| Modern Voice | — | 92 | 92/92 | 88.3% | 39.8% | 11.7% | 0.73× | 603.8s | 828.5s |
WER laban sa bilis — kada sample
Bawat tuldok ay isang audio sample. Ang ideal na posisyon ay sa kaliwang baba (kaunting error, mabilis). Mataas ang error ng Gladia sa maraming sample ng Common Voice 24.
Resulta kada sample
Ang ground truth ay ipinapakang walang pagbabago sa column na Inaasahan. Ang column ng resulta ay naghi-highlight ng pula sa mga salitang nagkamali ang Gladia — walang pagstrike/cross-out, mga pagkakamali lamang.
| # | Audio | Sample | Dataset | Inaasahan (ground truth) | Resulta ng Gladia | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэлдээ амсголт бараахаасаа омон танд мэдэж байгаа хэлээ. | 75.0% | 24.1% | 0/0/6 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Нада заясан аджирага гэдэгээрдээ үрхүүн сарай хүгцадтай байсан гэж бүл. | 83.3% | 32.0% | 0/2/8 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Атаахд ий төрс төрч энэ рэгээсээ салхих чирцгээд. | 114.3% | 51.9% | 1/0/7 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бос голдог хэрээр гэр хэцээр дэрхийж ябдог хүн. | 60.0% | 13.7% | 0/1/5 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурмас дуу орлос болд гөө бараа үгнөө 2 лоог гар нэгэргүй лэр ягдаж байна. | 140.0% | 59.7% | 5/0/9 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Аж байнааш ороо дэр, гэдгэжтэй ороо. | 100.0% | 40.5% | 0/1/6 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Үүү үндэр дээд таныи түхвад би бааталг чалтахгүй. | 87.5% | 32.6% | 0/0/7 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин 3-тэг хуудагаса эхлэн хүмүүстэг санархаж байхилүү. | 75.0% | 41.1% | 0/0/6 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Танар очингууд шүүллэл үхж байз. | 100.0% | 46.7% | 0/2/5 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөөл үлтүрөссээ салаагуу ямсан. | 100.0% | 43.8% | 0/3/4 |
Metodolohiya
Paano nakuha ang mga numerong ito.
Provider: Gladia (Gladia asynchronous transcription (mn), accessed through the Eden AI gateway.).
Endpoint https://api.edenai.run/v2/audio/speech_to_text_async. Wika mn. Operating point gladia mn (via Eden AI). Diarisasyon none.
Mga dataset: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 sample, kabuuang 1849.3s audio.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Metrics: Ang WER at CER ay kinakwenta gamit ang standard na salita/karakter na Levenshtein alignment, na-normalize para sa case at punctuation. Katumpakan = 100 − WER. Factor ng bilis = duration ng audio ÷ processing time (× real-time). Lahat ng request ay tunay na tawag sa Batch API ng Gladia, hindi cached o simulated.
Pag-highlight ng pagkakaiba: Ang column ng resulta ay ini-align sa ground truth at nagkokolor ng pula sa bawat substitution at insertion. Ang deletions (mga salitang nawawala sa resulta) ay hindi ipinapakita sa column ng resulta — ang column na Inaasahan ay may hawak na ng buong ground truth na walang pagbabago.