Dolphin small — Benchmark ng Mongolian speech-to-text
Tunay na resulta mula sa Dolphin small Batch API (pinahusay na operating point, wika mn) na sinuri sa 4 Mongolian na dataset at 265 audio sample. Bawat numero sa ibaba ay sinusukat — hindi marketing. Ang WER, bilis, at presyo ay ipinapakita kung ano talaga, walang paligoy-ligoy na tapat.
265/265 sample na-transcribe · 100% tagumpay
Mas mababa mas mainam · sa 265 sample
Presyo
Presyo sa listahan ng Dolphin small para sa batch transcription. Walang diskonto o negotiated na rate — ang hilaw na rate kada minuto.
Pinagmulan ng presyo: pampublikong presyo ng Dolphin small. Ang Duudlaga Flow ay ipinapakita para sa konteksto lamang — inhihiwalay ng pahinang ito ang Dolphin small para hindi palabasin ang numero ng aming produkto.
WER at CER bawat dataset
Tasa ng error sa salita at karakter bawat dataset. Mas mababa mas mainam — at ito ang tunay na numero ng Dolphin small, na mahina sa Common Voice 24.
Buod ng dataset
Pinagsama-samang katumpakan, bilis, at timing para sa bawat dataset.
| Dataset | Source | Mga sample | Tagumpay | WER | CER | Katumpakan | Bilis | Audio (seg) | Proseso (seg) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 46.6% | 14.8% | 53.4% | 1.25× | 330.6s | 263.9s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 49.7% | 19.2% | 50.3% | 2.59× | 645.1s | 248.8s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 46.3% | 15.6% | 53.7% | 1.41× | 269.8s | 191.7s |
| Modern Voice | — | 92 | 92/92 | 52.2% | 24.2% | 47.8% | 1.67× | 603.8s | 362.3s |
WER laban sa bilis — kada sample
Bawat tuldok ay isang audio sample. Ang ideal na posisyon ay sa kaliwang baba (kaunting error, mabilis). Mataas ang error ng Dolphin small sa maraming sample ng Common Voice 24.
Resulta kada sample
Ang ground truth ay ipinapakang walang pagbabago sa column na Inaasahan. Ang column ng resulta ay naghi-highlight ng pula sa mga salitang nagkamali ang Dolphin small — walang pagstrike/cross-out, mga pagkakamali lamang.
| # | Audio | Sample | Dataset | Inaasahan (ground truth) | Resulta ng Dolphin small | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Нада заяасан ажжиргах гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 25.0% | 6.7% | 0/1/2 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвжийн эмгэсээ салалахыг хичицгэя. | 57.1% | 21.2% | 0/0/4 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | би бол голдуу хээрээр гэр хэцээр дэр хийж явдаг хүн. | 0.0% | 0.0% | 0/0/0 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурмаст урлаж болдогүй боро өгний хоёр луугаар нэргүүлэхээр явжээ. | 80.0% | 16.9% | 0/0/8 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Аli нашаа ород гээдгэшдээ ор | 100.0% | 35.1% | 0/2/5 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өөө өндөр дээд таны тухайд би ботал чадахгүй. | 37.5% | 10.9% | 0/0/3 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин гурав дах удаагааас эхлэв хүмүүсийг сонирхожж эхлэв. | 50.0% | 7.1% | 0/0/4 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Танар очингуудаа шөлөл өгч үз. | 71.4% | 10.0% | 0/2/3 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаугүй явсан юм чинь. | 28.6% | 8.3% | 0/0/2 |
Metodolohiya
Paano nakuha ang mga numerong ito.
Provider: Dolphin small (DataoceanAI/Tsinghua Dolphin ASR run locally — 40 Eastern languages including Mongolian (lang=mn, region=MN).).
Endpoint local (dolphin). Wika mn. Operating point dolphin-small (mn-MN, cpu). Diarisasyon none.
Mga dataset: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 sample, kabuuang 1849.3s audio.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Metrics: Ang WER at CER ay kinakwenta gamit ang standard na salita/karakter na Levenshtein alignment, na-normalize para sa case at punctuation. Katumpakan = 100 − WER. Factor ng bilis = duration ng audio ÷ processing time (× real-time). Lahat ng request ay tunay na tawag sa Batch API ng Dolphin small, hindi cached o simulated.
Pag-highlight ng pagkakaiba: Ang column ng resulta ay ini-align sa ground truth at nagkokolor ng pula sa bawat substitution at insertion. Ang deletions (mga salitang nawawala sa resulta) ay hindi ipinapakita sa column ng resulta — ang column na Inaasahan ay may hawak na ng buong ground truth na walang pagbabago.