ElevenLabs Scribe v1 — Benchmark ng Mongolian speech-to-text
Tunay na resulta mula sa ElevenLabs Scribe v1 Batch API (pinahusay na operating point, wika mn) na sinuri sa 4 Mongolian na dataset at 265 audio sample. Bawat numero sa ibaba ay sinusukat — hindi marketing. Ang WER, bilis, at presyo ay ipinapakita kung ano talaga, walang paligoy-ligoy na tapat.
265/265 sample na-transcribe · 100% tagumpay
Mas mababa mas mainam · sa 265 sample
Presyo
Presyo sa listahan ng ElevenLabs Scribe v1 para sa batch transcription. Walang diskonto o negotiated na rate — ang hilaw na rate kada minuto.
Pinagmulan ng presyo: pampublikong presyo ng ElevenLabs Scribe v1. Ang Duudlaga Flow ay ipinapakita para sa konteksto lamang — inhihiwalay ng pahinang ito ang ElevenLabs Scribe v1 para hindi palabasin ang numero ng aming produkto.
WER at CER bawat dataset
Tasa ng error sa salita at karakter bawat dataset. Mas mababa mas mainam — at ito ang tunay na numero ng ElevenLabs Scribe v1, na mahina sa Common Voice 24.
Buod ng dataset
Pinagsama-samang katumpakan, bilis, at timing para sa bawat dataset.
| Dataset | Source | Mga sample | Tagumpay | WER | CER | Katumpakan | Bilis | Audio (seg) | Proseso (seg) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 30% | 10.9% | 70.0% | 2.35× | 330.6s | 140.9s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 18.7% | 5.9% | 81.3% | 2.02× | 645.1s | 319.9s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 31.3% | 13.1% | 68.7% | 2.41× | 269.8s | 111.8s |
| Modern Voice | — | 92 | 92/92 | 28.3% | 12.4% | 71.7% | 2.06× | 603.8s | 293.2s |
WER laban sa bilis — kada sample
Bawat tuldok ay isang audio sample. Ang ideal na posisyon ay sa kaliwang baba (kaunting error, mabilis). Mataas ang error ng ElevenLabs Scribe v1 sa maraming sample ng Common Voice 24.
Resulta kada sample
Ang ground truth ay ipinapakang walang pagbabago sa column na Inaasahan. Ang column ng resulta ay naghi-highlight ng pula sa mga salitang nagkamali ang ElevenLabs Scribe v1 — walang pagstrike/cross-out, mga pagkakamali lamang.
| # | Audio | Sample | Dataset | Inaasahan (ground truth) | Resulta ng ElevenLabs Scribe v1 | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад заяасан аж чиргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 16.7% | 4.0% | 0/0/2 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчийн эмнэлгээсээ салхийг хичээцгээе. | 42.9% | 11.5% | 0/0/3 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуй хээрээр гэр, хицээр дэр хийж явдаг хүн | 20.0% | 3.9% | 0/0/2 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурмаст уулзсан болдоггүй бор өвгөнө хоёр луугаар нэргүүлэхээр явагджээ | 60.0% | 18.2% | 0/0/6 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гээд гэртээ оров. | 0.0% | 0.0% | 0/0/0 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө, өндөр дээдс таны тухайд би бодол ч чадахгүй | 37.5% | 13.0% | 1/0/2 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | 0.0% | 0.0% | 0/0/0 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шүлэл өгч үз | 28.6% | 6.7% | 0/1/1 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Эрүүлсээл үйлдвэрээсээ салаагүй явсан юм чинь. | 28.6% | 20.8% | 0/1/1 |
Metodolohiya
Paano nakuha ang mga numerong ito.
Provider: ElevenLabs Scribe v1 (ElevenLabs Scribe v1 hosted transcription (language_code=mn).).
Endpoint https://api.elevenlabs.io/v1/speech-to-text. Wika mn. Operating point scribe_v1. Diarisasyon none.
Mga dataset: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 sample, kabuuang 1849.3s audio.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Metrics: Ang WER at CER ay kinakwenta gamit ang standard na salita/karakter na Levenshtein alignment, na-normalize para sa case at punctuation. Katumpakan = 100 − WER. Factor ng bilis = duration ng audio ÷ processing time (× real-time). Lahat ng request ay tunay na tawag sa Batch API ng ElevenLabs Scribe v1, hindi cached o simulated.
Pag-highlight ng pagkakaiba: Ang column ng resulta ay ini-align sa ground truth at nagkokolor ng pula sa bawat substitution at insertion. Ang deletions (mga salitang nawawala sa resulta) ay hindi ipinapakita sa column ng resulta — ang column na Inaasahan ay may hawak na ng buong ground truth na walang pagbabago.