SeamlessM4T v2 — Moğolca konuşmadan metne benchmark
SeamlessM4T v2 Batch API (geliştirilmiş çalışma noktası, dil mn) tarafından 4 Moğolca veri seti ve 265 ses örneği üzerinde değerlendirilen gerçek sonuçlar. Aşağıdaki her sayı ölçülmüştür — pazarlama değil. WER, hız ve fiyat olduğu gibi, acımasızca dürüst gösterilir.
265/265 örnek transkribe edildi · %100 başarı
Düşük daha iyidir · 265 örnek üzerinde
Fiyat
Toplu transkripsiyon için SeamlessM4T v2 liste fiyatı. İndirim veya pazarlık edilen tarifeler yok — ham dakika başı ücret.
Fiyat kaynağı: SeamlessM4T v2 genel fiyatları. Duudlaga Flow yalnızca bağlam için gösterilir — bu sayfa SeamlessM4T v2'i izole eder, böylece sayı kendi ürünümüzle şişirilmez.
Veri setine göre WER ve CER
Veri seti başına kelime ve karakter hata oranları. Düşük daha iyidir — ve bunlar SeamlessM4T v2'in gerçek sayılarıdır ve Common Voice 24'te zayıftır.
Veri seti özeti
Her veri seti için toplu doğruluk, hız ve zamanlama.
| Veri seti | Kaynak | Örnekler | Başarı | WER | CER | Doğruluk | Hız | Ses (sn) | İşl. (sn) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 17.6% | 6.3% | 82.4% | 3.59× | 330.6s | 92.1s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 22.2% | 10.2% | 77.8% | 0.25× | 645.1s | 2569.2s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 21.7% | 7.9% | 78.3% | 0.14× | 269.8s | 1897s |
| Modern Voice | — | 92 | 92/92 | 30.9% | 16.7% | 69.1% | 4.26× | 603.8s | 141.6s |
WER ile hız — örnek bazında
Her nokta bir ses örneğidir. İdeal yer sol alttadır (az hata, hızlı). SeamlessM4T v2 birçok Common Voice 24 örneğinde yüksek hata yapar.
Örnek bazında sonuçlar
Beklenen sütununda referans değer olduğu gibi gösterilir. Sonuç sütunu yalnızca SeamlessM4T v2'in yanlış yaptığı kelimeleri kırmızıyla vurgular — üstü çizili değişimler yok, sadece hatalar.
| # | Ses | Örnek | Veri seti | Beklenen (referans değer) | SeamlessM4T v2 sonucu | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад аясан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 8.3% | 2.7% | 0/0/1 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчнөөр эмгэгээсээ салахыг хичээцгээе. | 14.3% | 7.7% | 0/0/1 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуу хээрээр гэр, хетээр дэр хийж явдаг хүн. | 10.0% | 3.9% | 0/0/1 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурамс уурлаж, болдоггүй бор уг нь хоёр луугаар нэхүүлэхээр явуулжээ. | 60.0% | 19.5% | 1/0/5 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гээд гэртээ оров. | 0.0% | 0.0% | 0/0/0 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө, өндөр дээдэс таны тухайд би батлаж чадахгүй. | 12.5% | 4.3% | 0/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | харин гурав дахь удаагаа эхлээд хүмүүсийг сонирхож эхлэв. | 25.0% | 5.4% | 0/0/2 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шөл л өгч үз. | 0.0% | 0.0% | 0/0/0 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаагүй явсан юм чинь. | 14.3% | 6.2% | 0/0/1 |
Yöntembilim
Bu sayılar nasıl elde edildi.
Sağlayıcı: SeamlessM4T v2 (Meta SeamlessM4T v2 Large speech-to-text run locally, decoding to Halh Mongolian (khk) — 2.3B params covering ~100 source languages.).
Uç nokta local (transformers). Dil mn. Çalışma noktası facebook/seamless-m4t-v2-large (tgt_lang=khk) on mps. Diyarizasyon none.
Veri setleri: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 örnek, toplam 1849.3s ses.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Metrikler: WER ve CER, büyük/küçük harf ve noktalama için normalize edilmiş standart bir kelime/karakter Levenshtein hizalamasıyla hesaplanır. Doğruluk = 100 − WER. Hız faktörü = ses süresi ÷ işleme süresi (× gerçek zaman). Tüm istekler gerçek SeamlessM4T v2 Batch API çağrılarıdır; önbelleğe alınmış veya simüle edilmiş değildir.
Fark vurgulaması: Sonuç sütunu referans değere hizalanır ve her ikame ve eklemeyi kırmızı renkle işaretler. Silmeler (sonuçta eksik kelimeler) sonuç sütununda gösterilmez — Beklenen sütunu zaten referans değerin tamamını olduğu gibi içerir.