SeamlessM4T v2 — Benchmark μετατροπής μογγολικής ομιλίας σε κείμενο
Πραγματικά αποτελέσματα από το SeamlessM4T v2 Batch API (βελτιωμένο σημείο λειτουργίας, γλώσσα mn) αξιολογημένα σε 4 μογγολικά σύνολα δεδομένων και 265 δείγματα ήχου. Κάθε αριθμός παρακάτω είναι μετρημένος — όχι μάρκετινγκ. Τα WER, η ταχύτητα και η τιμή εμφανίζονται ως έχουν, ωμά ειλικρινή.
265/265 δείγματα μεταγράφηκαν · 100% επιτυχία
Χαμηλότερο είναι καλύτερο · σε 265 δείγματα
Τιμολόγηση
Τιμή καταλόγου SeamlessM4T v2 για ομαδική μεταγραφή. Χωρίς εκπτώσεις ή διαπραγματευμένες τιμές — η ακατέργαστη τιμή ανά λεπτό.
Πηγή τιμής: δημόσιες τιμές SeamlessM4T v2. Το Duudlaga Flow εμφανίζεται μόνο για πλαίσιο — αυτή η σελίδα απομονώνει το SeamlessM4T v2 ώστε ο αριθμός να μην διογκώνεται από το προϊόν μας.
WER και CER ανά σύνολο δεδομένων
Ρυθμοί σφάλματος λέξεων και χαρακτήρων ανά σύνολο δεδομένων. Χαμηλότερο είναι καλύτερο — και αυτά είναι τα πραγματικά νούμερα του SeamlessM4T v2, τα οποία είναι αδύναμα στο Common Voice 24.
Σύνοψη συνόλων δεδομένων
Συνολική ακρίβεια, ταχύτητα και χρονισμός για κάθε σύνολο δεδομένων.
| Σύνολο δεδομένων | Source | Δείγματα | Επιτυχία | WER | CER | Ακρίβεια | Ταχύτητα | Ήχος (δ) | Επεξ. (δ) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 17.6% | 6.3% | 82.4% | 3.59× | 330.6s | 92.1s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 22.2% | 10.2% | 77.8% | 0.25× | 645.1s | 2569.2s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 21.7% | 7.9% | 78.3% | 0.14× | 269.8s | 1897s |
| Modern Voice | — | 92 | 92/92 | 30.9% | 16.7% | 69.1% | 4.26× | 603.8s | 141.6s |
WER vs ταχύτητα — ανά δείγμα
Κάθε κουκκίδα είναι ένα δείγμα ήχου. Το ιδανικό σημείο είναι κάτω αριστερά (λίγο σφάλμα, γρήγορα). Το SeamlessM4T v2 έχει υψηλό σφάλμα σε πολλά δείγματα Common Voice 24.
Αποτελέσματα ανά δείγμα
Η αλήθεια αναφοράς εμφανίζεται αυτούσια στη στήλη Αναμένεται. Η στήλη αποτελέσματος επισημαίνει με κόκκινο μόνο τις λέξεις που έκανε λάθος το SeamlessM4T v2 — χωρίς διαγραφές/αντικαταστάσεις, μόνο τα λάθη.
| # | Ήχος | Δείγμα | Σύνολο δεδομένων | Αναμένεται (αλήθεια αναφοράς) | Αποτέλεσμα SeamlessM4T v2 | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад аясан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 8.3% | 2.7% | 0/0/1 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчнөөр эмгэгээсээ салахыг хичээцгээе. | 14.3% | 7.7% | 0/0/1 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуу хээрээр гэр, хетээр дэр хийж явдаг хүн. | 10.0% | 3.9% | 0/0/1 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурамс уурлаж, болдоггүй бор уг нь хоёр луугаар нэхүүлэхээр явуулжээ. | 60.0% | 19.5% | 1/0/5 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гээд гэртээ оров. | 0.0% | 0.0% | 0/0/0 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө, өндөр дээдэс таны тухайд би батлаж чадахгүй. | 12.5% | 4.3% | 0/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | харин гурав дахь удаагаа эхлээд хүмүүсийг сонирхож эхлэв. | 25.0% | 5.4% | 0/0/2 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шөл л өгч үз. | 0.0% | 0.0% | 0/0/0 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаагүй явсан юм чинь. | 14.3% | 6.2% | 0/0/1 |
Μεθοδολογία
Πώς προέκυψαν αυτοί οι αριθμοί.
Πάροχος: SeamlessM4T v2 (Meta SeamlessM4T v2 Large speech-to-text run locally, decoding to Halh Mongolian (khk) — 2.3B params covering ~100 source languages.).
Endpoint local (transformers). Γλώσσα mn. Operating point facebook/seamless-m4t-v2-large (tgt_lang=khk) on mps. Διαχωρισμός ομιλούντων none.
Σύνολα δεδομένων: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 δείγματα, συνολικά 1849.3s ήχου.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Μετρικές: Τα WER και CER υπολογίζονται με τυποποιημένη στοίχιση Levenshtein λέξεων/χαρακτήρων, κανονικοποιημένη για πεζά/κεφαλαία και στίξη. Ακρίβεια = 100 − WER. Συντελεστής ταχύτητας = διάρκεια ήχου ÷ χρόνος επεξεργασίας (× πραγματικός χρόνος). Όλα τα αιτήματα είναι πραγματικές κλήσεις στο Batch API του SeamlessM4T v2, όχι στην cache ούτε προσομοιωμένα.
Επισήμανση διαφορών: Η στήλη αποτελέσματος στοιχίζεται με την αλήθεια αναφοράς και χρωματίζει κόκκινη κάθε αντικατάσταση και εισαγωγή. Οι διαγραφές (λέξεις που λείπουν από το αποτέλεσμα) δεν εμφανίζονται στη στήλη αποτελέσματος — η στήλη Αναμένεται ήδη περιέχει όλη την αλήθεια αναφοράς αυτούσια.