SeamlessM4T v2 — Benchmark de voz a texto en mongol
Resultados reales de la SeamlessM4T v2 Batch API (punto de operación mejorado, idioma mn) evaluados en 4 conjuntos de datos en mongol y 265 muestras de audio. Todos los números de abajo son medidos, no marketing. WER, velocidad y precio se muestran tal cual, brutalmente honestos.
265/265 muestras transcritas · 100% de éxito
Menor es mejor · en 265 muestras
Precio
Precio de lista de SeamlessM4T v2 para transcripción por lotes. Sin descuentos ni tarifas negociadas: la tarifa bruta por minuto.
Fuente del precio: precios públicos de SeamlessM4T v2. Duudlaga Flow se muestra solo como contexto; esta página aísla SeamlessM4T v2 para que el número no esté inflado por nuestro producto.
WER y CER por conjunto de datos
Tasas de error de palabras y caracteres por conjunto de datos. Menor es mejor — y estos son los números reales de SeamlessM4T v2, que son débiles en Common Voice 24.
Resumen por conjunto de datos
Precisión, velocidad y tiempos agregados de cada conjunto de datos.
| Conjunto de datos | Origen | Muestras | Éxito | WER | CER | Precisión | Velocidad | Audio (s) | Proc. (s) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 17.6% | 6.3% | 82.4% | 3.59× | 330.6s | 92.1s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 22.2% | 10.2% | 77.8% | 0.25× | 645.1s | 2569.2s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 21.7% | 7.9% | 78.3% | 0.14× | 269.8s | 1897s |
| Modern Voice | — | 92 | 92/92 | 30.9% | 16.7% | 69.1% | 4.26× | 603.8s | 141.6s |
WER frente a velocidad — por muestra
Cada punto es una muestra de audio. El punto ideal es abajo a la izquierda (poco error, rápido). SeamlessM4T v2 tiene un error alto en muchas muestras de Common Voice 24.
Resultados por muestra
La verdad fundamental se muestra tal cual en la columna Esperado. La columna de resultado resalta en rojo solo las palabras que SeamlessM4T v2 erró — sin tachados ni reemplazos, solo los errores.
| # | Audio | Muestra | Conjunto de datos | Esperado (verdad fundamental) | Resultado de SeamlessM4T v2 | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад аясан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 8.3% | 2.7% | 0/0/1 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчнөөр эмгэгээсээ салахыг хичээцгээе. | 14.3% | 7.7% | 0/0/1 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуу хээрээр гэр, хетээр дэр хийж явдаг хүн. | 10.0% | 3.9% | 0/0/1 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурамс уурлаж, болдоггүй бор уг нь хоёр луугаар нэхүүлэхээр явуулжээ. | 60.0% | 19.5% | 1/0/5 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гээд гэртээ оров. | 0.0% | 0.0% | 0/0/0 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө, өндөр дээдэс таны тухайд би батлаж чадахгүй. | 12.5% | 4.3% | 0/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | харин гурав дахь удаагаа эхлээд хүмүүсийг сонирхож эхлэв. | 25.0% | 5.4% | 0/0/2 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шөл л өгч үз. | 0.0% | 0.0% | 0/0/0 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаагүй явсан юм чинь. | 14.3% | 6.2% | 0/0/1 |
Metodología
Cómo se obtuvieron estos números.
Proveedor: SeamlessM4T v2 (Meta SeamlessM4T v2 Large speech-to-text run locally, decoding to Halh Mongolian (khk) — 2.3B params covering ~100 source languages.).
Endpoint local (transformers). Idioma mn. Punto operativo facebook/seamless-m4t-v2-large (tgt_lang=khk) on mps. Diarización none.
Conjuntos de datos: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 muestras, 1849.3s de audio en total.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Métricas: WER y CER se calculan con una alineación Levenshtein de palabras/caracteres estándar, normalizada por mayúsculas y puntuación. Precisión = 100 − WER. Factor de velocidad = duración de audio ÷ tiempo de procesamiento (× tiempo real). Todas las solicitudes son llamadas reales a la Batch API de SeamlessM4T v2, no en caché ni simuladas.
Resaltado de diferencias: La columna de resultado se alinea con la verdad fundamental y colorea en rojo cada sustitución e inserción. Las eliminaciones (palabras que faltan en el resultado) no se muestran en la columna de resultado — la columna Esperado ya contiene toda la verdad fundamental tal cual.