MMS-1B-all — 몽골어 음성-텍스트 벤치마크
MMS-1B-all Batch API(향상된 운용 지점, 언어 mn)를 4개 몽골어 데이터셋과 265개 오디오 샘플로 평가한 실제 결과입니다. 아래의 모든 숫자는 마케팅이 아닌 실측값입니다. WER, 속도, 가격은 있는 그대로, 가감 없이 솔직하게 표시합니다.
265/265 샘플 전사 · 100% 성공
낮을수록 좋음 · 265개 샘플 기준
가격
MMS-1B-all의 일괄 전사 정가입니다. 할인이나 협상된 요금은 반영하지 않은 원시 분당 요금입니다.
가격 출처: MMS-1B-all 공개 가격. Duudlaga Flow는 참고용으로만 표시합니다. 이 페이지는 MMS-1B-all만 단독으로 다루어 숫자가 자사 제품으로 부풀려지지 않음을 보여줍니다.
데이터셋별 WER 및 CER
데이터셋별 단어·문자 오류율입니다. 낮을수록 좋으며, 이는 MMS-1B-all의 실제 숫자로 Common Voice 24에서 약합니다.
데이터셋 요약
각 데이터셋의 종합 정확도, 속도, 소요 시간.
| 데이터셋 | 출처 | 샘플 | 성공 | WER | CER | 정확도 | 속도 | 오디오(초) | 처리(초) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 39.8% | 10.4% | 60.2% | 16.59× | 330.6s | 19.9s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 30.3% | 7.2% | 69.7% | 20.44× | 645.1s | 31.6s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 45.2% | 12.2% | 54.8% | 17.98× | 269.8s | 15s |
| Modern Voice | — | 92 | 92/92 | 48.3% | 17% | 51.7% | 20.25× | 603.8s | 29.8s |
WER 대 속도 — 샘플별
각 점은 하나의 오디오 샘플입니다. 이상적인 위치는 좌하단(오류 적음, 빠름)입니다. MMS-1B-all는 많은 Common Voice 24 샘플에서 오류가 높습니다.
샘플별 결과
“기대” 열에 정답을 그대로 표시합니다. 결과 열은 MMS-1B-all가 틀린 단어만 빨간색으로 강조합니다 — 취소선/교체 없이 오류만 보여줍니다.
| # | 오디오 | 샘플 | 데이터셋 | 기대(정답) | MMS-1B-all 결과 | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | нада заяасан ад жиргал гэдэг эрдэ гурвахан сарын хугацаатай байсан гэж үү | 41.7% | 10.7% | 0/0/5 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | одоо тэд өөрсдөө өвчин энэгэйгээсээ салахыг чэцгээв | 42.9% | 17.3% | 0/0/3 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | би бол голдуу хээрээр гэр хэцээр дэр хийж явдаг хүн | 0.0% | 0.0% | 0/0/0 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | хан хурамс жуурлаж болдггүй бурөгний хоёр луугаар нэргүүлэхээр явгжээ | 90.0% | 22.1% | 0/1/8 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | алив наашаа ороо дэр гээд гэртээ оров | 28.6% | 8.1% | 0/0/2 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | өө өндөр дээд таны тухайд би ботолж чадахгүй | 25.0% | 8.7% | 0/0/2 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | харин гурав дах удаагаас эхлэн хүмүүсийг сонирхож эхлэв | 12.5% | 1.8% | 0/0/1 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | та нар очингуутаа шөлөл өгч үз | 28.6% | 3.3% | 0/1/1 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | эрөөсөө л үйлдвэрээсээ салуагүй явсан юм чинь | 42.9% | 10.4% | 0/0/3 |
방법론
이 숫자들이 도출된 방식.
제공자: MMS-1B-all (Meta Massively Multilingual Speech (1B, 1162 languages) with the Mongolian CTC adapter — no punctuation or casing by design.).
엔드포인트 local (transformers). 언어 mn. 동작점 facebook/mms-1b-all (mon CTC adapter) on mps. 화자 분리 none.
데이터셋: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265개 샘플, 오디오 총 1849.3s.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
지표: WER과 CER은 대소문자와 구두점을 정규화한 표준 단어/문자 레벤슈타인 정렬로 계산합니다. 정확도 = 100 − WER. 속도 계수 = 오디오 길이 ÷ 처리 시간(× 실시간). 모든 요청은 실제 MMS-1B-all Batch API 호출이며 캐시나 시뮬레이션이 아닙니다.
차이 강조: 결과 열은 정답에 정렬하여 모든 치환과 삽입을 빨간색으로 표시합니다. 삭제(결과에 빠진 단어)는 결과 열에 표시하지 않으며 “기대” 열이 정답 전체를 그대로 보유합니다.