wav2vec2 XLSR-53 MN — Монгол яриа таних бенчмарк
wav2vec2 XLSR-53 MN Batch API-г сайжруулсан operating point, mn хэлээр ажиллуулж, 4 монгол өгөгдлийн багцын 265 аудио жишээгээр үнэлсэн бодит үр дүн. Доорх бүх тоог хэмжсэн — маркетингийн тоо биш. WER, хурд, үнийг өөрчлөлгүй, нууж хаалгүй харуулав.
265/265 жишээг хөрвүүлсэн · амжилтын хувь 100%
Бага байх тусмаа сайн · 265 жишээгээр
Үнэ
wav2vec2 XLSR-53 MN-ийн batch хөрвүүлэлтийн албан ёсны жагсаалтын үнэ. Хөнгөлөлт, тохиролцсон тариф оруулаагүй — минутын үндсэн үнэ.
Үнийн эх сурвалж: wav2vec2 XLSR-53 MN-ийн нийтэд зарласан үнэ. Duudlaga Flow-г зөвхөн харьцуулахад дурдсан; энэ хуудсанд wav2vec2 XLSR-53 MN-ийг дангаар нь авч үзсэн тул манай бүтээгдэхүүний үзүүлэлт тоонд нөлөөлөөгүй.
Өгөгдлийн багц тус бүрийн WER ба CER
Өгөгдлийн багц тус бүрийн үг, тэмдэгтийн алдааны түвшин. Бага байх тусмаа сайн. Эдгээр нь wav2vec2 XLSR-53 MN-ийн бодит үзүүлэлт бөгөөд Common Voice 24 дээр сул байна.
Өгөгдлийн багцын хураангуй
Багц тус бүрийн нэгтгэсэн нарийвчлал, хурд, хугацаа.
| Өгөгдлийн багц | Эх сурвалж | Жишээ | Амжилттай | WER | CER | Нарийвчлал | Хурд | Аудио (с) | Боловсруулалт (с) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 37.2% | 11.4% | 62.8% | 37.32× | 330.6s | 8.9s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 44.6% | 15.3% | 55.4% | 45.18× | 645.1s | 14.3s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 31.7% | 9.6% | 68.3% | 37.72× | 269.8s | 7.2s |
| Modern Voice | — | 92 | 92/92 | 58% | 24.3% | 42.0% | 45.1× | 603.8s | 13.4s |
WER ба хурд — жишээ тус бүрээр
Цэг бүр нэг аудио жишээг илэрхийлнэ. Зүүн доод хэсэг хамгийн сайн буюу алдаа бага, хурд өндөр. wav2vec2 XLSR-53 MN нь Common Voice 24-ийн олон жишээн дээр өндөр алдаатай байна.
Жишээ тус бүрийн үр дүн
Жишиг бичвэр баганад эх хувилбарыг өөрчлөлгүй харуулна. Үр дүн баганад wav2vec2 XLSR-53 MN-ийн алдсан үгийг л улаанаар тэмдэглэнэ — дарж зурах, үг солих тэмдэглэгээгүй, зөвхөн алдааг харуулна.
| # | Аудио | Жишээ | Өгөгдлийн багц | Жишиг бичвэр | wav2vec2 XLSR-53 MN-ийн үр дүн | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | гэхдээ амьсгал хураахаасаа өмнө танд мэдэж ягаагаа хэлэе | 25.0% | 6.9% | 0/0/2 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж хүү | 8.3% | 1.3% | 0/0/1 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | одоо бид өөрждөө өвчин эмгийдээсээ салахыг хичээцгээ гийдэг | 57.1% | 21.2% | 1/0/3 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | би бол голдуу хээрээр гэр хэчээр дэр хийж явдаг хүн | 10.0% | 2.0% | 0/0/1 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | тав хурамжт уулаж болдоггүй бур вгүн хоёр луугаар нэргүүл хэрэгүлжээ | 90.0% | 29.9% | 0/0/9 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | алив наашаа оройдр гээд гэртээ оров | 28.6% | 8.1% | 0/1/1 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | өө өндөр дээд таны тухайд би баталж чадахгүй | 12.5% | 4.3% | 0/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | харин гурав даг удаагаас эхлэх хүмүүсийг сонирхож эхлэв | 25.0% | 5.4% | 0/0/2 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | та нар очингуутаа шүлэл өгч үз | 28.6% | 6.7% | 0/1/1 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | ерөөсөө л үйлдвэрээсээ салуугүй орсон юм чинь | 42.9% | 16.7% | 0/0/3 |
Аргачлал
Эдгээр үзүүлэлтийг хэрхэн гаргав.
Үйлчилгээ үзүүлэгч: wav2vec2 XLSR-53 MN (wav2vec2 XLSR-53 fine-tuned on Mongolian Common Voice — by download count the most-used Mongolian-specific open ASR model on the Hub. CTC output, so no punctuation or casing.). Энэ тэмдэгтэй загварууд бенчмаркийн корпустай давхцах өгөгдлөөр сургагдсан (Монгол Common Voice-ийн 173 жишээний 113 эсвэл нийтэд нээлттэй Shunya Labs корпус). Давхцсан корпусын оноо цээжилснээс хиймлээр өндөр гардаг. Ийм загварыг дэлгэрэнгүй хуудасны өгөгдлийн багц тус бүрийн хүснэгтээр, ялангуяа сургалтад нь ороогүй корпусаар үнэлнэ үү.
Endpoint local (transformers). Хэл mn. Operating point anton-l/wav2vec2-large-xlsr-53-mongolian (CTC) on mps. Яригч ялгалт none.
Өгөгдлийн багц: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 жишээ, нийт 1849.3s аудио.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Хэмжүүр: WER, CER-ийг үг болон тэмдэгтийн стандарт Levenshtein тааруулалтаар тооцож, үсгийн том, жижиг хэлбэр болон цэг тэмдэгтийг ижилсгэсэн. Нарийвчлал = 100 − WER. Хурд = аудионы хугацаа ÷ боловсруулах хугацаа (× бодит хугацаа). Бүх хүсэлт нь кэшилсэн эсвэл дуурайлгасан биш, wav2vec2 XLSR-53 MN Batch API руу хийсэн бодит дуудлага.
Алдааны тэмдэглэгээ: Үр дүнг жишиг бичвэртэй тааруулж, сольсон болон илүү оруулсан үг бүрийг улаанаар тэмдэглэнэ. Хасагдсан буюу үр дүнд байхгүй үгийг үр дүн баганад харуулахгүй — Жишиг бичвэр баганад эх хувилбар бүтнээрээ, өөрчлөлгүй бий.