SeamlessM4T v2 — மங்கோலிய பேச்சு-உரை பெஞ்ச்மார்க்
SeamlessM4T v2 Batch API (மேம்படுத்தப்பட்ட இயக்கப் புள்ளி, மொழி mn) ஆல் 4 மங்கோலிய தரவுத்தொகுப்புகள் மற்றும் 265 ஆடியோ மாதிரிகளில் மதிப்பிடப்பட்ட உண்மையான முடிவுகள். கீழே உள்ள ஒவ்வொரு எண்ணும் அளக்கப்பட்டதே — சந்தைப்படுத்தல் அல்ல. WER, வேகம் மற்றும் விலை அப்படியே, கடுமையான நேர்மையுடன் காட்டப்படுகின்றன.
265/265 மாதிரிகள் எழுத்துப்பெயர்ப்பு · 100% வெற்றி
குறைவாக சிறந்தது · 265 மாதிரிகளில்
விலை
தொகுதி எழுத்துப்பெயர்ப்புக்கான SeamlessM4T v2 பட்டியல் விலை. தள்ளுபடி அல்லது பேச்சுவார்த்தை விகிதம் இல்லை — நிமிடத்திற்கான மூல விகிதம்.
விலை மூலம்: SeamlessM4T v2 பொது விலைகள். Duudlaga Flow சூழலுக்காக மட்டுமே காட்டப்படுகிறது — இப்பக்கம் SeamlessM4T v2-ஐ தனிமைப்படுத்துகிறது, எண் எங்கள் தயாரிப்பால் பெரிதாக்கப்படாது.
தரவுத்தொகுப்பு வாரியான WER மற்றும் CER
தரவுத்தொகுப்பு வாரியான சொல் மற்றும் எழுத்து பிழை விகிதங்கள். குறைவாக சிறந்தது — மேலும் இவை SeamlessM4T v2-ன் உண்மையான எண்கள், அவை Common Voice 24-ல் பலவீனமானவை.
தரவுத்தொகுப்பு சுருக்கம்
ஒவ்வொரு தரவுத்தொகுப்பிற்கும் திரட்டப்பட்ட துல்லியம், வேகம் மற்றும் நேரம்.
| தரவுத்தொகுப்பு | Source | மாதிரிகள் | வெற்றி | WER | CER | துல்லியம் | வேகம் | ஆடியோ (வி) | செயல் (வி) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 17.6% | 6.3% | 82.4% | 3.59× | 330.6s | 92.1s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 22.2% | 10.2% | 77.8% | 0.25× | 645.1s | 2569.2s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 21.7% | 7.9% | 78.3% | 0.14× | 269.8s | 1897s |
| Modern Voice | — | 92 | 92/92 | 30.9% | 16.7% | 69.1% | 4.26× | 603.8s | 141.6s |
WER vs வேகம் — மாதிரி வாரியாக
ஒவ்வொரு புள்ளியும் ஒரு ஆடியோ மாதிரி. சிறந்த இடம் கீழ்-இடது (குறைந்த பிழை, வேகம்). SeamlessM4T v2 பல Common Voice 24 மாதிரிகளில் அதிக பிழை கொண்டுள்ளது.
மாதிரி வாரியான முடிவுகள்
எதிர்பார்க்கப்படும் நெடுவரிசையில் அடிப்படை உண்மை அப்படியே காட்டப்படுகிறது. முடிவு நெடுவரிசை SeamlessM4T v2 தவறாக மாற்றிய சொற்களை மட்டுமே சிவப்பில் முன்னிலைப்படுத்துகிறது — குறுக்குகோடு/மாற்றம் இல்லை, தவறுகள் மட்டும்.
| # | ஒலி | மாதிரி | தரவுத்தொகுப்பு | எதிர்பார்க்கப்படும் (அடிப்படை உண்மை) | SeamlessM4T v2 முடிவு | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад аясан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 8.3% | 2.7% | 0/0/1 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчнөөр эмгэгээсээ салахыг хичээцгээе. | 14.3% | 7.7% | 0/0/1 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуу хээрээр гэр, хетээр дэр хийж явдаг хүн. | 10.0% | 3.9% | 0/0/1 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурамс уурлаж, болдоггүй бор уг нь хоёр луугаар нэхүүлэхээр явуулжээ. | 60.0% | 19.5% | 1/0/5 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гээд гэртээ оров. | 0.0% | 0.0% | 0/0/0 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө, өндөр дээдэс таны тухайд би батлаж чадахгүй. | 12.5% | 4.3% | 0/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | харин гурав дахь удаагаа эхлээд хүмүүсийг сонирхож эхлэв. | 25.0% | 5.4% | 0/0/2 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шөл л өгч үз. | 0.0% | 0.0% | 0/0/0 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаагүй явсан юм чинь. | 14.3% | 6.2% | 0/0/1 |
முறையியல்
இந்த எண்கள் எப்படிப் பெறப்பட்டன.
வழங்குநர்: SeamlessM4T v2 (Meta SeamlessM4T v2 Large speech-to-text run locally, decoding to Halh Mongolian (khk) — 2.3B params covering ~100 source languages.).
என்ட்பாயின்ட் local (transformers). மொழி mn. Operating point facebook/seamless-m4t-v2-large (tgt_lang=khk) on mps. பேச்சாளர் பிரிப்பு none.
தரவுத்தொகுப்புகள்: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 மாதிரிகள், மொத்தம் 1849.3s ஆடியோ.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
அளவீடுகள்: WER மற்றும் CER தரநிலையான சொல்/எழுத்து லெவென்ஸ்டைன் சீரமைப்பில், எழுத்து வகை மற்றும் நிறுத்தற்குறிக்கு இணக்கப்படுத்தப்பட்டு கணக்கிடப்படுகின்றன. துல்லியம் = 100 − WER. வேக காரணி = ஆடியோ காலஅளவு ÷ செயலாக்க நேரம் (× நிகழ்நேரம்). அனைத்து கோரிக்கைகளும் உண்மையான SeamlessM4T v2 Batch API அழைப்புகள், தற்காலிக சேமிப்பு அல்லது உருவகப்படுத்தப்பட்டவை அல்ல.
வேறுபாடு முன்னிலைப்படுத்தல்: முடிவு நெடுவரிசை அடிப்படை உண்மையுடன் சீரமைக்கப்பட்டு ஒவ்வொரு மாற்றீடு மற்றும் செருகலையும் சிவப்பில் வண்ணமயிக்கிறது. நீக்கங்கள் (முடிவில் இல்லாத சொற்கள்) முடிவு நெடுவரிசையில் காட்டப்படாது — எதிர்பார்க்கப்படும் நெடுவரிசை ஏற்கனவே முழு அடிப்படை உண்மையை அப்படியே கொண்டுள்ளது.