OmniASR LLM-1B — ਮੰਗੋਲੀਅਨ ਸਪੀਚ-ਟੂ-ਟੈਕਸਟ ਬੈਂਚਮਾਰਕ
OmniASR LLM-1B Batch API (ਸੁਧਾਰੀ ਓਪਰੇਟਿੰਗ ਪੁਆਇੰਟ, ਭਾਸ਼ਾ mn) ਦੁਆਰਾ 4 ਮੰਗੋਲੀਅਨ ਡੇਟਾਸੈਟਾਂ ਅਤੇ 265 ਆਡੀਓ ਨਮੂਨਿਆਂ ’ਤੇ ਮੁਲਾਂਕਣ ਕੀਤੇ ਅਸਲ ਨਤੀਜੇ। ਹੇਠਾਂ ਹਰ ਨੰਬਰ ਮਾਪਿਆ ਗਿਆ ਹੈ — ਮਾਰਕੀਟਿੰਗ ਨਹੀਂ। WER, ਗਤੀ ਅਤੇ ਕੀਮਤ ਜਿਵੇਂ ਹਨ, ਸਖ਼ਤ ਇਮਾਨਦਾਰੀ ਨਾਲ ਵਿਖਾਏ ਗਏ ਹਨ।
265/265 ਨਮੂਨੇ ਟ੍ਰਾਂਸਕ੍ਰਾਈਬ · 100% ਸਫਲਤਾ
ਘੱਟ ਬਿਹਤਰ · 265 ਨਮੂਨਿਆਂ ’ਤੇ
ਕੀਮਤ
ਬੈਚ ਟ੍ਰਾਂਸਕ੍ਰਿਪਸ਼ਨ ਲਈ OmniASR LLM-1B ਦੀ ਸੂਚੀ ਕੀਮਤ। ਕੋਈ ਛੂਟ ਜਾਂ ਗੱਲਬਾਤ ਕੀਤੀ ਦਰ ਨਹੀਂ — ਪ੍ਰਤੀ ਮਿੰਟ ਕੱਚੀ ਦਰ।
ਕੀਮਤ ਸ੍ਰੋਤ: OmniASR LLM-1B ਜਨਤਕ ਕੀਮਤਾਂ। Duudlaga Flow ਸਿਰਫ਼ ਸੰਦਰਭ ਲਈ ਵਿਖਾਇਆ ਗਿਆ ਹੈ — ਇਹ ਪੰਨਾ OmniASR LLM-1B ਨੂੰ ਵੱਖ ਰੱਖਦਾ ਹੈ ਤਾਂ ਜੋ ਨੰਬਰ ਸਾਡੇ ਉਤਪਾਦ ਨਾਲ ਫੁੱਲ ਨਾ ਜਾਵੇ।
ਡੇਟਾਸੈਟ ਮੁਤਾਬਕ WER ਅਤੇ CER
ਡੇਟਾਸੈਟ ਮੁਤਾਬਕ ਸ਼ਬਦ ਅਤੇ ਅੱਖਰ ਗਲਤੀ ਦਰ। ਘੱਟ ਬਿਹਤਰ — ਅਤੇ ਇਹ OmniASR LLM-1B ਦੇ ਅਸਲ ਨੰਬਰ ਹਨ, ਜੋ Common Voice 24 ’ਤੇ ਕਮਜ਼ੋਰ ਹਨ।
ਡੇਟਾਸੈਟ ਸਾਰ
ਹਰ ਡੇਟਾਸੈਟ ਲਈ ਸਮੁੱਚੀ ਸ਼ੁੱਧਤਾ, ਗਤੀ ਅਤੇ ਸਮਾਂ।
| ਡੇਟਾਸੈਟ | Source | ਨਮੂਨੇ | ਸਫਲਤਾ | WER | CER | ਸ਼ੁੱਧਤਾ | ਗਤੀ | ਆਡੀਓ (ਸੈ) | ਪ੍ਰੋਸੈ. (ਸੈ) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 36.6% | 15.5% | 63.4% | 0.3× | 330.6s | 1088.7s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 22.9% | 6.9% | 77.1% | 0.25× | 645.1s | 2583.1s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 37.2% | 18% | 62.8% | 0.29× | 269.8s | 931.7s |
| Modern Voice | — | 92 | 92/92 | 36.9% | 15.8% | 63.1% | 0.26× | 603.8s | 2304.1s |
WER vs ਗਤੀ — ਨਮੂਨੇ ਮੁਤਾਬਕ
ਹਰ ਬਿੰਦੂ ਇੱਕ ਆਡੀਓ ਨਮੂਨਾ ਹੈ। ਆਦਰਸ਼ ਥਾਂ ਹੇਠਾਂ-ਖੱਬੇ (ਘੱਟ ਗਲਤੀ, ਤੇਜ਼) ਹੈ। OmniASR LLM-1B ਕੋਲ ਕਈ Common Voice 24 ਨਮੂਨਿਆਂ ’ਤੇ ਉੱਚ ਗਲਤੀ ਹੈ।
ਨਮੂਨੇ ਮੁਤਾਬਕ ਨਤੀਜੇ
ਉਮੀਦ ਕਾਲਮ ਵਿੱਚ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਜਿਵੇਂ ਹੈ ਉਵੇਂ ਵਿਖਾਇਆ ਗਿਆ ਹੈ। ਨਤੀਜਾ ਕਾਲਮ ਸਿਰਫ਼ ਉਹ ਸ਼ਬਦ ਲਾਲ ਵਿੱਚ ਉਭਾਰਦਾ ਹੈ ਜੋ OmniASR LLM-1B ਨੇ ਗਲਤ ਕੀਤੇ — ਕੋਈ ਸਟ੍ਰਾਈਕਥ੍ਰੂ/ਅਦਲਾ-ਬਦਲੀ ਨਹੀਂ, ਸਿਰਫ਼ ਗਲਤੀਆਂ।
| # | ਆਡੀਓ | ਨਮੂਨਾ | ਡੇਟਾਸੈਟ | ਉਮੀਦ (ਗਰਾਊਂਡ ਟ੍ਰੁਥ) | OmniASR LLM-1B ਨਤੀਜਾ | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | гэхдээ амьсгал хураахаасаа өмнө танд мэдэж айгаагаа хэлье | 12.5% | 1.7% | 0/0/1 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | და́დ წე́ი სა́ნათ ჭირალო̆ გე́ტდეგერ და ყო́რუხ უ̂ნ სარენ ხო́ხ წათდა́ ბჵაჲსნი̆ გეჩუ́ჲნი̆ | 108.3% | 104.0% | 1/0/12 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | одоо бид өөрсдөө өвчин эмгэгээсээ салахыг ч хэвцгээв | 28.6% | 9.6% | 1/0/1 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | би бол голдуу хээрээр гэр хэцээр дэр хийж явдаг хүн | 0.0% | 0.0% | 0/0/0 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | хан хурамч дуурлаж болдохгүй бор өгнө хоёр луугаар нэргүүлэхээр явуулжээ | 70.0% | 18.2% | 0/0/7 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | алив нашаа ороодор гээд гэртээ оров | 42.9% | 8.1% | 0/1/2 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | өө өндөр дээд таны тухайд би ботолж чадахгүй | 25.0% | 8.7% | 0/0/2 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв | 0.0% | 0.0% | 0/0/0 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | та нар очингуутаа шүлэл өгч үз | 28.6% | 6.7% | 0/1/1 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | эрөөсөө л үйлдвэрээсээ салуугүй явсан юм чинь | 42.9% | 12.5% | 0/0/3 |
ਵਿਧੀ-ਵਿਗਿਆਨ
ਇਹ ਨੰਬਰ ਕਿਵੇਂ ਪ੍ਰਾਪਤ ਹੋਏ।
ਪ੍ਰੋਵਾਈਡਰ: OmniASR LLM-1B (Meta Omnilingual ASR (omniASR_LLM_1B_v2) run locally — 1,600+ languages, decoding Halh Mongolian (khk_Cyrl).).
ਐਂਡਪੁਆਇੰਟ local (omnilingual-asr). ਭਾਸ਼ਾ mn. Operating point omniASR_LLM_1B_v2 (lang=khk_Cyrl). ਸਪੀਕਰ ਵੱਖਰੇਪਣ none.
ਡੇਟਾਸੈਟ: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 ਨਮੂਨੇ, ਕੁੱਲ 1849.3s ਆਡੀਓ।
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
ਮੈਟ੍ਰਿਕਸ: WER ਅਤੇ CER ਮਿਆਰੀ ਸ਼ਬਦ/ਅੱਖਰ ਲੇਵੇਨਸ਼ਟਾਈਨ ਇਕਸਾਰਤਾ ਨਾਲ, ਕੇਸ ਅਤੇ ਵਿਰਾਮ ਚਿੰਨ੍ਹ ਲਈ ਨੌਰਮਲਾਈਜ਼ ਕਰਕੇ ਗਣਨਾ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਸ਼ੁੱਧਤਾ = 100 − WER। ਗਤੀ ਗੁਣਾਂਕ = ਆਡੀਓ ਮਿਆਦ ÷ ਪ੍ਰੋਸੈਸਿੰਗ ਸਮਾਂ (× ਰੀਅਲ-ਟਾਈਮ)। ਸਾਰੀਆਂ ਬੇਨਤੀਆਂ ਅਸਲ OmniASR LLM-1B Batch API ਕਾਲਾਂ ਹਨ, ਕੈਸ਼ ਜਾਂ ਸਿਮੂਲੇਟਡ ਨਹੀਂ।
ਅੰਤਰ ਉਭਾਰ: ਨਤੀਜਾ ਕਾਲਮ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਨਾਲ ਇਕਸਾਰ ਹੋ ਕੇ ਹਰ ਬਦਲ ਅਤੇ ਸ਼ਾਮਲ ਨੂੰ ਲਾਲ ਰੰਗਦਾ ਹੈ। ਮਿਟਾਉਣ (ਨਤੀਜੇ ਵਿੱਚੋਂ ਗੈਰ-ਹਾਜ਼ਰ ਸ਼ਬਦ) ਨਤੀਜਾ ਕਾਲਮ ਵਿੱਚ ਨਹੀਂ ਵਿਖਾਏ ਜਾਂਦੇ — ਉਮੀਦ ਕਾਲਮ ਪਹਿਲਾਂ ਹੀ ਪੂਰੀ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਜਿਵੇਂ ਹੈ ਰੱਖਦਾ ਹੈ।