Whisper turbo MN — মঙ্গোলীয় স্পিচ-টু-টেক্স্ট বেঞ্চমার্ক
Whisper turbo MN Batch API (উন্নত পরিচালনা বিন্দু, ভাষা mn) দ্বারা 4টি মঙ্গোলীয় ডেটাসেট এবং 265টি অডিও নমুনায় মূল্যায়িত প্রকৃত ফলাফল। নিচের প্রতিটি সংখ্যা পরিমাপকৃত — বিপণন নয়। WER, গতি ও মূল্য যেমন আছে তেমনই, কঠোর সততার সাথে দেখানো হয়েছে।
265/265 নমুনা ট্রান্সক্রাইব করা হয়েছে · 100% সাফল্য
কম ভালো · 265 নমুনায়
মূল্য
ব্যাচ ট্রান্সক্রিপশনের জন্য Whisper turbo MN-এর তালিকা মূল্য। কোনো ছাড় বা আপস করা হার নয় — প্রতি মিনিটের কাঁচা হার।
মূল্যের উৎস: Whisper turbo MN-এর প্রকাশিত মূল্য। Duudlaga Flow শুধুমাত্র প্রেক্ষাপটে দেখানো হয়েছে — এই পৃষ্ঠাটি Whisper turbo MN-কে আলাদা রাখে যাতে সংখ্যাটি আমাদের পণ্য দ্বারা ফোলানো না হয়।
ডেটাসেট অনুযায়ী WER ও CER
ডেটাসেট অনুযায়ী শব্দ ও অক্ষর ত্রুটি হার। কম ভালো — এবং এগুলো Whisper turbo MN-এর প্রকৃত সংখ্যা, যা Common Voice 24-এ দুর্বল।
ডেটাসেট সারসংক্ষেপ
প্রতিটি ডেটাসেটের সমষ্টিগত নির্ভুলতা, গতি ও সময়।
| ডেটাসেট | উৎস | নমুনা | সাফল্য | WER | CER | নির্ভুলতা | গতি | অডিও (সে) | প্রক্রি. (সে) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 18% | 6% | 82.0% | 1.98× | 330.6s | 167.1s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 17% | 4.7% | 83.0% | 2.9× | 645.1s | 222.3s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 19.1% | 6.8% | 80.9% | 1.99× | 269.8s | 135.9s |
| Modern Voice | — | 92 | 92/92 | 40.1% | 15.7% | 59.9% | 2.56× | 603.8s | 235.9s |
WER বনাম গতি — নমুনা অনুযায়ী
প্রতিটি বিন্দু একটি অডিও নমুনা। আদর্শ অবস্থান নিচে-বামে (কম ত্রুটি, দ্রুত)। Whisper turbo MN-এর অনেক Common Voice 24 নমুনায় ত্রুটি বেশি।
নমুনা অনুযায়ী ফলাফল
প্রত্যাশিত কলামে গ্রাউন্ড ট্রুথ যেমন আছে তেমনই দেখানো হয়েছে। ফলাফল কলাম শুধুমাত্র Whisper turbo MN ভুল করেছে এমন শব্দগুলো লাল রঙে হাইলাইট করে — কোনো স্ট্রাইকথ্রু/অদলবদল নয়, শুধু ভুল।
| # | অডিও | নমুনা | ডেটাসেট | প্রত্যাশিত (গ্রাউন্ড ট্রুথ) | Whisper turbo MN ফলাফল | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | 0.0% | 0.0% | 0/0/0 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | 0.0% | 0.0% | 0/0/0 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | 0.0% | 0.0% | 0/0/0 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бол голдуу хээрээр гэр хэцээр дэр хийж явдаг хүн. | 0.0% | 0.0% | 0/0/0 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хан хурмаст уурлаас Болдоггүй Бор өгнөө хоёр луугаар нэргүүлэхээр явуулжээ. | 50.0% | 14.3% | 0/0/5 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гэээд гэртээ оров. | 14.3% | 2.7% | 0/0/1 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Өө өндөр дээдэс таны тухайд би бодол ч чадахгүй. | 25.0% | 10.9% | 1/0/1 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | 0.0% | 0.0% | 0/0/0 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар очингуутаа шүл л өгч биз. | 28.6% | 10.0% | 0/0/2 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ерөөсөө л үйлдвэрээсээ салаагүй явсан юм чинь. | 14.3% | 6.2% | 0/0/1 |
পদ্ধতিবিদ্যা
এই সংখ্যাগুলো কীভাবে পাওয়া গেছে।
সরবরাহকারী: Whisper turbo MN (Whisper large-v3-turbo fine-tuned on Mongolian Common Voice + FLEURS (LoRA merged into the base weights) — the most recent Mongolian adaptation of a current-generation Whisper.). এই ব্যাজওয়ালা মডেলগুলো এমন ডেটায় প্রশিক্ষিত যা বেঞ্চমার্কের কর্পাসের সঙ্গে মিলে যায় (মঙ্গোলীয় Common Voice — ১৭৩টির মধ্যে ১১৩টি নমুনা — অথবা Shunya Labs-এর উন্মুক্ত কর্পাস)। মিলে যাওয়া কর্পাসে স্কোর মুখস্থের কারণে বেশি দেখায়; এই মডেলগুলোকে বিস্তারিত পাতার ডেটাসেট-ভিত্তিক টেবিল দিয়ে বিচার করুন, বিশেষ করে যেসব কর্পাসে সেগুলো প্রশিক্ষিত হয়নি।
এন্ডপয়েন্ট local (transformers). ভাষা mn. অপারেটিং পয়েন্ট Blgn94/whisper-large-v3-turbo-mn-lora (merged LoRA) on mps. বক্তা বিচ্ছেদ none.
ডেটাসেট: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 নমুনা, মোট 1849.3s অডিও।
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
মেট্রিক্স: WER ও CER মানক শব্দ/অক্ষর লেভেনশটাইন সজ্জায়, কেস ও যতিচিহ্নের জন্য নরমালাইজ করে গণনা করা হয়। নির্ভুলতা = 100 − WER। গতি গুণক = অডিও সময়কাল ÷ প্রক্রিয়াকরণ সময় (× রিয়েল-টাইম)। সব অনুরোধ প্রকৃত Whisper turbo MN Batch API কল, ক্যাশ বা সিমুলেটেড নয়।
পার্থক্য হাইলাইট: ফলাফল কলাম গ্রাউন্ড ট্রুথের সাথে সজ্জিত এবং প্রতিটি প্রতিস্থাপন ও সন্নিবেশ লাল রঙ করে। বিলোপ (ফলাফল থেকে অনুপস্থিত শব্দ) ফলাফল কলামে দেখানো হয় না — প্রত্যাশিত কলাম ইতিমধ্যে সম্পূর্ণ গ্রাউন্ড ট্রুথ যেমন আছে ধরে রেখেছে।