OpenAI Whisper — মঙ্গোলীয় স্পিচ-টু-টেক্স্ট বেঞ্চমার্ক
OpenAI Whisper Batch API (উন্নত পরিচালনা বিন্দু, ভাষা mn) দ্বারা 4টি মঙ্গোলীয় ডেটাসেট এবং 265টি অডিও নমুনায় মূল্যায়িত প্রকৃত ফলাফল। নিচের প্রতিটি সংখ্যা পরিমাপকৃত — বিপণন নয়। WER, গতি ও মূল্য যেমন আছে তেমনই, কঠোর সততার সাথে দেখানো হয়েছে।
265/265 নমুনা ট্রান্সক্রাইব করা হয়েছে · 100% সাফল্য
কম ভালো · 265 নমুনায়
মূল্য
ব্যাচ ট্রান্সক্রিপশনের জন্য OpenAI Whisper-এর তালিকা মূল্য। কোনো ছাড় বা আপস করা হার নয় — প্রতি মিনিটের কাঁচা হার।
মূল্যের উৎস: OpenAI Whisper-এর প্রকাশিত মূল্য। Duudlaga Flow শুধুমাত্র প্রেক্ষাপটে দেখানো হয়েছে — এই পৃষ্ঠাটি OpenAI Whisper-কে আলাদা রাখে যাতে সংখ্যাটি আমাদের পণ্য দ্বারা ফোলানো না হয়।
ডেটাসেট অনুযায়ী WER ও CER
ডেটাসেট অনুযায়ী শব্দ ও অক্ষর ত্রুটি হার। কম ভালো — এবং এগুলো OpenAI Whisper-এর প্রকৃত সংখ্যা, যা Common Voice 24-এ দুর্বল।
ডেটাসেট সারসংক্ষেপ
প্রতিটি ডেটাসেটের সমষ্টিগত নির্ভুলতা, গতি ও সময়।
| ডেটাসেট | উৎস | নমুনা | সাফল্য | WER | CER | নির্ভুলতা | গতি | অডিও (সে) | প্রক্রি. (সে) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 104% | 63.4% | -4.0% | 1.95× | 330.6s | 169.5s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 104.1% | 61.3% | -4.1% | 1.39× | 645.1s | 462.7s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 111.6% | 69.7% | -11.6% | 1.96× | 269.8s | 137.6s |
| Modern Voice | — | 92 | 92/92 | 103% | 61.9% | -3.0% | 1.3× | 603.8s | 464.9s |
WER বনাম গতি — নমুনা অনুযায়ী
প্রতিটি বিন্দু একটি অডিও নমুনা। আদর্শ অবস্থান নিচে-বামে (কম ত্রুটি, দ্রুত)। OpenAI Whisper-এর অনেক Common Voice 24 নমুনায় ত্রুটি বেশি।
নমুনা অনুযায়ী ফলাফল
প্রত্যাশিত কলামে গ্রাউন্ড ট্রুথ যেমন আছে তেমনই দেখানো হয়েছে। ফলাফল কলাম শুধুমাত্র OpenAI Whisper ভুল করেছে এমন শব্দগুলো লাল রঙে হাইলাইট করে — কোনো স্ট্রাইকথ্রু/অদলবদল নয়, শুধু ভুল।
| # | অডিও | নমুনা | ডেটাসেট | প্রত্যাশিত (গ্রাউন্ড ট্রুথ) | OpenAI Whisper ফলাফল | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Ұлдэ әм сұл ұраңаса омін тәнді мидді джаға ға хелі. | 125.0% | 55.2% | 2/0/8 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Нады дзэйэ санғад джырғал кетегерді Ұрғун сарай ұқыцат табай сіңгіджу. | 100.0% | 58.7% | 0/2/10 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Ұтағди дұрс дұршиң үйгісі салғих джүцүгі. | 100.0% | 73.1% | 0/1/6 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бас қалту хэлээр кир үсгээр дирхи джақты қун. | 90.0% | 49.0% | 0/1/8 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Қан құрымас дұғардас бұл түкө бұрауңы ұңы қоҵірд лоңғар нергүр шер ең бұл дзең. | 140.0% | 71.4% | 4/0/10 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Әлімн әше орадыр, кеткісті орығы. | 100.0% | 67.6% | 0/2/5 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Ө, өндөрді цітаңи тұқад, бі бақталік жәл тұқғи. | 100.0% | 56.5% | 0/0/8 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Қырын үріптүң ұтаңыз екілің Ұмұс ек сәңұрғы джіңіліу. | 100.0% | 76.8% | 0/0/8 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Таныр ұчыңғута шүлілд ұқчүд. | 100.0% | 50.0% | 0/3/4 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Еру сөл өлтур өссес әлта өгі өп сөйімчін. | 114.3% | 70.8% | 1/0/7 |
পদ্ধতিবিদ্যা
এই সংখ্যাগুলো কীভাবে পাওয়া গেছে।
সরবরাহকারী: OpenAI Whisper (OpenAI whisper-1 hosted transcription (auto language detection; 'mn' is not an accepted language hint).).
এন্ডপয়েন্ট https://api.openai.com/v1/audio/transcriptions. ভাষা mn. অপারেটিং পয়েন্ট whisper-1. বক্তা বিচ্ছেদ none.
ডেটাসেট: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 নমুনা, মোট 1849.3s অডিও।
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
মেট্রিক্স: WER ও CER মানক শব্দ/অক্ষর লেভেনশটাইন সজ্জায়, কেস ও যতিচিহ্নের জন্য নরমালাইজ করে গণনা করা হয়। নির্ভুলতা = 100 − WER। গতি গুণক = অডিও সময়কাল ÷ প্রক্রিয়াকরণ সময় (× রিয়েল-টাইম)। সব অনুরোধ প্রকৃত OpenAI Whisper Batch API কল, ক্যাশ বা সিমুলেটেড নয়।
পার্থক্য হাইলাইট: ফলাফল কলাম গ্রাউন্ড ট্রুথের সাথে সজ্জিত এবং প্রতিটি প্রতিস্থাপন ও সন্নিবেশ লাল রঙ করে। বিলোপ (ফলাফল থেকে অনুপস্থিত শব্দ) ফলাফল কলামে দেখানো হয় না — প্রত্যাশিত কলাম ইতিমধ্যে সম্পূর্ণ গ্রাউন্ড ট্রুথ যেমন আছে ধরে রেখেছে।