GPT-4o Transcribe — ਮੰਗੋਲੀਅਨ ਸਪੀਚ-ਟੂ-ਟੈਕਸਟ ਬੈਂਚਮਾਰਕ
GPT-4o Transcribe Batch API (ਸੁਧਾਰੀ ਓਪਰੇਟਿੰਗ ਪੁਆਇੰਟ, ਭਾਸ਼ਾ mn) ਦੁਆਰਾ 4 ਮੰਗੋਲੀਅਨ ਡੇਟਾਸੈਟਾਂ ਅਤੇ 265 ਆਡੀਓ ਨਮੂਨਿਆਂ ’ਤੇ ਮੁਲਾਂਕਣ ਕੀਤੇ ਅਸਲ ਨਤੀਜੇ। ਹੇਠਾਂ ਹਰ ਨੰਬਰ ਮਾਪਿਆ ਗਿਆ ਹੈ — ਮਾਰਕੀਟਿੰਗ ਨਹੀਂ। WER, ਗਤੀ ਅਤੇ ਕੀਮਤ ਜਿਵੇਂ ਹਨ, ਸਖ਼ਤ ਇਮਾਨਦਾਰੀ ਨਾਲ ਵਿਖਾਏ ਗਏ ਹਨ।
265/265 ਨਮੂਨੇ ਟ੍ਰਾਂਸਕ੍ਰਾਈਬ · 100% ਸਫਲਤਾ
ਘੱਟ ਬਿਹਤਰ · 265 ਨਮੂਨਿਆਂ ’ਤੇ
ਕੀਮਤ
ਬੈਚ ਟ੍ਰਾਂਸਕ੍ਰਿਪਸ਼ਨ ਲਈ GPT-4o Transcribe ਦੀ ਸੂਚੀ ਕੀਮਤ। ਕੋਈ ਛੂਟ ਜਾਂ ਗੱਲਬਾਤ ਕੀਤੀ ਦਰ ਨਹੀਂ — ਪ੍ਰਤੀ ਮਿੰਟ ਕੱਚੀ ਦਰ।
ਕੀਮਤ ਸ੍ਰੋਤ: GPT-4o Transcribe ਜਨਤਕ ਕੀਮਤਾਂ। Duudlaga Flow ਸਿਰਫ਼ ਸੰਦਰਭ ਲਈ ਵਿਖਾਇਆ ਗਿਆ ਹੈ — ਇਹ ਪੰਨਾ GPT-4o Transcribe ਨੂੰ ਵੱਖ ਰੱਖਦਾ ਹੈ ਤਾਂ ਜੋ ਨੰਬਰ ਸਾਡੇ ਉਤਪਾਦ ਨਾਲ ਫੁੱਲ ਨਾ ਜਾਵੇ।
ਡੇਟਾਸੈਟ ਮੁਤਾਬਕ WER ਅਤੇ CER
ਡੇਟਾਸੈਟ ਮੁਤਾਬਕ ਸ਼ਬਦ ਅਤੇ ਅੱਖਰ ਗਲਤੀ ਦਰ। ਘੱਟ ਬਿਹਤਰ — ਅਤੇ ਇਹ GPT-4o Transcribe ਦੇ ਅਸਲ ਨੰਬਰ ਹਨ, ਜੋ Common Voice 24 ’ਤੇ ਕਮਜ਼ੋਰ ਹਨ।
ਡੇਟਾਸੈਟ ਸਾਰ
ਹਰ ਡੇਟਾਸੈਟ ਲਈ ਸਮੁੱਚੀ ਸ਼ੁੱਧਤਾ, ਗਤੀ ਅਤੇ ਸਮਾਂ।
| ਡੇਟਾਸੈਟ | Source | ਨਮੂਨੇ | ਸਫਲਤਾ | WER | CER | ਸ਼ੁੱਧਤਾ | ਗਤੀ | ਆਡੀਓ (ਸੈ) | ਪ੍ਰੋਸੈ. (ਸੈ) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 61.3% | 31.1% | 38.7% | 2.73× | 330.6s | 121.2s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 41.7% | 19.4% | 58.3% | 1.67× | 645.1s | 386.8s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 65.9% | 36.4% | 34.1% | 2.01× | 269.8s | 133.9s |
| Modern Voice | — | 92 | 92/92 | 47.4% | 25.5% | 52.6% | 2.59× | 603.8s | 233.4s |
WER vs ਗਤੀ — ਨਮੂਨੇ ਮੁਤਾਬਕ
ਹਰ ਬਿੰਦੂ ਇੱਕ ਆਡੀਓ ਨਮੂਨਾ ਹੈ। ਆਦਰਸ਼ ਥਾਂ ਹੇਠਾਂ-ਖੱਬੇ (ਘੱਟ ਗਲਤੀ, ਤੇਜ਼) ਹੈ। GPT-4o Transcribe ਕੋਲ ਕਈ Common Voice 24 ਨਮੂਨਿਆਂ ’ਤੇ ਉੱਚ ਗਲਤੀ ਹੈ।
ਨਮੂਨੇ ਮੁਤਾਬਕ ਨਤੀਜੇ
ਉਮੀਦ ਕਾਲਮ ਵਿੱਚ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਜਿਵੇਂ ਹੈ ਉਵੇਂ ਵਿਖਾਇਆ ਗਿਆ ਹੈ। ਨਤੀਜਾ ਕਾਲਮ ਸਿਰਫ਼ ਉਹ ਸ਼ਬਦ ਲਾਲ ਵਿੱਚ ਉਭਾਰਦਾ ਹੈ ਜੋ GPT-4o Transcribe ਨੇ ਗਲਤ ਕੀਤੇ — ਕੋਈ ਸਟ੍ਰਾਈਕਥ੍ਰੂ/ਅਦਲਾ-ਬਦਲੀ ਨਹੀਂ, ਸਿਰਫ਼ ਗਲਤੀਆਂ।
| # | ਆਡੀਓ | ਨਮੂਨਾ | ਡੇਟਾਸੈਟ | ਉਮੀਦ (ਗਰਾਊਂਡ ਟ੍ਰੁਥ) | GPT-4o Transcribe ਨਤੀਜਾ | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж яваагаа хэлье. | 12.5% | 6.9% | 0/0/1 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад сая санагдаж байгаа гэхэд ердөө гурван сарийн хугацаатай байсан л гэж үү? | 58.3% | 22.7% | 1/0/6 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | Одоо би дуртай хүнтэйгээ салахыг хүсч байгаа. | 85.7% | 51.9% | 0/0/6 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | Би бас голдуу хэрээр гэр, хэцэр дээр хийж явдаг хүн. | 40.0% | 9.8% | 0/0/4 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хаварын сүүлчээс барлагийн хоёр зоогоор нэргүүл шарив. | 100.0% | 66.2% | 0/3/7 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Айсин наашаараад ир, гэж гэртээ оров. | 57.1% | 24.3% | 0/1/3 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Оо, өндөртэд таныг тохойод би баталж чадахгүй. | 62.5% | 23.9% | 0/1/4 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин 33 дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | 12.5% | 8.9% | 0/0/1 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар орчлонгоудаа шүүлт өгч үз. | 42.9% | 30.0% | 0/1/2 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | Ирүүсөөл үлдүүрээсээ салаагүй явсна юм чинь. | 57.1% | 25.0% | 0/1/3 |
ਵਿਧੀ-ਵਿਗਿਆਨ
ਇਹ ਨੰਬਰ ਕਿਵੇਂ ਪ੍ਰਾਪਤ ਹੋਏ।
ਪ੍ਰੋਵਾਈਡਰ: GPT-4o Transcribe (OpenAI gpt-4o-transcribe hosted transcription (Mongolian prompt hint; 'mn' is not an accepted language code).).
ਐਂਡਪੁਆਇੰਟ https://api.openai.com/v1/audio/transcriptions. ਭਾਸ਼ਾ mn. Operating point gpt-4o-transcribe. ਸਪੀਕਰ ਵੱਖਰੇਪਣ none.
ਡੇਟਾਸੈਟ: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 ਨਮੂਨੇ, ਕੁੱਲ 1849.3s ਆਡੀਓ।
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
ਮੈਟ੍ਰਿਕਸ: WER ਅਤੇ CER ਮਿਆਰੀ ਸ਼ਬਦ/ਅੱਖਰ ਲੇਵੇਨਸ਼ਟਾਈਨ ਇਕਸਾਰਤਾ ਨਾਲ, ਕੇਸ ਅਤੇ ਵਿਰਾਮ ਚਿੰਨ੍ਹ ਲਈ ਨੌਰਮਲਾਈਜ਼ ਕਰਕੇ ਗਣਨਾ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਸ਼ੁੱਧਤਾ = 100 − WER। ਗਤੀ ਗੁਣਾਂਕ = ਆਡੀਓ ਮਿਆਦ ÷ ਪ੍ਰੋਸੈਸਿੰਗ ਸਮਾਂ (× ਰੀਅਲ-ਟਾਈਮ)। ਸਾਰੀਆਂ ਬੇਨਤੀਆਂ ਅਸਲ GPT-4o Transcribe Batch API ਕਾਲਾਂ ਹਨ, ਕੈਸ਼ ਜਾਂ ਸਿਮੂਲੇਟਡ ਨਹੀਂ।
ਅੰਤਰ ਉਭਾਰ: ਨਤੀਜਾ ਕਾਲਮ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਨਾਲ ਇਕਸਾਰ ਹੋ ਕੇ ਹਰ ਬਦਲ ਅਤੇ ਸ਼ਾਮਲ ਨੂੰ ਲਾਲ ਰੰਗਦਾ ਹੈ। ਮਿਟਾਉਣ (ਨਤੀਜੇ ਵਿੱਚੋਂ ਗੈਰ-ਹਾਜ਼ਰ ਸ਼ਬਦ) ਨਤੀਜਾ ਕਾਲਮ ਵਿੱਚ ਨਹੀਂ ਵਿਖਾਏ ਜਾਂਦੇ — ਉਮੀਦ ਕਾਲਮ ਪਹਿਲਾਂ ਹੀ ਪੂਰੀ ਗਰਾਊਂਡ ਟ੍ਰੁਥ ਜਿਵੇਂ ਹੈ ਰੱਖਦਾ ਹੈ।