Gemma 4 — Benchmark de reconnaissance vocale en mongol
Résultats réels de la Gemma 4 Batch API (point de fonctionnement avancé, langue mn) évalués sur 4 jeux de données mongols et 265 échantillons audio. Tous les chiffres ci-dessous sont mesurés, pas du marketing. Le WER, la vitesse et le prix sont affichés tels quels, brutalement honnêtes.
265/265 échantillons transcrits · 100 % de réussite
Plus bas c'est mieux · sur 265 échantillons
Tarification
Tarif public Gemma 4 pour la transcription par lot. Aucune remise ni tarif négocié — le tarif brut par minute.
Source du prix : tarification publique de Gemma 4. Duudlaga Flow est affiché pour contexte uniquement — cette page isole Gemma 4 pour que le chiffre ne soit pas gonflé par notre produit.
WER et CER par jeu de données
Taux d'erreur par mot et par caractère pour chaque jeu de données. Plus bas c'est mieux — et ce sont les vrais chiffres de Gemma 4, qui sont faibles sur Common Voice 24.
Résumé par jeu de données
Précision, vitesse et temps agrégés pour chaque jeu de données.
| Jeu de données | Source | Échantillons | Réussite | WER | CER | Précision | Vitesse | Audio (s) | Trait. (s) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 32% | 14.3% | 68.0% | 0.99× | 330.6s | 334s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 23.4% | 11% | 76.6% | 1.07× | 645.1s | 604.8s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 30.8% | 15.3% | 69.2% | 0.84× | 269.8s | 322.5s |
| Modern Voice | — | 92 | 92/92 | 33.1% | 16.9% | 66.9% | 1.02× | 603.8s | 589.6s |
WER vs vitesse — par échantillon
Chaque point est un échantillon audio. L'idéal est en bas à gauche (peu d'erreurs, rapide). Gemma 4 a un taux d'erreur élevé sur de nombreux échantillons Common Voice 24.
Résultats par échantillon
La vérité terrain est affichée telle quelle dans la colonne Attendu. La colonne de résultat surligne en rouge uniquement les mots que Gemma 4 a ratés — pas de ratures ni d'échanges, juste les erreurs.
| # | Audio | Échantillon | Jeu de données | Attendu (vérité terrain) | Résultat Gemma 4 | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураанхаасаа өмнө танд мэдэж байгаагаа хэлье. | 12.5% | 1.7% | 0/0/1 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад заяасан газар бол гэдэг ердөө 3 хоногийн хугацаатай байсан гэж үү? | 33.3% | 22.7% | 0/0/4 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | одоо бид өөрчлөлтөөр өөрийнхөө нэрийг эсээ салахыг хичээгдэхээ | 71.4% | 40.4% | 1/0/4 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | гэ бол голдуу хээрээр гэр, хичээлдээ ирэх гэж явдаг хүн | 40.0% | 25.5% | 0/0/4 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хамт хүмүүстэй уулзаж, магадгүй бүр угны хоёр рүү гарч ирэхээр явж байна. | 120.0% | 55.8% | 2/0/10 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гээд гэртээ оров. | 0.0% | 0.0% | 0/0/0 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Ө өндөр дээд таны тухайд би баталгаажуулахгүй. | 50.0% | 21.7% | 0/1/3 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин гуравдагх удаагаас эхлэх хүмүүсийг сонирхож эхлэв. | 37.5% | 7.1% | 0/1/2 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар орчингуутаа шөлө л өгч үз. | 28.6% | 6.7% | 0/0/2 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | ерөөсөө л үйлдвэрээсээ салавгийн ёс юм чинь | 42.9% | 20.8% | 0/0/3 |
Méthodologie
Comment ces chiffres ont été obtenus.
Fournisseur : Gemma 4 (google/gemma-4-E2B-it with the rookie-systems Mongolian ASR LoRA adapter, run locally on-device (open weights, no API).).
Endpoint local (transformers + PEFT). Langue mn. Point de fonctionnement google/gemma-4-E2B-it + rookie-systems/gemma-4-audio-asr-mn-adapter (mps). Diariatisation none.
Jeux de données : Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 échantillons, 1849.3s d'audio au total.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Métriques : WER et CER sont calculés avec un alignement Levenshtein mots/caractères standard, normalisé sur la casse et la ponctuation. Précision = 100 − WER. Facteur de vitesse = durée audio ÷ temps de traitement (× temps réel). Toutes les requêtes sont de vrais appels à la Batch API de Gemma 4, ni en cache ni simulés.
Surlignage des différences : La colonne de résultat est alignée sur la vérité terrain et colore en rouge chaque substitution et insertion. Les suppressions (mots manquants dans le résultat) ne sont pas affichées dans la colonne de résultat — la colonne Attendu contient déjà toute la vérité terrain telle quelle.