Gemma 4 — Benchmark chuyển giọng nói thành văn bản tiếng Mông Cổ
Kết quả thực tế từ Gemma 4 Batch API (điểm hoạt động nâng cao, ngôn ngữ mn) được đánh giá trên 4 bộ dữ liệu tiếng Mông Cổ và 265 mẫu âm thanh. Mọi con số dưới đây đều được đo lường — không phải tiếp thị. WER, tốc độ và giá được hiển thị nguyên bản, trung thực trần trụi.
265/265 mẫu đã chuyển ghi · 100% thành công
Thấp hơn tốt hơn · trên 265 mẫu
Giá
Giá niêm yết của Gemma 4 cho chuyển ghi theo lô. Không chiết khấu hay giá thương lượng — mức giá thô mỗi phút.
Nguồn giá: giá công khai của Gemma 4. Duudlaga Flow chỉ hiển thị cho ngữ cảnh — trang này tách riêng Gemma 4 để con số không bị thổi phồng bởi sản phẩm của chúng tôi.
WER & CER theo bộ dữ liệu
Tỷ lệ lỗi từ và lỗi ký tự theo từng bộ dữ liệu. Thấp hơn tốt hơn — và đây là các con số thực của Gemma 4, yếu trên Common Voice 24.
Tóm tắt bộ dữ liệu
Độ chính xác, tốc độ và thời gian tổng hợp cho từng bộ dữ liệu.
| Bộ dữ liệu | Nguồn | Mẫu | Thành công | WER | CER | Độ chính xác | Tốc độ | Âm thanh (giây) | Xử lý (giây) |
|---|---|---|---|---|---|---|---|---|---|
| Common Voice 24 (MN) | Hugging Face → | 59 | 59/59 | 32% | 14.3% | 68.0% | 0.99× | 330.6s | 334s |
| Shunya Labs Mongolian Speech | Hugging Face → | 60 | 60/60 | 23.4% | 11% | 76.6% | 1.07× | 645.1s | 604.8s |
| Common Voice 20 (MN) | Hugging Face → | 54 | 54/54 | 30.8% | 15.3% | 69.2% | 0.84× | 269.8s | 322.5s |
| Modern Voice | — | 92 | 92/92 | 33.1% | 16.9% | 66.9% | 1.02× | 603.8s | 589.6s |
WER so với tốc độ — mỗi mẫu
Mỗi chấm là một mẫu âm thanh. Vị trí lý tưởng ở góc dưới bên trái (ít lỗi, nhanh). Gemma 4 có tỷ lệ lỗi cao trên nhiều mẫu Common Voice 24.
Kết quả từng mẫu
Sự thật chuẩn được hiển thị nguyên văn trong cột Mong đợi. Cột kết quả tô đỏ chỉ những từ Gemma 4 nhận sai — không gạch thay thế, chỉ lỗi.
| # | Âm thanh | Mẫu | Bộ dữ liệu | Mong đợi (sự thật chuẩn) | Kết quả Gemma 4 | WER | CER | I/D/S |
|---|---|---|---|---|---|---|---|---|
| 1 | btsee_0001 | Common Voice 24 (MN) | Гэхдээ амьсгал хураахаасаа өмнө танд мэдэж байгаагаа хэлье. | Гэхдээ амьсгал хураанхаасаа өмнө танд мэдэж байгаагаа хэлье. | 12.5% | 1.7% | 0/0/1 | |
| 2 | btsee_0002 | Common Voice 24 (MN) | Надад заяасан аз жаргал гэдэг ердөө гуравхан сарын хугацаатай байсан гэж үү? | Надад заяасан газар бол гэдэг ердөө 3 хоногийн хугацаатай байсан гэж үү? | 33.3% | 22.7% | 0/0/4 | |
| 3 | btsee_0003 | Common Voice 24 (MN) | Одоо бид өөрсдөө өвчин эмгэгээсээ салахыг хичээцгээе. | одоо бид өөрчлөлтөөр өөрийнхөө нэрийг эсээ салахыг хичээгдэхээ | 71.4% | 40.4% | 1/0/4 | |
| 4 | btsee_0004 | Common Voice 24 (MN) | Би бол голдуу хээрээр гэр, хэцээр дэр хийж явдаг хүн. | гэ бол голдуу хээрээр гэр, хичээлдээ ирэх гэж явдаг хүн | 40.0% | 25.5% | 0/0/4 | |
| 5 | btsee_0005 | Common Voice 24 (MN) | Хан хурмаст уурлаж, Болдоггүй Бор өвгөнийг хор луугаараа ниргүүлэхээр явуулжээ. | Хамт хүмүүстэй уулзаж, магадгүй бүр угны хоёр рүү гарч ирэхээр явж байна. | 120.0% | 55.8% | 2/0/10 | |
| 6 | btsee_0006 | Common Voice 24 (MN) | Алив наашаа ороод ир гээд гэртээ оров. | Алив наашаа ороод ир гээд гэртээ оров. | 0.0% | 0.0% | 0/0/0 | |
| 7 | btsee_0007 | Common Voice 24 (MN) | Өө өндөр дээдэс таны тухайд би баталж чадахгүй. | Ө өндөр дээд таны тухайд би баталгаажуулахгүй. | 50.0% | 21.7% | 0/1/3 | |
| 8 | btsee_0008 | Common Voice 24 (MN) | Харин гурав дахь удаагаас эхлэн хүмүүсийг сонирхож эхлэв. | Харин гуравдагх удаагаас эхлэх хүмүүсийг сонирхож эхлэв. | 37.5% | 7.1% | 0/1/2 | |
| 9 | btsee_0009 | Common Voice 24 (MN) | Та нар очингуутаа шөл л өгч үз. | Та нар орчингуутаа шөлө л өгч үз. | 28.6% | 6.7% | 0/0/2 | |
| 10 | btsee_0010 | Common Voice 24 (MN) | Ерөөсөө литр үйлдвэрээсээ салаагүй явсан юм чинь. | ерөөсөө л үйлдвэрээсээ салавгийн ёс юм чинь | 42.9% | 20.8% | 0/0/3 |
Phương pháp luận
Cách các con số này thu được.
Nhà cung cấp: Gemma 4 (google/gemma-4-E2B-it with the rookie-systems Mongolian ASR LoRA adapter, run locally on-device (open weights, no API).).
Endpoint local (transformers + PEFT). Ngôn ngữ mn. Điểm vận hành google/gemma-4-E2B-it + rookie-systems/gemma-4-audio-asr-mn-adapter (mps). Tách người nói none.
Bộ dữ liệu: Common Voice 24 (MN), Shunya Labs Mongolian Speech, Common Voice 20 (MN), Modern Voice — 265 mẫu, tổng 1849.3s âm thanh.
- Common Voice 24 (MN)https://huggingface.co/datasets/btsee/common-voices-24-mn
- Shunya Labs Mongolian Speechhttps://huggingface.co/datasets/shunyalabs/mongolian-speech-dataset
- Common Voice 20 (MN)https://huggingface.co/datasets/warmestman/common-voice-20-mn-normalized
- Modern Voice—
Chỉ số: WER và CER được tính bằng căn chỉnh Levenshtein từ/ký tự chuẩn, chuẩn hóa chữ hoa/thường và dấu câu. Độ chính xác = 100 − WER. Hệ số tốc độ = thời lượng âm thanh ÷ thời gian xử lý (× thời gian thực). Mọi yêu cầu là lệnh gọi thực đến Batch API Gemma 4, không lưu cache hay mô phỏng.
Tô sáng khác biệt: Cột kết quả được căn chỉnh với sự thật chuẩn và tô đỏ mọi thay thế và chèn từ. Các lượt xóa (từ thiếu trong kết quả) không hiển thị ở cột kết quả — cột Mong đợi đã giữ toàn bộ sự thật chuẩn nguyên bản.