شنوا کوچک، نسخه‌ی int8
این مخزن نسخه‌ی کوانتیزه‌ی int8 مدل تبدیل گفتار فارسی به نوشتار «شنوا کوچک v1.0» ساخته‌ی Reza2kn است، برای اجرا با sherpa-onnx روی گوشی. مدل اصلی ۱۱۴ میلیون پارامتر دارد و FastConformer CTC است.
| حجم | ۱۲۶ مگابایت (نسخه‌ی fp32: ۴۳۸ مگابایت) |
| خطای کلمه روی گفتار تمیز (۲۵ کلیپ) | ۹٫۳٪ (نسخه‌ی fp32: ۸٫۹٪، شنوا ریزه: ۱۲٫۴٪) |
| سرعت | ضریب زمان واقعی ۰٫۲۱ روی دو رشته‌ی CPU لپ‌تاپ؛ حدود ۵ برابر کندتر از شنوا ریزه |
کوانتیزه با onnxruntime به روش پویا انجام شد و متادیتای مدل نگه داشته شد. مقدار normalize_type در متادیتا باید خالی بماند، وگرنه خروجی خراب می‌شود. مدل عددها را به حروف می‌نویسد.
import sherpa_onnx
rec = sherpa_onnx.OfflineRecognizer.from_nemo_ctc(model="model.int8.onnx", tokens="tokens.txt")
Model tree for SajjadMajdi/shenava-koochik-fa-int8
Base model
nvidia/stt_fa_fastconformer_hybrid_large Finetuned
Reza2kn/Shenava-Koochik-v1.0