R.01 / Measured prototype
Ternary Whisper
Тернарные веса Whisper, компактный CPU runtime и воспроизводимая проверка WER.
Research questionКак далеко можно дискретизировать speech-модель, сохранив проверяемое качество?
01 / Гипотеза
Большую часть матриц Whisper можно тернаризировать и исполнять на CPU без полного разрушения качества распознавания.
02 / Метод
Сопоставить тернарный runtime с matched fp16 control на LibriSpeech и long-form аудио, фиксируя WER, память и ограничения.
- Среда
- Whisper Small · LibriSpeech · CPU runtime · matched fp16 control
03 / Результат
192 матрицы и 198 180 864 веса переведены в {-1, 0, +1}; нормализованный WER составил 2,7145% на test-clean и 7,3817% на test-other.
Следующий эксперимент
Multilingual evaluation и latency на нескольких классах CPU.
Статус и вывод будут обновлены только после повторяемой проверки.
Все исследования