R.03 / Research

Discrete Weight Language

Воспроизводимый pipeline и runtime для дискретного языка весов Gemma-класса.

GemmaWeightsRuntime
Research questionМожет ли дискретный алфавит стать исполняемым форматом модели?
01 / Гипотеза

Дискретное представление весов полезно только тогда, когда packed storage, kernel и quality evaluation рассматриваются как единый runtime.

02 / Метод

Разделить теоретическую битность, физическое хранение, materialized weights и ускорение kernel; сравнить на фиксированных prompts.

Среда
Gemma-class checkpoints · fixed prompts · storage and runtime profiling

03 / Результат

Собран воспроизводимый pipeline Gemma-класса; текущие эксперименты показывают разницу между тернаризацией значений и реальным 1,58-bit runtime.

Следующий эксперимент

Сравнить память, latency и качество на фиксированном benchmark.

Статус и вывод будут обновлены только после повторяемой проверки.

Все исследования