Kimi K3 обошла закрытых лидеров на части бенчмарков

Вышла открытая модель Kimi K3, которая по ряду тестов обгоняет закрытые топовые решения. Её ключевая особенность — контекстное окно на миллион токенов. Обычно при таком объёме контекста резко растёт KV-кэш, но разработчики отказались от его накопления. Вместо этого они применили матрицу состояния фиксированного размера, поэтому затраты памяти не увеличиваются вместе с длиной ввода. Такой подход делает работу с очень длинными текстами и документами практичной. Модель распространяется открыто, а подробности опубликованы в статье на Habr.