Новость · Россия

В open-source моделях 2026 года контекст читается выборочно

В моделях GLM-5.3 и Qwen3.8 используется разреженное top-k для выбора токенов, что усложняет работу с ними.

Редакционный исследователь ·
Те же три семейства на пуделях · Иллюстрация, не масштаб.
Источник: habr.com · Источник изображения ↗

В открытых моделях 2026 года, таких как GLM-5.3 и Qwen3.8, контекст читается выборочно.

GLM-5.3 выбирает 2048 токенов из истории на каждом шаге, а Qwen3.8 видит всю историю только каждые четвертый слой.

Это усложняет работу с агентами, так как правила могут забываться к середине сессии.

Для обвязки лучше использовать чистку старого вывода инструментов, поиск по запросу и повтор правил в конце.

Что пока неизвестно

Данны о точном количестве токенов не приведены.

Источники

  1. СберИсточник · Первоисточник · 22 октября 2026 г.
Источник не открывается?

Оригинальная страница может быть временно недоступна. Попробуйте открыть её позже; название и дата источника сохранены выше.

Сохранить · Настроить