Тема
локальный инференс
Все материалы · 2 материала
Новости · OpenAI
Сэм Альтман назвал локальный инференс плохим распределением ресурсов
30 октября 2026 года Альтман заявил, что запускать модели на своих компьютерах — неэффективно с точки зрения глобального распределения памяти. Разбираем аргумент.
Инструменты · NInfer
NInfer-2080ti-22g: движок для Qwen на одной модифицированной RTX 2080 Ti теперь работает в Windows
Вышла версия 0.3.0 NInfer — движка для запуска Qwen3.6/8-27B на одной RTX 2080 Ti с 22 ГБ. Теперь поддерживается Windows, размер — 0.28 ГБ. Разбираем, что это и кому подходит.
