Ранжированное руководство

Локальный / Приватный ИИ — Ваш мозг, Ваша машина, Ваши правила

Вот радикальная идея: что, если бы вы могли запустить по-настоящему умный ИИ на своем собственном оборудовании, и ничто из того, что вы ему сказали, никогда бы не покинуло вашу машину? Никаких облачных серверов. Никакого сбора данных. Никакой абонентской платы. Только вы, ваш ноутбук и интеллект, который уважает вашу конфиденциальность по своей конструкции. Добро пожаловать в революцию open-weight.

Сначала решение

Наш рейтинг

Начните с победителя, затем сравните компромиссы, которые могут изменить ваш выбор.

#1 Локальный / Приватный ИИ

Qwen3.8 — 27B

Alibaba (Qwen Team)

Qwen3.8-27B — редкая локальная модель, чьи компромиссы совпадают с реально доступным железом: один плотный чекпойнт на 27B для текста, изображений, видео, кода и агентов с инструментами. 4-битная версия помещается на GPU класса 24 ГБ, а Apache 2.0 позволяет хранить работу локально и применять модель коммерчески.

Почему он побеждает

Qwen заявляет 61,7 в SWE-bench Pro, 73,0 в Terminal Bench 2.1, 42,2 в DeepSWE 1.1, 84,3 в OSWorld-Verified и 70,7 в CoWorkBench. Нативный контекст — 262 144 токена, есть YaRN до 1M, уровни усилия рассуждения, сохранение мышления между ходами, нативное понимание изображений и видео.

В чем подвох

Это данные первого дня, а не устоявшийся факт. Большинство громких чисел взято из таблицы Qwen; часть получена с Claude Code, исправленными задачами, специальными промптами или внутренними наборами. Типичный Q4_K_M вместе с визуальным проектором занимает около 18 ГБ, однако служебная память и KV-кэш всё равно ограничивают контекст на карте 24 ГБ.

9.2 Оценка редакции
Читать обзор
Лучше всего для

Qwen3.8-27B — редкая локальная модель, чьи компромиссы совпадают с реально доступным железом: один плотный чекпойнт на 27B для текста, изображений, видео, кода и агентов с инструментами. 4-битная версия помещается на GPU класса 24 ГБ, а Apache 2.0 позволяет хранить работу локально и применять модель коммерчески.

Почему он побеждает

Qwen заявляет 61,7 в SWE-bench Pro, 73,0 в Terminal Bench 2.1, 42,2 в DeepSWE 1.1, 84,3 в OSWorld-Verified и 70,7 в CoWorkBench. Нативный контекст — 262 144 токена, есть YaRN до 1M, уровни усилия рассуждения, сохранение мышления между ходами, нативное понимание изображений и видео.

Обратите внимание

Это данные первого дня, а не устоявшийся факт. Большинство громких чисел взято из таблицы Qwen; часть получена с Claude Code, исправленными задачами, специальными промптами или внутренними наборами. Типичный Q4_K_M вместе с визуальным проектором занимает около 18 ГБ, однако служебная память и KV-кэш всё равно ограничивают контекст на карте 24 ГБ.

#2

Фантастически эффективная MoE-модель (284B всего / 13B активных параметров), которая доминирует в агентных и программистских рабочих процессах, комфортно умещаясь на оборудовании среднего уровня.

9.1 Оценка редакции
Читать обзор
#3

GLM-5.3

Z.ai (Zhipu AI)

Самая интересная локальная модель, которую пока нельзя скачать. GLM-5.3 сохраняет MoE-базу GLM-5.2 на 744B и получает большой прирост в коде и агентах только за счёт постобучения. Z.ai обещает веса примерно через две недели; до этого перед нами облачная модель с правдоподобным локальным будущим.

9.2 Оценка редакции
Читать обзор
#4

Kimi K3

Moonshot AI

Первая модель с открытыми весами, которая выглядит как передовая закрытая разработка. 2,8 триллиона параметров в архитектуре Mixture-of-Experts, нативное зрение, контекстное окно на целый миллион токенов и лицензия, разрешающая коммерческое использование — всё это скачивается на машину под вашим контролем. Загвоздка в самой машине: нужен дата-центр, а не рабочий стол.

8.5 Оценка редакции
Читать обзор
#5

Gemma 4

Google DeepMind

Не одна модель, а пять. Gemma 4 от Google DeepMind — это семейство, охватывающее всё: от 2-миллиардного фрагмента, работающего на вашем телефоне, до мощной системы на 31 миллиард параметров для серверов. Каждая модель имеет свою архитектуру, свои сильные стороны и различные требования к аппаратному обеспечению. E2B помещается в 1 ГБ ОЗУ. 12B Unified запускает полноценный мультимодальный ИИ на графическом процессоре ноутбука. 26B MoE активирует только 3,8 млрд параметров на токен. Все они имеют лицензию Apache 2.0 и открытые веса. Это руководство поможет вам выбрать именно ту Gemma, которая подходит для вашего оборудования и рабочего процесса.

8.2 Оценка редакции
Читать обзор
Вопросы и ответы

Часто задаваемые вопросы