Локальный ИИ - это когда программа с «мозгом» работает на вашем компьютере, а не в облаке. Запросы не уходят на сервер OpenAI или Сбера. Это удобно для личных заметок и когда интернет слабый, но нужна видеокарта или терпение.
Облачный чат и локальный - в чем разница
| Облако (GigaChat, ChatGPT) | Локально (Ollama, LM Studio) | |
|---|---|---|
| Регистрация | Аккаунт на сайте | Установка программы на ПК |
| Интернет | Нужен почти всегда | После загрузки модели можно без сети |
| Качество ответов | Топ-модели (GPT-4o и др.) | Проще, но для черновиков хватает |
| Железо | Любой ноутбук с браузером | Лучше ПК с видеокартой NVIDIA 8+ ГБ |
Подойдет ли вам локальный ИИ
Отметьте себе:
- Да, попробую - есть Windows 10/11, 16 ГБ RAM, NVIDIA от 8 ГБ VRAM, 20+ ГБ места на диске.
- Скорее облако - слабый ноутбук без видеокарты, нужны самые умные модели, нужны картинки уровня Midjourney.
- Компромисс - тексты в GigaChat, а локально только расшифровка аудио (Whisper).
Способ 1: Ollama (рекомендуем новичкам на Windows)
Самый короткий путь к чату на своем ПК.
- Скачайте установщик: ollama.com/download (Windows).
- Установите как обычную программу, дождитесь окончания.
- Откройте «PowerShell» или «Терминал» (Win + X → Windows PowerShell).
- Введите команду и нажмите Enter:
ollama run llama3.2
Первый раз модель скачается (несколько гигабайт). Название модели на сайте Ollama может обновиться - смотрите актуальный список. - Когда появится приглашение
>>>, напишите вопрос по-русски и нажмите Enter. - Чтобы выйти:
/byeили Ctrl+C.
ollama run phi3 (имя уточняйте в каталоге Ollama).Способ 2: LM Studio (окно с кнопками, без команд)
- Скачайте LM Studio.
- Вкладка поиска моделей → фильтр по размеру 7B-8B → скачайте одну модель.
- Кнопка «Load model» → откройте вкладку Chat → пишите запросы.
Удобно тем, кто не хочет работать в терминале.
Картинки на своем ПК (сложнее)
Для генерации изображений локально используют Stable Diffusion через интерфейсы Automatic1111 или ComfyUI. Это уже не «за 10 минут»: нужна мощная видеокарта и время на настройку. Обзор в каталоге Neuralka / Нейралка.
Расшифровка аудио: Whisper
Можно локально переводить запись встречи в текст. На слабом ПК будет медленно; в облаке быстрее, но файл уходит на сервер.
Когда локальный ИИ не стоит усилий
- Нужны топовые облачные модели (OpenAI, Anthropic) и генерация видео - только в облаке (Sora у OpenAI закрыта с 26.04.2026).
- Нет дискретной видеокарты - лучше GigaChat в браузере.
- Нужен результат «как в рекламе» с первого раза - облако проще.
Частые вопросы
Это бесплатно?
Сами программы Ollama и LM Studio - да. Платите только электричеством и своим временем. Подписки за облако не нужны.
Безопасно ли для рабочих документов?
Данные не уходят в интернет, пока модель локальная. Но копии файлов все равно хранятся на вашем диске - защищайте ПК как обычно.
Что делать, если Ollama пишет ошибку про GPU?
Обновите драйвер NVIDIA или выберите модель меньше. На CPU Ollama тоже работает, но медленно.
Каталог нейросетей Как оплатить подписки Подобрать нейросеть