Перейти к основному контенту
NGPP
Кабинет

ИИ и Агенты

Полное руководство: от «что такое LLM» до своей локальной лаборатории

🌍Какие есть модели?

Карта коммерческих API и open-source

💻Как запустить локально?

Ollama + LM Studio на твоём Mac за 10 минут

🏗️Какую топологию выбрать?

Конструктор: Mac / сервер / облако / гибрид

🤖Что такое агент?

Как ИИ работает сам: инструменты и циклы

🎯Обучить под свои задачи?

4 уровня: промпт → RAG → LoRA → pre-train

🔗Как прикрутить к платформе?

Vercel AI SDK + локальный Ollama (OpenAI-совместимый endpoint)

Ты не один с этими вопросами. Весь мир сейчас пытается разобраться в ИИ-ландшафте. Этот конструктор — твоя карта: объясняет принципы, а не рецепты. Ты поймёшь, зачем каждый инструмент, когда что применять и как масштабироваться с ростом задач.

Для твоего MacBook (Apple Silicon) — всё работает нативно: Ollama с Metal-ускорением, MLX для fine-tuning, Open WebUI как личный ChatGPT. 32+ ГБ унифицированной памяти позволяют запускать серьёзные 14B–30B модели.

Мир ИИ делится на два лагеря: коммерческие API (платишь за токены, не устанавливаешь — просто вызываешь) и open-source модели (скачиваешь на свою машину, бесплатно, полная приватность). У каждого подхода своя ниша.

🇺🇸Claude (Sonnet / Opus / Haiku)· AnthropicКоммерческий API

Лучший выбор для агентной работы: понимает длинный контекст, очень точно следует инструкциям, умеет использовать инструменты (tool-use / MCP). Claude Code — полноценный ИИ-разработчик в терминале.

Контекст
200 000 токенов
API ↗
коддлинные текстыбезопасностьагентыаналитика
🇺🇸GPT-4o / o3 / o4-mini· OpenAIКоммерческий API

Самый известный. GPT-4o — мультимодальный (текст + изображения + аудио). o3/o4 — серия «думающих» моделей для сложных задач. Есть «Reasoning» режим с более глубоким анализом.

Контекст
128 000 токенов
API ↗
тексткодкартинкиголосрассуждения
🇺🇸Gemini 2.5 Pro / Flash· Google DeepMindКоммерческий API

Рекорд по контексту: миллион токенов = целая кодовая база или несколько книг сразу. Flash — быстрая и дешёвая версия для рутинных задач. Глубоко интегрирован с Google Search.

Контекст
1 000 000 токенов
API ↗
огромный контекствидеокодпоиск
🇺🇸Grok 3· xAI (Илон Маск)Коммерческий API

Сильная модель с акцентом на reasoning. Единственная с доступом к данным Twitter/X в реальном времени. Доступна через Grok.com и API.

Контекст
128 000 токенов
API ↗
рассуждениякодX/Twitter данные
🇺🇸Llama 3.3 / 3.2· MetaOpen-Source💻 локально

Самая популярная open-source серия. Llama 3.3 70B сопоставима с GPT-4 по многим задачам. 8B легко работает на обычном ноутбуке с 16 ГБ RAM. Используется как «базовая» модель для большинства fine-tuning проектов.

Размеры: 1B · 3B · 8B · 11B · 70B · 90B

Контекст
128 000 токенов
универсальностькодинструкциимультиязычность
🇨🇳Qwen 2.5 / Qwen3· AlibabaOpen-Source💻 локально

Лучшая линейка для кода и математики среди open-source. Qwen2.5 14B — отличный выбор для MacBook с 16-32 ГБ. Qwen3-235B (MoE) — топ уровня GPT-4, но нужны 128 ГБ RAM. Coder-версии оптимизированы под программирование.

Размеры: 0.5B · 1.5B · 3B · 7B · 14B · 32B · 72B · 235B

Контекст
128 000 токенов
кодматематикарусский и китайскийрассуждения
🇫🇷Mistral / Mixtral· Mistral AIOpen-Source💻 локально

Французская альтернатива. Mixtral — MoE-архитектура: 8 «экспертов», работает столько же слоёв, сколько 7B, при качестве 47B. Очень быстрый для своего размера. Хорош для приватного API-сервера.

Размеры: 7B · 8×7B · 8×22B

Контекст
32 000 токенов
скоростьевропейские языкикод
🇺🇸Gemma 3 / PaliGemma· GoogleOpen-Source💻 локально

Компактные модели от Google с неожиданно высоким качеством. Gemma 3 27B конкурирует с моделями втрое крупнее. PaliGemma — с поддержкой изображений. Хорош для edge-устройств и встраивания.

Размеры: 1B · 4B · 12B · 27B

Контекст
128 000 токенов
эффективностьмультимодальностьвстраиваемые системы
🇺🇸Phi-4 / Phi-3· MicrosoftOpen-Source💻 локально

Маленькие, но очень умные. Phi-4 14B на бенчмарках обходит модели вдвое крупнее — идеальный выбор для слабого железа. Phi-3 mini 3.8B работает даже на телефоне.

Размеры: 3.8B · 7B · 14B

Контекст
128 000 токенов
размер/качествокодматематикаreasoning
🇨🇳DeepSeek R1 / V3· DeepSeekOpen-Source💻 локально

«Китайский конкурент GPT-4 за 6 миллионов долларов» — сотряс мир в январе 2025. R1 — «думающая» модель с явной цепочкой рассуждений. Дистиллированные версии (7B-70B) отлично работают локально. Важный нюанс: серверы в Китае, для приватных данных — только локально.

Размеры: 1.5B · 7B · 14B · 32B · 70B · 671B

Контекст
128 000 токенов
рассуждениякодматематикаreasoning chain
🇷🇺YandexGPT 5 / DataLens· ЯндексКоммерческий API

Лучший русский язык среди коммерческих API. Глубоко интегрирован с Яндекс.Облако, Яндекс.Диск, DataLens. Хороший выбор для проектов, где важно соответствие российскому законодательству (данные в РФ).

Контекст
32 000 токенов
API ↗
русский языкЯндекс-экосистемабизнес-задачи
🇷🇺GigaChat Max· СберКоммерческий API

Российская разработка Сбера. Хорошо работает с деловой перепиской, финансовыми документами. API доступен для бизнеса. Данные хранятся в России — важно для regulated отраслей.

Контекст
32 000 токенов
API ↗
русский языкфинансыСбер-экосистема

Как выбрать модель?

🔒 Приватные данные — только open-source локально (Ollama)
🧠 Сложные задачи — Qwen2.5 72B или DeepSeek R1 (локально)
💰 Много запросов дёшево — Qwen2.5 7B локально (бесплатно, мгновенно)
🖥️ Без интернета — Qwen2.5 14B или Phi-4 через Ollama
💻 Код и математика — Qwen2.5-Coder или DeepSeek R1
🇷🇺 Русский язык — YandexGPT или Qwen2.5 (лучший для RU среди OS)