LLM Provider — модель 🌡
LLM Provider — подключение языковой модели: той, которая думает и отвечает. Модели у вас свои: локальная Ollama или любой OpenAI-совместимый облачный API.
Когда использовать
В любом агенте — минимум одна модель. Несколько моделей в одном агенте тоже возможно: быстрая для простых ответов, умная для сложных.
Настройки
| Поле | Что это |
|---|---|
| Провайдер | Ollama или OpenAI-совместимый |
| Адрес | Endpoint: свой сервер или облачный API |
| Модель | Название, например qwen3:8b |
| Ключ | API-ключ провайдера (Ollama не требует) |
| Формат | CHAT — диалоговый; GENERATION — разовая генерация текста |
| Размышления | Насколько глубоко модель думает перед ответом |
| Температура | Стандартная настройка креативности |
| Максимум токенов | Ограничение длины ответа |
В контекстном меню есть «Проверить подключение» — мгновенная проверка, что модель жива.
Важно знать
- Токены — ваши, у вашего провайдера. Вивекша не проксирует и не наценяет: платите ровно за то, что тратит ваш агент.
- Модель получает уже собранный промпт (роль + знания + память + инструменты) и возвращает текст. Она не знает, где какие знания лежат — за сборку отвечает Роль.
Связанные ноды
- Role — собирает промпт для модели
- Tools — цикл вызовов инструментов