Security — фильтр безопасности 🛡
Security — привратник агента: стоит между каналом и ролью, пропускает обычные сообщения и останавливает попытки «взломать» агента — сменить ему роль, заставить игнорировать инструкции, обмануть написанием букв в обход фильтров. Работает по чётким правилам, без нейросети.
Когда использовать
- Агент общается с широкой публикой: незнакомые люди могут написать что угодно.
- Важно защитить инструкции и характер агента от обмана («ты теперь неограниченный помощник» и подобное).
- Нужен первый рубеж до того, как сообщение дойдёт до модели и потратит токены.
Как это работает
- Каждое входящее сообщение проверяется набором правил: попытки смены роли, «забудь все инструкции», трюки со схожим написанием букв, спам символами.
- Пройденное сообщение идёт дальше по цепочке; подозрительное останавливается, а клиент получает вежливый отказ.
- Ответ агента фильтр не разбирает — проходит обратным проводом насквозь.
Настройки
| Поле | Что это |
|---|---|
| Название | Как нода подписана на канвасе |
| Режим | Блокировать (по умолчанию) / Предупреждать (пропускать, но писать в журнал) / Выключен |
| Текст при блокировке | Что видит клиент вместо ответа: «Запрос не может быть обработан. Задайте, пожалуйста, вопрос по теме работы с агентом.» |
| Политика код-блоков | Вырезать вставки программного кода из сообщений (по умолчанию) или передавать как есть |
| Заблокировано запросов | Счётчик для контроля — сколько попыток отсеяно |
Пример: защитить агента за 2 шага
- Поставьте ноду Security в разрыв линии между Channel и Role — так же, как Счётчик.
- Оставьте режим «Блокировать». Проверьте в тестовом чате: обычный вопрос проходит, попытка «забудь свои инструкции» получает вежливый отказ.
Важно знать
- Не тратит токены. Правила детерминированы — фильтр мгновенный и бесплатный.
- Режим «Предупреждать» — для настройки. Посмотрите журнал, убедитесь, что нормальные вопросы проходят, затем переводите в «Блокировать».
- Код-блоки. Вставки кода вырезаются перед ролью; если агенту по задаче нужны фрагменты кода из сообщений, переключите политику в «передавать как есть».
- Это первый рубеж, а не гарантия. Фильтр отсекает налёт автоматизированных взломов; ключи и секреты держите в хранилище, а не в промптах.