Ограничители (guardrails)
Правила и фильтры, задающие границы допустимого поведения ИИ-системы.
Guardrails — слой контроля поверх модели: проверка входящих запросов, фильтрация ответов, запрет на определённые темы и действия, ограничение прав агента. Для продуктов с ИИ это обязательный компонент, без которого система рано или поздно сделает что-то нежелательное.
Связанные термины
Хотите не только понять термин, но и выбрать инструмент? Откройте каталог нейросетей с фильтрами по доступу и цене.