Джейлбрейк
Приём обхода ограничений модели через специально составленный запрос.
Джейлбрейк — попытка заставить модель нарушить собственные правила: через ролевые сценарии, подмену контекста или запутывающие формулировки. Разработчики закрывают известные способы, исследователи находят новые. Для бизнеса важна обратная сторона: пользователь может попытаться так обойти ограничения вашего бота.
Связанные термины
Хотите не только понять термин, но и выбрать инструмент? Откройте каталог нейросетей с фильтрами по доступу и цене.