Выравнивание (alignment)
Приведение поведения модели в соответствие с намерениями и ценностями людей.
Выравнивание — направление работ, цель которого сделать так, чтобы модель делала то, что от неё действительно хотят, не причиняя вреда. Включает обучение на предпочтениях, правила безопасности, тестирование на опасные сценарии и защиту от обхода ограничений.
Связанные термины
Хотите не только понять термин, но и выбрать инструмент? Откройте каталог нейросетей с фильтрами по доступу и цене.