ИИ · подборка терминов
jailbreak (для ИИ)
Что это значит
попытка обойти ограничения модели и заставить её нарушить заданные правила.
Когда так говорят
Так говорят, когда пользователь пытается заставить модель сделать то, что она не должна : нарушить правила безопасности, выдать запрещённый ответ или проигнорировать ограничения.
Пример
The user tried to jailbreak the chatbot.
Пользователь попытался обойти ограничения чат-бота.
Близкие термины
Prompt injection — внедрение внешней инструкции; jailbreak — именно попытка сломать ограничения.
Частые ошибки
Не путать с обычной переформулировкой: jailbreak целится в обход правил, а не в улучшение ответа.