AI Engineering Tools

Инженерия генеративного ИИ

Термины управления и эксплуатации AI-промптов

Изучите, как регистрировать, версионировать, настраивать, утверждать, развертывать, отслеживать, откатывать и выводить из эксплуатации запросы, используемые в производственных системах AI.

16 терминов

Ресурсы и реестр

Ресурс запроса

Prompt asset

Значение

Запрос и связанные с ним метаданные, переменные, примеры, конфигурация, тесты и информация о владельце.

Когда использовать

Рассматривайте производственные запросы как управляемые активы приложения, а не как анонимный скопированный текст.

Пример

Ресурс включает шаблон, схему, владельца, привязку модели, набор тестов, уровень риска и примечания к выпуску.

Ресурсы и реестр

Реестр или хранилище запросов

Prompt registry or store

Значение

Централизованный каталог, в котором можно находить, версионировать, сравнивать и извлекать ресурсы запросов.

Когда использовать

Используйте это для предотвращения разброса производственных запросов по исходным файлам, документам и личным заметкам.

Пример

Поиск в реестре по сценарию использования, владельцу, статусу, семейству моделей и среде.

Ресурсы и реестр

ID запроса

Prompt ID

Значение

Стабильный идентификатор для запроса, используемого в разных версиях.

Когда использовать

Используйте это в коде, телеметрии и процессах утверждения, где версии идентифицируют точный контент.

Пример

prompt_id: support.case_summary

Жизненный цикл версии

Версия запроса

Prompt version

Значение

Идентифицируемая версия содержимого запроса и соответствующей конфигурации.

Когда использовать

Используйте неизменяемые версии для воспроизводимых оценок, развертываний, инцидентов и откатов.

Пример

support.case_summary@17 с кратким описанием sha256:...

Жизненный цикл версии

Черновик и опубликованная версия

Draft and published version

Значение

Рабочая версия, которую можно изменять, в отличие от утвержденной неизменяемой версии, доступной для приложений.

Когда использовать

Используйте черновики для итераций и публикуйте только после прохождения необходимых тестов и утверждений.

Пример

Черновик 18 остается доступным для редактирования; производственная версия продолжает ссылаться на опубликованную версию 17.

Конфигурация

Переменная запроса

Prompt variable

Значение

Именованный заполнитель, заполняемый данными, специфичными для запроса, во время выполнения.

Когда использовать

Определите типы, обязательные поля, экранирование, ограничения по длине и уровень доверия для каждой переменной.

Внимание

Не размещайте секреты в переменных запроса, если это не требуется и не защищено утвержденным дизайном.

Пример

Summarize {{case_notes}} for {{audience}} using {{output_schema}}.

Конфигурация

Конфигурация запроса

Prompt configuration

Значение

Модель, параметры вывода, определения инструментов, схема вывода и другие настройки, связанные с запросом.

Когда использовать

Настройки версии, которые могут существенно изменить поведение вместе с текстом запроса.

Пример

Конфигурация: семейство моделей, температура, максимальный объем вывода, версия схемы, включенные инструменты, время ожидания.

Конфигурация

Привязка модели

Model binding

Значение

Объявленная модель или семейство моделей, относительно которых разрабатывается и тестируется версия запроса.

Когда использовать

Используйте это для предотвращения несанкционированного изменения поведения модели при ее переносе.

Пример

Запрос v17 одобрен только для семейства моделей A версии 2026-05.

Доставка

Продвижение среды

Environment promotion

Значение

Перемещение версии запроса, прошедшей проверку, через среды разработки, тестирования и производства.

Когда использовать

Используйте ту же неизменяемую версию вместо ручного копирования текста между средами.

Пример

dev -> evaluation passed -> staging approval -> production

Доставка

Развертывание запроса

Prompt deployment

Значение

Предоставление выбранной версии и конфигурации запроса для приложения или рабочего процесса.

Когда использовать

Развертывайте с использованием идентификатора, с проверками работоспособности, возможностями мониторинга и документированным путем восстановления.

Пример

Разверните support.case_summary@17 для 10% трафика, на который она распространяется, затем отслеживайте метрики выпуска.

Доставка

Откат запроса

Prompt rollback

Значение

Возврат трафика к ранее одобренной версии запроса после обнаружения проблемы.

Когда использовать

Подготовьте и отрепетируйте откат перед выпуском в производственную среду.

Пример

Если точность определения обязательных полей падает ниже порога, восстановите версию 16 без ее редактирования.

Управление

Утверждение об изменении запроса

Prompt change approval

Значение

Задокументированное решение об утверждении версии запроса для определенного использования и среды.

Когда использовать

Требуется пропорциональное одобрение для действий, видимых извне, регулируемых, финансовых или связанных с безопасностью.

Пример

Записи об утверждении содержат информацию о рецензенте, области применения, доказательствах, ограничениях, версии и дате истечения срока действия.

Управление

Ответственность за запросы

Prompt ownership

Значение

Назначьте ответственность за качество, доступ, проверку, инциденты, обновления и вывод из эксплуатации запроса.

Когда использовать

Назначьте владельца службы и резервного сотрудника до использования запроса в производственной среде.

Пример

Владелец: Support Platform; рецензент: Compliance; следующий просмотр: 2026-10-01.

Управление

Журнал аудита запросов

Prompt audit log

Значение

Неизменяемая история изменений запросов, утверждений, развертываний, доступа и отката.

Когда использовать

Используйте это для расследования инцидентов и демонстрации того, кто, когда и почему что изменил.

Пример

Записывайте ID актора, метку времени, запрос, версии до и после, действие, тикет и среду.

Наблюдаемость

Отслеживание запроса

Prompt trace

Значение

Запись на уровне запроса, связывающая версию запроса, входные данные, конфигурацию модели, активность инструментов, вывод и сигналы оценки.

Когда использовать

Используйте это для отладки и анализа производительности с соответствующим минимизацией и контролем доступа.

Внимание

Отслеживание может содержать личные, конфиденциальные или защищенные авторским правом материалы; своевременно минимизируйте, удаляйте, ограничивайте и прекращайте их использование.

Пример

trace_id связывает запрос v17, скрытые входные данные, версию модели, задержку, использование токенов и результат проверки.

Жизненный цикл версии

Отказ от использования запроса

Prompt deprecation

Значение

Отметка версии запроса или ресурса как запланированной к выводу из эксплуатации и не рекомендуемой для нового использования.

Когда использовать

Опубликуйте руководство по миграции, определите пользователей, установите срок и сохраните доказательства отката перед удалением.

Пример

Откажите от v12 1 августа, переведите всех пользователей на v17 и архивируйте запись оценки.

Минимальная запись запроса для производственной среды

ЗаписьПочему это важно
ID запроса, неизменяемая версия и контрольная сумма содержимогоОпределяет точный ресурс, используемый для оценки или запроса.
Модель, параметры, схемы, инструменты и контракт для переменныхОбеспечивает воспроизводимость поведения и определяет требования совместимости.
Владелец, утверждение, доказательство тестирования, среда и время выпуска.Показывает авторитет, готовность и операционную ответственность.
Отслеживание политики, пороговых значений мониторинга и целевого объекта отката.Поддерживает обнаружение, диагностику и восстановление после инцидентов.

Часто задаваемые вопросы

Почему не хранить запросы только в исходном коде приложения?

Система контроля версий полезна, но для производственной работы также необходимы метаданные, специфичные для запроса, доказательства оценки, утверждения, продвижение среды, отслеживание запросов, информация о владельцах, ссылки на устаревшие версии и откат. Это можно реализовать с помощью кода или предоставить через реестр запросов.

Должна ли версия запроса включать настройки модели?

В минимальном объеме записывайте настройки и зависимости, которые могут изменить поведение, такие как версия модели, поддерживаемые параметры, схема вывода, определения инструментов и контракт переменных. Является ли использование одной и той же версии номером реализации – это вопрос реализации, но точная комбинация должна быть воспроизводимой.

Какую информацию не следует хранить в трассировке запросов?

Не храните ненужные личные данные, учетные данные, секреты, конфиденциальные исходные материалы или неограниченный контент, защищенный авторским правом. Применяйте ограничение цели, удаление, контроль доступа, ограничения хранения, удаление и юридические или договорные требования.

Официальные источники

  • Amazon Bedrock — Prompt management

    Официальное руководство по многократному использованию запросов, переменных, вариантов, тестированию, версиям и интеграции с приложениями.

  • Google Cloud — Prompt management API

    Официальная документация API для создания и перечисления управляемых версий запросов.