Что делать, когда нагрузка выше возможностей
Надёжность проверяется не только обычным режимом. Важно заранее определить поведение системы, когда запросов становится больше, чем она может обработать.
Ограничить ожидание
Очередь сглаживает краткий всплеск, но не создаёт дополнительную вычислительную мощность. Если входящий поток устойчиво превышает скорость обработки, ожидание растёт. Ограничение длины очереди и времени ожидания помогает контролировать потребление памяти и задержку.
Не усиливать отказ
Повторные попытки добавляют нагрузку. Учитывайте их в общем бюджете времени, задавайте предел числа попыток и увеличивайте паузы с разбросом. Для операций с побочными эффектами заранее продумайте идемпотентность: повтор не должен случайно создавать второй заказ или платёж.
Сохранить главное
Разделите критические и необязательные операции. При перегрузке иногда лучше отказаться от дорогой рекомендации или вернуть допустимые устаревшие данные, чем потерять основной сценарий. Такие режимы нужно согласовывать с требованиями продукта и проверять под нагрузкой.