спасибо за подсказку :)
Сейчас (загрузка относительно небольшая) наблюдается такое:
На разных бэкэндах
netstat -ntp | grep "ESTABLISHED -" | wc -l
Дает результат от ~50 соединений в очереди на одних до ~350 на других (у которых вес больше в настройках upstream).
При этом nginx в лог пишет время выполнения скриптов в основном маленькое (20-80мс), но иногда те же скрипты выполняются по 700-800мс, изредка проскакивают с 10сек выполнения.
Чем выше нагрузка, тем больше таких скриптов и тем больше время.
Не подскажешь, при какой длине очереди можно говорить о задерже в 700мс?