спасибо за подсказку :)

Сейчас (загрузка относительно небольшая) наблюдается такое:
На разных бэкэндах
netstat -ntp | grep "ESTABLISHED -" | wc -l

Дает результат от ~50 соединений в очереди на одних до ~350 на других (у которых вес больше в настройках upstream).

При этом nginx в лог пишет время выполнения скриптов в основном маленькое (20-80мс), но иногда те же скрипты выполняются по 700-800мс, изредка проскакивают с 10сек выполнения.

Чем выше нагрузка, тем больше таких скриптов и тем больше время.

Не подскажешь, при какой длине очереди можно говорить о задерже в 700мс?