nginx-а? Сам конфиг скинуть не могу - он собирается из кучи разных модулей. В общем, там ничего выдающегося, совсем. Post_action-ы пробовал отключать, не помогает. Количество процессов, worker_connections - крутил в разные стороны. Не помогает. Nodelay, nopush - крутил, без толку (оно же, насколько я понимаю - на общение с клиентом влияет, а не с бекендом).

worker_processes 32;
worker_priority -10;

events {
use kqueue;
worker_connections 10240;
}

sendfile on;
tcp_nodelay off;
tcp_nopush on;

И несколько серверов вида

server {
listen 1234;
proxy_connect_timeout 50ms;
proxy_send_timeout 200ms;
proxy_read_timeout 300ms;

location / {
proxy_pass http://upstream1;
post_action @replica;
}

location @replica {
proxy_pass http://replica1;
}
}

Стата nginx-а (используем свой модуль статы, показывающий ее в json) - то, что соответствует stub-status-у, вот:

"Current": {
"Active": 0,
"Reading": 94,
"Writing": 1759,
"Waiting": 1853
},
"Total": {
"Accepted": 1048194,
"Handled": 1034082,
"Requests": 342831287
},

Клиенты все - keep-alive, поэтому от них коннектов совсем-совсем немного.