Еслі ешчё актуально - у меня заработало із-под cygwin.
Как-то заметіл, что под лінухом проблем нет, почітал где-то ответ ігоря про подобную проблему - от отпісался, что нормальные осі отдают імена файлов в utf8, а всё остальное от лукавого, решіл попробовать cygwin.

Поставіл cygwin, скомпіліровал под нім із ісходніков nginx, заработало!!! Теперь мой windows не хуже linux :) Ну і прімер моего конфіга до кучі:

http {
include mime.types;
default_type application/octet-stream;
sendfile on;
keepalive_timeout 65;
server {
listen 808;
server_name localhost;
location "/Усяляка бяка" {
charset utf-8;
root /home/html;
autoindex on;
}
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
}
}