Т.к. server_name beta.site.ru среди серверов, слушающих 443 не найдено, используется дефолтовый сервер для 443, в данном случае www.site.ru, ну и далее редирект

Нужно завести сервер listen 443 ssl default_server и там уже решать, что делать с такими именами.