Я считаю что сертификат устраивает браузер так как при первом открытии запрашивает разрешение на работу с ним, предупреждая что он "самодельный", и далее, по HTTPS получает страницу, на которой расположен JS c кодом что обращается к тому же хосту уже по WebSocket соединению.