Welcome! Log In Create A New Profile

Advanced

Re: nginx перестает следить за размером каталога proxy_cache_patch

Maxim Dounin
May 02, 2017 08:18AM
Hello!

On Fri, Apr 28, 2017 at 12:22:20PM +0700, Владислав Толмачев wrote:

> иногда, в не зависимости от нагрузки, nginx перестает следить за размером
> каталога proxy_cache_patch и каталог начинает выходить за пределы
> установленного размера и забивает полностью диск. Каталог находится на
> raid0 из 12 ssd по 240G, там около 2.5М файлов кэша hls видео
>
> proxy_cache_path /var/www/nginx/nginx_proxy_cache levels=1:2
> keys_zone=two:1536m inactive=1y max_size=2350G loader_files=1000
> loader_sleep=10ms loader_threshold=8000ms manager_files=500
> manager_threshold=1000ms manager_sleep=50ms use_temp_path=off;
>
> не помогает kill процесс nginx cache manager, только полный рестарт nginx,
> после чего он очищает забитый диск/папку до установленного лимита.
>
> Что сделать, что бы он не переставал следить за размером кэша? поймать
> дебаг трудно так как это может произойти только раз в месяц, а может и
> через 2 дня никакой зависимости не выявлено. Стандартные параметры
> manager_file или те, которые я установил не дают эффекта, все равно в один
> прекрасный момент диск забивается полностью.

Кеш перестаёт чистится по max_size, если 20 самых старых элементов
в кеше - кем-то заблокированы и не могут быть удалены (при очистке
по inactive такие элементы приводят к alert'ам "ignore long locked
inactive cache entry"). Появиться такие элементы могут из-за
естественных причин - например, какой-то запрос с ними на самом
деле очень долго получает ответ от бекенда. Однако на практике
чаще всего причина наблюдаемых проблем - падение рабочего
процесса, и соответственно оставшиеся от него блокировки.

Так что начать стоит с простого - проверить логи на предмет
падений рабочих процессов, если они есть - найти и устранить
причину падений.

Отмечу также, что к аналогичным падению результатам (неочищенные
блокировки, и соответственно "сломавшаяся" очистка по max_size,
alert'ы "long locked inactive cache entry" при очистке по
inactive) может привести и некорректное управление рабочими
процессами, в частности - использование SIGTERM (не говоря уже про
SIGKILL) для быстрого завершения старых рабочих процессов.

--
Maxim Dounin
http://nginx.org/
_______________________________________________
nginx-ru mailing list
nginx-ru@nginx.org
http://mailman.nginx.org/mailman/listinfo/nginx-ru
Subject Author Posted

nginx перестает следить за размером каталога proxy_cache_patch

Владислав Толмачев April 28, 2017 01:24AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Serge Negodyuck April 28, 2017 03:42PM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Владислав Толмачев April 28, 2017 08:00PM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Aleksandr Sytar April 30, 2017 02:50AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Владислав Толмачев April 30, 2017 02:54AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Vasiliy P. Melnik April 30, 2017 10:02AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Vasiliy P. Melnik April 30, 2017 10:02AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Владислав Толмачев April 30, 2017 10:04AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Maxim Dounin May 02, 2017 08:18AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Владислав Толмачев May 02, 2017 08:38AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Dmitry Volyntsev May 02, 2017 10:06AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Maxim Dounin May 02, 2017 10:32AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Владислав Толмачев May 06, 2017 07:58AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Vasiliy P. Melnik May 06, 2017 10:54AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

Владислав Толмачев May 06, 2017 11:04AM

Re: nginx перестает следить за размером каталога proxy_cache_patch

ngnx8810773a83 May 07, 2017 07:22PM

Re: nginx перестает следить за размером каталога proxy cache patch

Владислав Толмачев May 08, 2017 05:34AM

Re: nginx перестает следить за размером каталога proxy cache patch

Maxim Dounin May 10, 2017 09:10AM



Sorry, only registered users may post in this forum.

Click here to login

Online Users

Guests: 76
Record Number of Users: 6 on February 13, 2018
Record Number of Guests: 421 on December 02, 2018
Powered by nginx      Powered by FreeBSD      PHP Powered      Powered by MariaDB      ipv6 ready