> Всегда их включать? Они так постоянно будут уходить к клиенту.
> Или только, когда нужно, добавлять в конфиг.

Включать всегда их не нужно.

Включать нужно только на стадии разработки, для удобства дебага.
Так удобней и не придется заглядывать в логи Nginx и в логи приложения, чтобы определить откуда пришел ответ, от приложения или из кеша Nginx.

Если в заголовке X-Cache-Status, будет значения: HIT, значит Nginx не обращался к вашему приложению, а отдал ответ из своего кеша.
Полный список значений: “MISS”, “BYPASS”, “EXPIRED”, “STALE”, “UPDATING”, “REVALIDATED”, “HIT”, надеюсь их смысл понятен.

Возможно вам будет интересно, что в платной версии Nginx есть удобное управления кешем, вот ссылка.
http://nginx.com/products/content-caching-nginx-plus/