Отключение sendfile сработало. выдача на zfs поднялась до уровня апача.
Отключение prefetch в ZFS не влияло на ситуацию, но с ним скорее всего связан еще один момент... через некоторое время работы в нагрузке сервер начинал "стирать" диски (нагрузка по чтению была значительно выше объемов трафика), но это уже другая песня.