実行中のプロセスの max open files の値を変更する prlimit というコマンドがあります(max open files 以外も変更できます)。 https://github.com/tkuchiki/docker-prlimit-example で試せる環境を用意して動作検証しました。