Как мне найти файлы и сжать, если они больше 500M

Как видно из вывода ps , сервер Xvfb запускается с параметром -auth , за которым следует имя временного файла. Поэтому для подключения к этому серверу вам необходимо предоставить копию MIT-MAGIC-COOKIE, которая хранится в этом файле. Обычно это делается путем простой установки переменной XAUTHORITY в среде команды, например

XAUTHORITY=/tmp/xvfb-run.nJKLnF/Xauthority x11vnc ...

Для упрощения ваш сценарий xvfb-run может принимать параметр -f , за которым следует имя выбранного вами файла, в котором следует сохранить файл cookie.