В качестве примера посмотрите на живые дистрибутивы с настойчивостью.
Не все методы монтирования union работают с корневым каталогом. Среди них - unionfs, aufs и overlayfs. Overlayfs - это подходящее решение для современных систем Linux.
В overlayfs вы получаете объединение нижней и верхней файловых систем, причем верхняя файловая система имеет приоритет и принимает записи. Чтобы получить доступное для записи объединение, вам необходимо указать рабочий каталог для overlayfs для хранения метаданных; это должен быть пустой каталог в той же файловой системе, что и верхний каталог.
mkdir /stuff/.overlayfs.work
mount -t overlay -o lowerdir=/,upperdir=/stuff,workdir=/stuff/.overlayfs.work overlay /