Почему не может ACLs блокировать пользователей от наличия доступа к их собственному корневому каталогу?

Нет ничего специального о корневом каталоге пользователя, который сделал бы полномочия отличающимися. В конце концов, полномочия обрабатываются ядром, и ядро не имеет никакого понятия корневого каталога.

Корневой каталог пользователя обычно принадлежит тому пользователю. ACL для владельца файла проигнорирован, классические биты полномочий для владельца (установленный chmod u=…) подайте заявку вместо этого. Я предполагаю, что это - то, что этот документ иллюстрирует неуклюжим способом.

Если Вы сделаете корневой каталог пользователя не исполняемым файлом тем пользователем, то их оставят в корневом каталоге, когда они войдут в систему.