wget имеет опцию -Q
--quota
, которая ограничивает максимальный объем загрузки, когда задано несколько рекурсивных URL-адресов (или списка ввода ).
https://www.gnu.org/software/wget/manual/html_node/Download-Options.html
cut -d/ -f3 all-urls.txt | sort -u
и тогда у меня даже не было бесполезного использования cat
.