Самым маленьким дистрибутивом Linux, который я использовал с LiveUSB, был DSL (чертовски маленький Linux) . Думаю, это было что-то легкое 60 МБ и должно работать на большинстве машин.
Подумайте, для чего вы собираетесь его использовать: сверхлегкие ОС не оснащены ничем, кроме базовых (так сказать).