как установить внутренние переменные в mailx в linux?

Вы не можете разграничить варианты с аргументами друг от друга, если двойной дефис не обозначает длинный, а одиночный дефис - короткий.

-f file

... будет означать параметр -f с его аргументом file

... тогда как - ffile будет совершенно другим вариантом без аргументов.