Если я не ошибаюсь, вам не хватает закрывающей скобки в вашем операторе du.
[ $(du -hsm /home/s3user/extractedISOs | awk '{print $1}' -gt $((1024*50)) ]
Следующее должно работать:
[ $(du -hsm /home/s3user/extractedISOs | awk '{print $1}' ) -gt $((1024*50)) ]
francois@zaphod:~$ mkdir "hello world"
francois@zaphod:~$ touch "hello world"/{a,b,c}
francois@zaphod:~$ a="ls 'hello world'"
francois@zaphod:~$ eval "$a"
a b c
francois@zaphod:~$
eval ваша переменная выполнит переменную как текст команды, которую вам нужно выполнить