Вы были близки к решению:
find /media/d/ -type f -size +50M -and ! -name "*deb" -and ! -name "*vmdk"
Вы можете комбинировать следующие логические операторы в любой последовательности:
-a -and - operator AND
-o -or - operator OR
! - operator NOT