Похоже, вам нужно нежадное совпадение до закрывающей круглой скобки включительно. Вы также должны избегать точки, если хотите, чтобы она рассматривалась как буквальная:
$ rename -n 's/\(feat\..*?\)//' *.mp3
103 Flume - Left Alone (feat. Jezzabell Doran).mp3 renamed as 103 Flume - Left Alone .mp3
214 Flume - Sleepless (feat. Jezzabell Doran) (Shlohmo Remix).mp3 renamed as 214 Flume - Sleepless (Shlohmo Remix).mp3