Вы можете попробовать
sudo dpkg-reconfigure transmission-gtk
И, если это не поможет, полностью удалить его и установить заново:
sudo apt-get purge transmission-gtk && sudo apt-get install transmission-gtk
Это также может быть вызвано чем-то в настройках вашего пользователя. Попробуйте переименовать каталог конфигурации transmission:
mv ~/.config/transmission/ ~/.config/transmission.old