На самом деле нет необходимости создавать новый сертификат, просто изменив URL-адрес сервера в клиенте выхода в открытый космос так же, как CN вашего сертификата сервера в /etc/sysconfig/rhn/up2date
Выяснилось, что проблема связана с USB, я удалил том USB из управления дисками Windows, удалил USB и снова вставил его, обновил rufus до последней версии, и все заработало нормально