Как сказал @Jakuje, лучше использовать Forward Agent и ключ на локальной защищенной машине.
Однако, если вам нужно делать то, что вы говорите, используйте такой инструмент, как keychain
(github.com/funtoo/keychain) или ssh-find-agent
(github. com / wwalker / ssh-find-agent (я написал последний, и многие до сих пор его используют, но с тех пор я перешел на первый). Оба эти инструмента ищут запускающие агенты gpg или ssh и подключают к ним вашу среду для вы.