id_rsa.pub файл необходим на стороне клиента?
Вы захотите это, если необходимо добавить ключ к другому серверу (его совершенно нормальное, чтобы иметь один закрытый ключ на пользователя на машину и скопировать открытый ключ в большое количество авторизованного файла ключей машин).
Также очень крошечный файл, который не должен держаться в секрете, таким образом, действительно нет никакой причины удалить его.
При удалении его можно восстановить его с ssh-keygen -y, так его также довольно безопасный удалить.
Если Вы добавляете открытый ключ клиента к серверу authorized_keys затем клиент должен сохранить id_rsa.pub на всякий случай. Кроме того это не необходимо.
Обычно тот файл не занимает так много места для удаления его.
В каждом руководстве, которое я прочитал на SSH, говорится, что Вам нужна она, но необходимо смочь работать без нее. Необходимо будет зарегистрироваться в каждый раз без него, все же. Я не вижу, почему Вы не имели бы пространство для него, хотя, это является крошечным.