Вы можете посчитать в уме и преобразовать биты разрешений в восьмеричные, но намного проще использовать символические разрешения. В данном случае нужно знать, что первая группа для владельца (u=user ), вторая для группы (g ), а третья для всех остальных (o =другое)
chmod u=rw,go= ~/.ssh/authorized_keys
Вместо 755
вы должны использовать u=rwx,go=rx
, а вместо 764
вы должны использовать u=rwx,g=rw,o=r
. Конечно, 755
быстрее, чем символический эквивалент, но, естественно, не так легко понять, что это значит.