Если конфигурация sshd сервера дефолтовая, то да.
Файл с открытым ключем располагается в домашней директории пользователя, который будет входить по ключу.