Antes de alterar sua porta, é importante saber se a mesma está na lista de permissões do seu firewall, caso não esteja, vá até as configurações do seu firewall e coloque-a lá.
A primeira coisa que deve ser feita, é utilizar o comando de configurações do arquivo sshd.
/etc/ssh/sshd_config
Em seguida, você deverá editar a linha que apresentará a informação "port 22" inserindo a numeração da sua nova porta. Lembrando que a IANA, autoridade para atribuição de números de internet, divide as portas em três. As conhecidas, as registradas e as privadas. As conhecidas, cuja numeração vai de 0 até 1023, não podem ser utilizadas de maneira nenhuma. As registradas, vão de 1024 até 49151 e também é bom evitar seu uso. Já as privadas, que vão de 49152 até 65535 podem ser utilizadas tranquilamente.
Após realizar a alteração, reinicie o SSH utilizando o comando:
/etc/init.d/ssh restart