Signature from server's host key is invalid error

들어가며

 우분투와 같은 리눅스 서버를 두고 해당 윈도우 PC에서 remote 서버로 SSH 연결을 해서 많이들 사용한다.

 오늘은 특정 프로그램 (Mobaxterm)에서 특정서버로 SSH 연결 오류가 발생하여, 해당 부분을 해결하는 방법을 소개드리고자 합니다.

 

에러 발생

 이것 저것 설정을 건드려 보고 Mobaxterm 을 지우고 해봐도 아무리 해보아도 안된다. 

 에러 문구

"Signature from server's host key is invalid"

 

 

환경

 접속프로그램 : Mobaxterm 20.6 / 20.5 등

 HOST PC : UBUNTU 18.04

 접속 PORT : 22 (SSH)

 

 * 최신 Mobaxterm 다운로드 하기

https://mobaxterm.mobatek.net/download.html

MobaXterm free Xserver and tabbed SSH client for Windows

 

Trouble shooting

 인터넷 검색을 해서 정보를 취득해서 시도한 방법들이다. 결론적으로 해당 방법으로 해결이 되지 않았지만, 또 다른 환경에서는 아래 방법으로도 가능할지도 모르니 한번 시도 해보는것도 추천한다.

 

 1) Config 파일 삭제

  Mobaxterm 의 Config 파일을 저장되는 경로이다. 전체 경로를 싹 지워 보자.
  . C:\Users\M\Documents\MobaXterm

 2) 다른 PC에서 접속했더니 정상적으로 접속됨을 확인 가능했다. 뭔가 내 PC의 문제임을 확인 가능하다.

 

 3) PUTTY 나 XSHELL 같은 다른 연결 프로그램은 정상동작한다. 그러나 mobaxterm 의 x11 forwading 기능이 필요해서 필자는 꼭 mobasxterm 을 써야 하는 상황이다.

 이 상황으로 추측컨데, mobaxterm 의 자체 프로그램 문제로 파악된다.

 4) mobaxterm 내의 terminal shell 을 사용하여 접속 가능

 Session 을 SSH으로 바로 오픈하지 않고, Terminal Shell을 먼저 연뒤에 Command 로 SSH 접속을 하면 정상 접속이 된다. 

 이 상황으로 추측컨데, mobasxterm 내부에서도 접속 방식에 따라 다른 동작을 하는것으로 알수 있다.

 5) local pc 내부의 ssh config 삭제
  . rm ~/.ssh/known_hosts

  . 해당 파일은 terminal shell 을 사용하여 접속 한뒤에야 생성 되는 파일이며, 지워도 해결 되지 않는다.

 

 6) 서버 초기화

  서버 세팅을 다시 하기 위해서 이것저것도 해보았지만 해결이 되지 않았다.

 심지어 서버를 포멧하고 다시 설치 했음에도 불구하고 해결이 되지 않았다.

 

원인 파악

"Signature from server's host key is invalid"

 을 그대로 해석해보면, 서버의 호스트 키의 서명이 올바르지 않다. 이다. 서버의 문제라고 하기에는 다른 프로그램은 정상 접속이 가능한점을 봐서는 mobaxterm 와 서버와의 어떤 궁합이 맞지 않아서 발생하는 현상이라고 판단된다.

 보안된 서버접속을 위해서 서명키를 주고 받는데, 이점에서 어떤 오류에 의해서 문제가 발생한다고 추정할 수 있다.

 

PUTTY 에서의 해결책

인터넷 검색을 통해 PUTTY 에서도 이런 문제점이 발생하는 것으로 파악되었으며, PUTTY에서는 아래와 같이 해결 하고 있다. Host Key 알고리즘에서 RSA 의 우선순위를 높여서 RSA 정책으로 먼저 연결 되게끔 설정하는 것이다.

https://forum.huawei.com/enterprise/en/signature-from-server-s-host-key-is-invalid/thread/579858-861

Signature from server's host key is invalid - Huawei Enterprise Support Community

 

 

MOBAXTERM 에서의 해결책

 그럼 mobaxterm 에서는 어떻게 Host Key 생성의 우선순위를 조절 할 수 있을까? 인터넷 검색을 해도 안나와서, mobaxterm 사에 문의를 하였다. 이에 아래와 같이 답변 받은 내용을 공유 한다.

 

As per your log file, it could be that your remote system have a non well formatted ed25519 host key that explain the connection issue (  https://forum.huawei.com/enterprise/en/signature-from-server-s-host-key-is-invalid/thread/579858-861 ).

 

In order to solve this issue, we see 2 different possibilities :

 

1) best is to correct your remote system host keys so they become well formatted

2) You ask MobaXterm to use RSA keys before using new ed25519 keys, in order to do so, please close all running instances of MobaXterm and add these lines in your MobaXterm ini configuration file:

 

[MottyOptions]

HostKey=rsa,ed25519,ecdsa,dsa,WARN  

 C:\Users\M\Documents\MobaXterm\MobaXterm.ini 파일을 open  하여, 마지막에 위와 같이 MottyOptions을 추가하자.

 ed25519 key 에 대해서 서버측의 호스트 키 생성이 비정상적으로 되어서, 연결이 안되는 현상이며, 이를 RSA 키 방식을 우선순위를 더 두어서, RSA 키로 주고 받도록 하여 해결하는 방법이다.

 

로그인 성공

 드디어 한 3일간 이거가지고 씨름 했는데, 드뎌 연결에 성공하였다. mobaxterm 사의 빠른 지원에 너무너무 감사드린다. 

 

맺으며

Mobaxterm 에서  "Signature from server's host key is invalid" 발생 시,

 C:\Users\(xx사용자이름xx)\Documents\MobaXterm\MobaXterm.ini 

파일을 열어서

[MottyOptions]
HostKey=rsa,ed25519,ecdsa,dsa,WARN

을 추가하자.