TLS(SSL) 주요 개념

TLS

안전한 인터넷 통신을 위한 암호화 및 인증 프로토콜

TLS Handshake

TLS 암호화를 사용하는 통신 세션을 실행하는 프로세스

1. 어떤 암호화 쓸지 협상
2. 서버가 진짜인지 검증
3. 안전하게 대칭키 생성
4. 이후는 빠르게 암호화 통신

프로세스 (TLS 1.3 기준)

ClientHello

• 클라이언트가 아래 정보를 포함하여 헬로 메시지 전달
  • 지원 TLS 버전
  • Cipher Suite 리스트
  • SNI (도메인)
  • ALPN (HTTP/2 여부)
  • Session 재사용 정보

ServerHello

• 메시지 응답으로 서버에서 아래 정보를 포함한 메시지 전송
  • TLS 버전 선택
  • Cipher 선택
  • 무작위 바이트 문자열

인증 + 키 교환

• 클라이언트에서 서버의 인증서를 인증서 발행 기관을 통해 검증
• 클라이언트가 예비 마스터 암호 무작위 바이트 문자열을 암호화하여 한번 더 전송
  • 이 때 서버의 인증서를 통해 공개키를 받아서 암호화하여 전송
• 서버가 예비 마스터 암호를 해독

검증

• 클라이언트, 서버 모두 클라이언트 클라이언트 무작위, 서버 무작위, 예비 마스터 암호를 이용해 세션키 생성
• 모두 같은 결과가 나오면 성공

Handshake 에러 대응

디버깅 체크리스트

문제 생기면 순서대로 확인해보자

1. 인증서 확인

bash
# 1. 인증서 확인
openssl s_client -connect domain:443 -servername domain

# 2. TLS 확인
openssl s_client -tls1_2
openssl s_client -tls1_3

# 3. HTTP 레벨 확인
curl -v https://domain

# 4. SNI 확인
curl --resolve domain:443:IP https://domain

# 5. cipher 확인
nmap --script ssl-enum-ciphers -p 443 domain

에러 상세 내용