오늘날 우리는 수많은 툴과 플랫폼을 사용하며, 원격 근무와 협업을 위해 여러 계정에 로그인합니다. 이 과정에서 자격 증명(사용자 ID와 비밀번호)이 안전하게 보호되지 않는다면 기업망과 민감한 데이터는 언제든 노출될 수 있습니다. 문제는 여전히 일부 시스템이 비밀번호를 평문(읽을 수 있는 상태)으로 저장한다는 점입니다. 이는 사실상 디지털 포스트잇에 암호를 써 붙여두는 것과 다르지 않아 해커에게 그대로 노출됩니다. 이런 위험을 막기 위한 핵심 기술이 바로 해싱 알고리즘(Hashing Algorithm)입니다.
해싱 알고리즘이란?
해싱 알고리즘은 입력값을 고정 길이의 “해시값”으로 변환하는 일방향 함수입니다. 암호화와 달리, 해시값은 원래 입력으로 되돌릴 수 없습니다. 로그인 과정에서 사용자가 입력한 암호는 해시 처리되어 DB에 저장된 해시값과 비교됩니다. 일치하면 인증이 완료되는 구조죠. 즉, 해싱은 단순히 데이터를 “숨기는 것”이 아니라, 원본을 재구성하기 어렵게 만들어 보안을 강화하는 방식입니다.
해시 함수 이점
해시 함수는 단방향 함수로 작용한다
해싱 알고리즘 처리를 거친 후에는 원본 텍스트로 복구하는 게 불가능합니다. 그러므로 특정 결과값을 얻었을 때, 이상적인 해시 함수는 해당 결과값을 도출한 초기 투입값을 절대 얻지 못하게 합니다. 예를 들어 6을 2로 나누면 결과값은 3입니다. 그러나 9도 3으로 나눠집니다. 그러나 결과값 ‘3’만으로는 절대 초기 숫자 2개를 알아낼 방법이 없습니다.
해시 함수에서는 눈사태 효과가 매우 잘 나타난다
특정 입력값은 특정 출력값을 산출하지만, 입력값에 매우 작은 변화만 줘도(해당 변화가 매우 사소한 것일지라도) 이는 꽤나 극단적인 출력값의 변화로 이어집니다. 다음과 같이 예를 들어보겠습니다.
입력값: App1sealing583
해시: 5420d1938buif7686dedsf9560bb5087d24676de5f83b7cb4c3b96bf46ec388b
입력값: App2sealing583
해시: 4ic79ff6a81da0b5fc63989d6b6db7dbf1264228052d2da70baqsf7f82961rt6
해시 함수는 매우 빨리 연산할 수 있다
해시 함수가 강력하게 구축되어 있다면 어떤 입력 데이터라도 몇 초만에 결과값을 얻을 수 있습니다.
해시 함수 결과값은 충돌이 일어나지 않는다
두 입력 매개변수의 결과값은 절대 같지 않습니다.(해시 함수 출력값의 길이를 보면 무슨 말인지 아실 겁니다)
해시 함수는 결정론적이다
한 입력 매개변수의 출력값은 시점과 사용 횟수에 상관 없이 항상 같습니다. 이는 특히 여러 사람이 서로 다른 지점에서 동시에 인증을 해야 할 때 특히 유용합니다.
해시 알고리즘 실제 활용
이 글의 초입에서 암호와 자격 증명을 논했습니다. 이제 파일 전송을 다뤄봅시다. 누군가(X라고 합시다) 다른 사람(Y라고 합시다)에게 파일을 전송하고 싶은 경우 해시 알고리즘을 사용하지 않는다면, X가 콘텐츠나 수취인을 확인할 수 있는 유일한 방법은 Y를 직접 확인하는 것입니다. 그러나 이는 매우 번거로우며, 이 부산하고 빠르게 돌아가면서도 매우 불안한 세상에서는 의미가 없는 행위입니다. 게다가 만약 보내는 내용이 길다면, 파일의 용량이 무겁거나 이와 관련된 다양한 종류와 포맷으로 된 여러 첨부파일이 메일에 포함되어, 결국엔 처리하는 데 며칠씩 걸릴 겁니다. 하지만 해싱 알고리즘을 사용한다면 X는 특정 파일에 대해 검사합(전송 중 오류를 감지하는 타 블록에서 유래한 작은 크기의 디지털 데이터 블록)을 생성할 수 있습니다. Y가 이 파일과 검사합을 받으면 그는 같은 해싱 알고리즘을 수취한 파일에 활용합니다. 이로써 맞는 파일이 올바른 발송인으로부터 올바른 수취인에게 보내졌다는 걸 보장할 수 있습니다.
해싱 알고리즘의 종류
1. SHA-2(SHA-256 / SHA-512)
현재 가장 널리 쓰이는 안전한 해시 표준으로 블록체인(Bitcoin 포함), SSL/TLS, 전자서명 등에 사용됩니다. 256비트/512비트 등 다양한 출력 길이 제공합니다.
예시 (SHA-256):
입력값: An example of SHA-256
출력값: 9c74e2c91b6223eea0c0f6f5f48e3a2f59f54f762b1cf1c06d4a95a0f2e2990d
2. SHA-3 (Keccak 기반)
2015년 표준화된 차세대 SHA 계열로 SHA-2와 구조가 달라 이중 방어책으로 적합합니다. 금융, 의료, 정부기관 등 높은 보안 요구 환경에서 활용됩니다.
예시 (SHA3-256):
입력값: An example of SHA3-256
출력값: b23f96e98c85d2bc715b5fef07ef9e6cd7f51a4cfbcfa57fce1c50a6a7e2b2db
3. Whirlpool
512비트 해시 함수로 AES 원리에 기반하며, 보안성이 높아 데이터 무결성 검증용으로 사용합니다.
예시:
입력값: An example of Whirlpool
출력값: 42fefc20dd412b5ad776271d1008ca65d1503a5acd384f3b4e3c8793ded11a0c3d853d721c6d23c37deeecc9b98765575c806099cec4a61b402b65b7a271bfd7
4. RIPEMD-160
유럽에서 개발된 해시 계열로 SHA-2만큼 널리 쓰이지는 않지만, 일부 블록체인·전자서명 환경에서 여전히 활용됩니다.
예시:
입력값: An example of RIPEMD-160
출력값: 033432770126267d6640cb35b1d7e1e75a78e7e5
5. bcrypt
비밀번호 저장에 가장 권장되는 해시 함수로 솔트(salt)와 키 스트레칭을 내장해 무차별 대입·레인보우 테이블 공격에 강력합니다. 웹 서비스 사용자 인증에서 표준처럼 사용됩니다.
예시 (bcrypt, 12라운드):
입력값: password123
출력값: $2a$12$5h4h8hN6gQGHD5.kC3AGJOou6ibquyyt2X2xLQK89XJkIStG5rV6a
해싱 알고리즘 보안 한계점
해싱 알고리즘은 안전한 보안 수단이지만 완벽하지는 않습니다. 해커는 여전히 무차별 대입 공격을 통해 수많은 입력값을 해시 처리하면서 일치하는 결과를 찾으려 시도할 수 있습니다. 특히 ‘123456’처럼 흔하게 사용되는 암호는 해시값을 빠르게 찾아내기 때문에 위험합니다. 여러 사용자가 동일한 암호를 사용한다면 공격자는 더 쉽게 시스템에 침투할 수 있습니다.
또 다른 위협으로는 레인보우 테이블 공격이 있습니다. 이는 미리 계산된 해시 값과 원문 쌍을 대규모 데이터베이스 형태로 저장해두고, 해시된 암호가 나타났을 때 빠르게 역추적하는 방식입니다. 이 공격은 특히 솔트가 적용되지 않은 해시 값에 취약합니다. 따라서 보안을 강화하기 위해서는 해시 처리 시 무작위 데이터를 추가하는 솔트 기법을 반드시 적용해야 합니다. 솔트를 활용하면 같은 암호라도 서로 다른 해시 값이 생성되므로 공격자가 레인보우 테이블을 사용하기 훨씬 어렵습니다.
이러한 한계를 보완하기 위한 기술로 런타임 애플리케이션 자가 보호(RASP)를 들 수 있습니다. RASP는 애플리케이션의 맥락적 행동을 실시간으로 분석하여 수상한 활동이 감지되면 세션을 종료하거나 사용자에게 알림을 보내는 방식으로 작동합니다. 이는 단순히 매개변수만 확인하는 방화벽보다 더 정밀하고, 사람의 개입이 최소화된 상태에서도 지능적으로 공격을 차단할 수 있다는 장점이 있습니다.
해싱 알고리즘은 여전히 비밀번호 보호와 데이터 무결성 확보의 핵심 기술입니다. 하지만 단순 해시만으로는 부족하며, 솔트/페퍼, 키 스트레칭, RASP와 같은 다계층 보안 접근이 필요합니다. 기업은 SHA-2 이상 계열을 기본 표준으로 채택하고, 정교한 보안 프레임워크 안에서 해싱을 활용해야 합니다. 코딩 없이 자바스크립트 코드와 앱을 리버스 엔지니어링·위변조 공격으로부터 지키고 싶으시다면, 도브러너의 런타임 보호 기능을 확인해 보세요. 무료 체험판으로 실제 보안을 경험할 수 있습니다.
