해킹이 거의 불가능한 장부의 비밀: 블록체인 보안 메커니즘과 분산 원장 시스템 설계 완전 정복

📒 1. 분산 원장, 한 문장으로 정리하면?

분산 원장(Distributed Ledger)은 "같은 장부를 여러 컴퓨터(노드)가 각자 한 부씩 들고 있고, 새 기록은 정해진 규칙(합의)에 따라 모두가 동의해야만 추가되는 시스템"이에요.
은행 같은 중앙 기관이 장부를 하나 쥐고 있는 구조와 달리, 누군가 한 명이 장부를 고쳐도 나머지 수천 명이 "어? 너 혼자 다른데?" 하고 바로 걸러내는 거죠.

여기서 꼭 짚고 갈 점: 블록체인은 분산 원장의 한 종류예요. 데이터를 '블록' 단위로 묶어 시간 순서대로 체인처럼 연결한 방식이 블록체인이고, IOTA의 Tangle이나 Hedera의 Hashgraph처럼 DAG(방향성 비순환 그래프) 구조를 쓰는 분산 원장도 있어요. 즉, 모든 블록체인은 분산 원장이지만 모든 분산 원장이 블록체인은 아닙니다.

🔐 2. 보안의 첫 번째 벽돌: 암호학적 해시 함수

해시 함수는 어떤 데이터를 넣어도 정해진 길이의 '지문'을 뽑아주는 함수예요. 비트코인은 SHA-256을, 이더리움은 Keccak-256을 씁니다. SHA-256은 입력이 한 글자든 영화 한 편이든 결과는 항상 256비트(16진수 64자리)예요.

여기에 눈사태 효과(Avalanche Effect)가 더해져요. 입력을 단 1비트만 바꿔도 출력이 완전히 딴판이 되죠. 예를 들어 "hello"와 "Hello"의 SHA-256 결과는 앞자리부터 전혀 닮지 않았어요.

import hashlib
print(hashlib.sha256(b"hello").hexdigest())
# 2cf24dba5fb0a30e26e83b2ac5b9e29e1b161e5c1fa7425e73043362938b9824
print(hashlib.sha256(b"Hello").hexdigest())
# 185f8db32271fe25f561a6fc938b2e264306ec304eda518007d1764826381969

블록체인에서는 각 블록 헤더에 이전 블록의 해시가 들어가요. 그래서 과거 블록 하나를 고치면 그 블록 해시가 바뀌고 → 다음 블록에 적힌 '이전 해시'와 안 맞고 → 그 뒤 모든 블록을 다시 만들어야 하는 도미노가 시작됩니다. 이게 바로 위·변조 탐지(tamper-evident) 구조의 핵심이에요.

🌳 3. 머클 트리: 수천 건의 거래를 해시 하나로 압축하기

블록 하나에는 거래가 수천 건 들어갈 수 있어요. 이걸 효율적으로 검증하려고 쓰는 게 머클 트리(Merkle Tree)예요. 거래마다 해시를 만들고, 두 개씩 짝지어 다시 해시하고, 또 짝지어 해시하고… 마지막에 남는 단 하나의 값이 머클 루트이고, 이게 블록 헤더에 기록됩니다.

머클 트리의 진짜 매력은 머클 증명(Merkle Proof)이에요. 거래 C가 블록에 들어있는지 확인하려면 전체 거래가 아니라 "해시 D"와 "해시 AB"만 있으면 루트까지 계산해볼 수 있어요. 거래가 n개면 필요한 해시는 대략 log₂n개뿐! 거래 4,096건이면 12개 해시로 증명 끝이에요.
비트코인 백서에 나오는 SPV(Simplified Payment Verification) 지갑이 바로 이 원리로 전체 블록을 받지 않고도 거래 포함 여부를 확인합니다. 이더리움은 상태 저장에 이를 확장한 머클 패트리샤 트라이(Merkle Patricia Trie)를 사용해요.

✍️ 4. 전자서명: "이 돈, 진짜 네가 보낸 거 맞아?"

블록체인에는 아이디·비밀번호가 없어요. 대신 공개키 암호(비대칭 암호)를 써요. 개인키(Private Key)는 나만 아는 도장, 공개키(Public Key)는 모두에게 보여주는 도장 확인용 견본이라고 생각하면 돼요.

비트코인과 이더리움은 secp256k1 타원곡선 기반 ECDSA를 써왔고, 비트코인은 2021년 탭루트(Taproot) 업그레이드로 슈노르(Schnorr) 서명을 도입했어요. 슈노르 서명은 여러 서명을 하나로 합치는 집계가 쉬워서 멀티시그 거래를 더 가볍고 프라이버시 친화적으로 만들어줍니다. 이더리움 지분증명 합의층은 검증자 서명을 대량으로 합치기 좋은 BLS 서명을 사용하고요.

🤝 5. 합의 알고리즘: 서로 못 믿는 사람들이 같은 결론에 도달하는 법

분산 시스템의 오래된 숙제가 비잔틴 장군 문제예요. 일부 참여자가 거짓말을 하거나 고장 나도 나머지가 같은 결정을 내릴 수 있을까? 이 문제를 견디는 성질을 비잔틴 장애 허용(BFT)이라고 해요. 고전적인 BFT 계열 알고리즘은 전체 노드를 n이라 할 때 악의적 노드가 f개 이하이고 n ≥ 3f + 1이면 안전하게 합의할 수 있어요. 즉, 전체의 3분의 1 미만이 배신해도 버틴다는 뜻이죠.

⛏️ 작업증명(PoW, Proof of Work)

비트코인이 쓰는 방식이에요. 채굴자는 블록 헤더의 논스(nonce) 값을 바꿔가며 해시값이 목표값(target)보다 작아질 때까지 반복 계산해요. 정답을 찾기는 어렵지만 검증은 해시 한 번이면 끝나는 비대칭성이 핵심이에요.
비트코인은 평균 약 10분에 블록 하나가 나오도록 2,016블록(약 2주)마다 난이도를 자동 조정합니다. 체인이 갈라지면 누적 작업량이 가장 많은 체인을 정답으로 인정해요.

🪙 지분증명(PoS, Proof of Stake)

이더리움은 2022년 9월 '더 머지(The Merge)'로 PoW에서 PoS로 전환했어요. 검증자가 되려면 32 ETH를 예치(스테이킹)해야 하고, 이더리움 재단은 이 전환으로 네트워크 에너지 소비가 약 99.95% 줄었다고 밝혔어요. 이더리움은 12초 슬롯, 32슬롯 = 1에폭(6.4분) 구조이며, 보통 2에폭 정도 지나면 블록이 최종 확정(finality)돼요.
나쁜 짓을 하면? 이중 서명 같은 위반 시 예치금 일부를 몰수하는 슬래싱(Slashing)으로 처벌합니다. "돈을 걸었으니 정직하게 굴어라"가 기본 철학이에요.

🏛️ BFT 계열 (PBFT, Tendermint, Raft 등)

참여자가 알려진 허가형 환경에서 많이 쓰여요. PBFT는 pre-prepare → prepare → commit 단계를 거치며, 블록이 확정되면 되돌릴 수 없는 즉시 최종성을 줍니다. 대신 노드끼리 메시지를 많이 주고받아야 해서(대략 O(n²)) 노드 수가 늘수록 부담이 커져요. 참고로 Hyperledger Fabric이 쓰는 Raft는 장애(crash)는 견디지만 악의적 노드는 가정하지 않는 CFT 방식이에요.

💣 6. 블록체인을 노리는 대표 공격과 방어

① 51% 공격

PoW에서 한 세력이 네트워크 해시파워 과반을 쥐면, 몰래 더 긴 체인을 만들어 기존 거래를 뒤집는 이중 지불(Double Spending)이 가능해요. 실제로 해시파워가 작은 체인들은 당했어요. 이더리움 클래식은 2019년과 2020년에 여러 차례 51% 공격으로 재구성(reorg) 피해를 입었고, 비트코인 골드도 2018년과 2020년에 공격받았어요.
방어는 결국 "공격 비용 > 공격 이익"을 만드는 것. 거대한 해시파워나 스테이킹 규모, 그리고 거래소의 충분한 컨펌 대기 시간이 방패예요.

② 시빌(Sybil) 공격

가짜 신분을 대량으로 만들어 네트워크를 장악하려는 공격이에요. PoW와 PoS는 투표권을 '계정 수'가 아니라 연산력이나 예치 자산에 묶어서 이걸 근본적으로 막아요. 가짜 계정 만 개 만들어봤자 표는 늘지 않거든요.

③ 이클립스(Eclipse) 공격

특정 노드의 P2P 연결을 공격자 노드로만 채워서 고립시키는 공격이에요. 피해 노드는 공격자가 보여주는 가짜 세상만 보게 되죠. 2015년 학계 연구(Heilman 등)로 비트코인 노드의 취약성이 알려진 뒤, 피어 선택 로직 개선, 아웃바운드 연결 다양화 등의 대책이 비트코인 코어에 반영됐어요.

④ 셀피시 마이닝(Selfish Mining)

채굴한 블록을 바로 공개하지 않고 숨겨두다가 전략적으로 풀어 정직한 채굴자의 노력을 헛수고로 만드는 전략이에요. 2013년 Eyal과 Sirer의 연구는 과반이 아니어도 일정 조건에서 이 전략이 이득일 수 있음을 보여줘 "51% 미만이면 무조건 안전"이라는 통념에 경종을 울렸어요.

⑤ 장거리 공격과 Nothing-at-Stake (PoS 특유)

PoS에서는 블록 생성에 비용이 거의 안 들어서 여러 갈래 체인에 동시에 투표하거나, 오래전 키를 사들여 과거부터 체인을 새로 쓰는 문제가 이론적으로 존재해요. 그래서 슬래싱, 최종성 체크포인트, 약한 주관성(weak subjectivity) 체크포인트 같은 장치를 둡니다.

🧨 7. 진짜 사고는 '체인 바깥'에서 터진다

재밌는 사실 하나. 비트코인 프로토콜 자체가 해킹당해 장부가 조작된 적은 없지만, 블록체인 업계 해킹 피해는 매년 수조 원 규모예요. 대부분 스마트 컨트랙트, 브리지, 키 관리, 거래소에서 터졌어요.

재진입 공격이 뭔지 간단히 보면, 출금 함수가 잔액을 0으로 만들기 전에 외부로 돈을 보내면 공격자 컨트랙트가 그 사이에 출금 함수를 다시 호출해 반복 인출하는 거예요.

// 취약한 패턴 (Solidity)
function withdraw() public {
    uint amount = balances[msg.sender];
    (bool ok, ) = msg.sender.call{value: amount}(""); // 먼저 송금
    require(ok);
    balances[msg.sender] = 0;                          // 나중에 차감 ❌
}

// 안전한 패턴: Checks-Effects-Interactions
function withdraw() public {
    uint amount = balances[msg.sender];
    require(amount > 0);                // Checks
    balances[msg.sender] = 0;           // Effects
    (bool ok, ) = msg.sender.call{value: amount}(""); // Interactions
    require(ok);
}

그래서 실무에선 CEI 패턴, ReentrancyGuard, 정적 분석 도구(Slither 등), 퍼징, 형식 검증(Formal Verification), 외부 감사, 버그 바운티를 겹겹이 씁니다. 스마트 컨트랙트는 배포 후 고치기 어려운 '돌에 새긴 코드'라서 테스트가 곧 생명이에요.

🏗️ 8. 분산 원장 시스템, 직접 설계한다면?

이제 설계자 모자를 써볼게요. 분산 원장을 설계할 땐 "어떤 체인이 최고냐"보다 "우리 문제에 무엇이 맞냐"가 핵심이에요.

🧭 Step 1. 네트워크 형태 결정

⚖️ Step 2. 블록체인 트릴레마 받아들이기

비탈릭 부테린이 대중화한 개념으로, 탈중앙성·보안성·확장성 세 가지를 동시에 극대화하기 어렵다는 거예요. 비트코인은 초당 처리량을 희생하고 탈중앙성과 보안을 택했고, 일부 고성능 체인은 검증자 수를 줄이는 대신 속도를 얻었죠.

이 한계를 넘으려는 대표 해법이 레이어2예요. 메인 체인(L1)은 보안과 최종 정산을 맡고, 거래 처리는 바깥에서 묶어서 하는 거죠.

이더리움은 2024년 3월 덴쿤(Dencun) 업그레이드에서 EIP-4844(프로토-댕크샤딩)로 '블롭(blob)' 데이터 공간을 도입해 롤업의 데이터 게시 비용을 크게 낮췄어요.

🧱 Step 3. 데이터 모델 선택: UTXO vs 계정

🔏 Step 4. 프라이버시와 키 관리 설계

퍼블릭 체인은 모든 기록이 공개돼요. 주소가 실명은 아니지만 분석으로 추적 가능한 가명성일 뿐이죠. 민감한 데이터는 체인에 원본을 올리지 말고 해시만 기록(앵커링)하고 원본은 오프체인에 두는 게 정석이에요. 이렇게 하면 개인정보 삭제 요구 같은 규제와 '수정 불가능한 장부' 사이의 충돌도 줄일 수 있어요.
더 강력한 기밀성이 필요하면 영지식 증명(zk-SNARK, zk-STARK), Hyperledger Fabric의 채널·프라이빗 데이터 컬렉션 같은 기능을 활용해요. 키 관리는 HSM(하드웨어 보안 모듈), 멀티시그, MPC(다자간 연산) 지갑으로 '키 하나가 털리면 끝'인 구조를 피하는 게 핵심입니다. Ronin 사건이 바로 이 원칙을 어긴 대가였죠.

🔮 Step 5. 오라클과 외부 연결

블록체인은 바깥 세상(환율, 날씨, 경기 결과)을 스스로 알 수 없어요. 이걸 가져오는 다리가 오라클인데, 오라클이 거짓 데이터를 주면 아무리 튼튼한 체인도 무력해져요. 이를 오라클 문제라 하고, 여러 독립 소스를 집계하는 탈중앙 오라클(예: Chainlink), 시간가중평균가격(TWAP) 등으로 가격 조작 위험을 줄여요. 디파이(DeFi)에서 플래시 론을 이용한 가격 조작 공격이 여러 번 있었던 만큼 꼭 챙겨야 할 설계 포인트예요.

🧠 9. 정보 지능공학 관점에서 본 블록체인

정보 지능공학은 데이터를 수집·처리·판단하는 지능형 시스템을 다루는 분야예요. 여기서 블록체인은 "신뢰할 수 있는 데이터의 출처"라는 역할로 점점 중요해지고 있어요.

또 하나 놓치면 안 되는 이슈가 양자 컴퓨팅이에요. 충분히 큰 양자 컴퓨터가 등장하면 쇼어 알고리즘으로 ECDSA 같은 타원곡선 서명이 위협받을 수 있어요. 미국 NIST는 2024년 8월 ML-KEM, ML-DSA, SLH-DSA 등 양자 내성 암호(PQC) 표준을 공식 발표했고, 블록체인 커뮤니티에서도 서명 체계 전환 방안이 활발히 연구되고 있어요. 해시 함수는 그로버 알고리즘의 영향을 받더라도 상대적으로 덜 치명적이라고 평가돼요.

✅ 10. 설계자를 위한 보안 체크리스트

블록체인 개발, 스마트 컨트랙트 감사, 기술 문서 작성처럼 전문성이 필요한 일은 혼자 다 하기 어려워요. 이럴 땐 재능넷 같은 재능 공유 플랫폼에서 관련 분야 전문가의 도움을 받는 것도 현실적인 방법이에요. 반대로 이 분야를 깊게 공부했다면 그 지식 자체가 훌륭한 재능이 되기도 하고요. 😉

🎯 마무리: 블록체인 보안은 '레고 성'이다

📚 참고 자료

Satoshi Nakamoto, "Bitcoin: A Peer-to-Peer Electronic Cash System" – https://bitcoin.org/bitcoin.pdf
Ethereum.org, "The Merge" – https://ethereum.org/en/roadmap/merge/
Ethereum.org, "Proof-of-stake (PoS)" – https://ethereum.org/en/developers/docs/consensus-mechanisms/pos/
Ethereum.org, "Danksharding / EIP-4844" – https://ethereum.org/en/roadmap/danksharding/
NIST, "NIST Releases First 3 Finalized Post-Quantum Encryption Standards" (2024) – https://www.nist.gov/news-events/news/2024/08/nist-releases-first-3-finalized-post-quantum-encryption-standards
Castro & Liskov, "Practical Byzantine Fault Tolerance" (OSDI 1999)
Eyal & Sirer, "Majority is not Enough: Bitcoin Mining is Vulnerable" (2013)
Heilman et al., "Eclipse Attacks on Bitcoin's Peer-to-Peer Network" (USENIX Security 2015)