💡 왼쪽 원문을 읽으면서 오른쪽에 따라 써보세요. Tab 키로 힌트를 받을 수 있습니다.

원문 렌더가 준비되기 전까지 텍스트 가이드로 표시합니다.

2026년 마이크로구조: 학계와 트레이딩 데스크가 다시 만난다

2026년 봄, Citadel Securities가 발표한 한 줄짜리 채용 공고 "PhD in stochastic control, no industry experience required"는 마이크로구조 학계가 더 이상 변두리가 아님을 보여준다. Charles-Albert Lehalle의 신간 *High-Frequency and Algorithmic Trading: A Quantitative Approach* 2판이 나오면서 Almgren-Chriss(2001), Avellaneda-Stoikov(2008), Kyle(1985) 같은 고전이 신입 퀀트들의 표준 교재가 되었다. 한국에서는 KRX가 2022년 ETF/ETN 호가단위를 5원에서 1원으로 축소하면서 마이크로구조 데이터의 활용 폭이 넓어졌고, 일본은 JPX가 J-GATE 4.0으로 매칭 엔진 응답을 `<10μs`로 단축했다. 이 글은 LOB 모델링부터 실행 알고리즘, 마켓 메이킹, 시장 충격 모델까지 산업 표준이 된 이론을 코드와 함께 정리한다.

Limit Order Book(LOB)이란 무엇인가

LOB은 매수 측(bid)과 매도 측(ask)의 미체결 주문을 가격별로 쌓아둔 자료구조다. 최우선 매수호가(best bid)와 최우선 매도호가(best ask) 사이의 차이를 스프레드라 부르고, 그 중간이 미드 프라이스(mid price) `S_t`다. KRX의 코스피200 종목은 보통 3호가 이상의 깊이가 표시되고, JPX는 8호가까지 공개된다. NASDAQ ITCH 5.0 피드는 모든 호가 변경을 마이크로초 단위로 publish한다.

LOB 이벤트는 6가지로 분류된다. 신규 지정가 주문(limit order submit), 시장가 주문(market order), 취소(cancel), 정정(modify), 체결(execution), 만료(expiry). 이 이벤트 시퀀스를 모델링하는 것이 마이크로구조의 1차 과제다.

lob.py — 간단한 LOB 자료구조 (가격→큐 매핑)

from sortedcontainers import SortedDict

from collections import deque

from dataclasses import dataclass

@dataclass

class Order:

order_id: int

side: str # 'BID' or 'ASK'

price: int # 틱 단위 정수 (KRX 1틱 = 1원)

size: int

ts_ns: int

class LimitOrderBook:

def __init__(self):

self.bids = SortedDict() # price -> deque[Order]

self.asks = SortedDict()

self.orders = {} # order_id -> Order

def submit(self, o: Order):

book = self.bids if o.side == 'BID' else self.asks

if o.price not in book:

book[o.price] = deque()

book[o.price].append(o)

self.orders[o.order_id] = o

def cancel(self, order_id: int):

o = self.orders.pop(order_id, None)

if not o:

return

book = self.bids if o.side == 'BID' else self.asks

book[o.price].remove(o)

if not book[o.price]:

del book[o.price]

def best_bid(self):

return self.bids.peekitem(-1)[0] if self.bids else None

def best_ask(self):

return self.asks.peekitem(0)[0] if self.asks else None

def mid_price(self):

b, a = self.best_bid(), self.best_ask()

return (b + a) / 2 if b and a else None

큐 위치(queue position) 동학과 FIFO 매칭

대부분의 거래소(KRX, JPX, NYSE, NASDAQ)는 가격-시간 우선(price-time priority) FIFO 매칭을 쓴다. 같은 가격에서 먼저 들어온 주문이 먼저 체결된다. 따라서 마켓 메이커에게 큐 위치는 옵션 가치다. 큐 앞쪽에 있다는 것은 "원할 때 시장가로 빠져나오기 전에 체결될 확률"이 높다는 뜻이다.

큐 위치 동학은 Cont-Stoikov-Talreja(2010)가 출생-사망 과정(birth-death process)으로 모델링했다. 1호가 큐의 길이 `L_t`는 신규 지정가가 도착하면 +1, 큐 앞쪽에서 체결/취소가 일어나면 -1로 변한다. 첫 번째 통과 시간(first passage time)이 핵심 지표다.

Hawkes 점과정으로 LOB 이벤트 모델링

지정가 도착, 시장가 도착, 취소 같은 이벤트는 단순 Poisson이 아니라 "이벤트 후 또 이벤트가 일어날 확률이 높아지는" 자기여기(self-exciting) 성질을 갖는다. Hawkes 프로세스가 표준 도구다. 강도 함수 `λ(t)`는 다음과 같다.

hawkes.py — 단변량 Hawkes 프로세스 시뮬레이션

lambda(t) = mu + sum_{t_i < t} alpha * exp(-beta * (t - t_i))

def simulate_hawkes(T: float, mu: float, alpha: float, beta: float, seed=0):

assert alpha < beta, "안정성 조건: alpha/beta < 1"

rng = np.random.default_rng(seed)

events = []

t = 0.0

lam_bar = mu # thinning을 위한 상한

while t < T:

u = rng.uniform()

w = -np.log(u) / lam_bar

t = t + w

if t >= T:

break

실제 강도 계산

lam = mu + sum(alpha * np.exp(-beta * (t - ti)) for ti in events)

d = rng.uniform()

if d * lam_bar <= lam:

events.append(t)

lam_bar = lam + alpha # 점프 후 강도 상한 갱신

return np.array(events)

events = simulate_hawkes(T=60.0, mu=0.5, alpha=0.4, beta=1.0, seed=42)

print(f"60초간 이벤트 {len(events)}개, 평균 강도 {len(events)/60:.2f}/s")

다변량 Hawkes(매수 이벤트가 매도 이벤트를 유발 등)는 Bacry-Mastromatteo-Muzy(2015)가 정리했다. 산업에서는 Hawkes를 단순 신호로 쓰고, 더 깊은 모델은 신경망(Deep Hawkes, Transformer 기반 마크 시퀀스)으로 대체하는 추세다.

Kyle(1985) 모델과 정보 비대칭

Albert Kyle의 1985년 *Econometrica* 논문 "Continuous Auctions and Insider Trading"은 마이크로구조의 출발점이다. 정보 보유자(informed trader), 잡음 거래자(noise traders), 마켓 메이커(MM) 3자가 등장한다. MM은 총 주문 흐름 `y = x + u`를 본다. 여기서 `x`는 정보 보유자의 거래량, `u`는 잡음. MM은 베이지언 업데이트로 자산 가치 `v`를 추론하고, 가격을 `p = μ + λy`로 설정한다.

핵심 결과: Kyle 람다 `λ = σ_v / (2 σ_u)`. 즉 자산 변동성이 클수록, 잡음 거래량이 작을수록 가격이 주문 흐름에 더 민감해진다. `λ`는 시장 충격의 측정치이자, 정보 비대칭의 측정치다.

Glosten-Milgrom(1985) 역선택 모델

같은 해 발표된 Glosten-Milgrom의 *Journal of Financial Economics* 논문은 호가 기반 모델이다. MM은 매수 호가 `b`와 매도 호가 `a`를 사전 설정한다. 정보 보유자가 매수하면 자산 가치가 더 높다는 신호, 매도하면 더 낮다는 신호. MM은 영업이익 0 조건에서 `a > E[v|매수], b < E[v|매도]`로 호가를 그어야 손실을 피할 수 있다. 이것이 스프레드의 역선택(adverse selection) 컴포넌트다.

스프레드의 3가지 분해: HRT, MRT, AS

Stoll(1989)과 Huang-Stoll(1997)은 관측된 스프레드를 3가지로 분해한다.

- 주문 처리 비용(order processing): 클리어링, 거래소 수수료 — 사실상 상수

- 재고 비용(inventory): MM이 원치 않는 포지션을 떠안을 위험 (Stoll 1978의 inventory model)

- 역선택 비용(adverse selection): Glosten-Milgrom 컴포넌트

GMM 회귀로 세 성분의 비율을 추정한 결과, 미국 NYSE 대형주는 역선택이 약 40%, 재고가 15%, 처리가 45% 정도 (Huang-Stoll 1997 기준). 한국 KOSPI200 종목은 IBK경제연구소 2023년 분석에 따르면 역선택 비중이 30% 내외로 알려졌다.

Avellaneda-Stoikov(2008) 마켓 메이킹

Marco Avellaneda와 Sasha Stoikov는 2008년 *Quantitative Finance*에서 "High-frequency Trading in a Limit Order Book"을 발표했다. MM의 효용 함수를 `U(x) = -exp(-γ x)`로 두고, 최적 매수/매도 호가를 동적계획법으로 구한다. 결과 공식은 산업 표준이 되었다.

핵심: 미드 프라이스에서 떨어진 reservation price `r`와 최적 스프레드 `δ_a + δ_b`.

avellaneda_stoikov.py — AS 마켓 메이킹 견적

def as_quotes(S, q, t, T, sigma, gamma, k):

"""

S: 미드 프라이스

q: 현재 재고 (양수=롱)

t: 현재 시간 (잔여시간 T - t)

sigma: 미드 프라이스 변동성

gamma: 위험회피 (risk aversion)

k: 시장가 도착 강도 파라미터 (lambda(delta) = A * exp(-k * delta))

"""

tau = T - t

reservation price: 재고가 양수면 매도 쪽으로 호가를 당긴다

r = S - q * gamma * sigma**2 * tau

최적 스프레드

spread = gamma * sigma**2 * tau + (2 / gamma) * np.log(1 + gamma / k)

bid = r - spread / 2

ask = r + spread / 2

return bid, ask, r

bid, ask, r = as_quotes(S=100.0, q=5, t=0.0, T=1.0, sigma=2.0, gamma=0.1, k=1.5)

print(f"reservation={r:.3f}, bid={bid:.3f}, ask={ask:.3f}")

해석: 재고 `q`가 양수면 reservation price가 미드 아래로 내려가므로 매도 측 호가가 더 공격적이 된다. 즉 "이미 사뒀으니 빨리 팔자"가 자동으로 구현된다. `γ`(위험회피)가 크면 스프레드가 넓어진다.

Cartea-Jaimungal 확장과 산업 적용

학계의 AS 모델은 단순화 가정(상수 강도, 무한 마감 등)이 많다. Álvaro Cartea와 Sebastian Jaimungal이 *Algorithmic and High-Frequency Trading*(2015)에서 시간-변동 강도, 가격 점프, 일중 패턴을 포함하도록 확장했다. Optiver와 Jump Trading 같은 마켓 메이커는 AS의 reservation price 개념은 그대로 두고, 강도 함수만 데이터로 교체하는 식으로 산업화한다.

Almgren-Chriss(2001) 최적 실행

Robert Almgren과 Neil Chriss의 2001년 *Journal of Risk* 논문 "Optimal Execution of Portfolio Transactions"는 실행 알고리즘의 표준이다. 매니저가 `X` 주를 `T` 시간 안에 청산해야 한다. 너무 빨리 팔면 시장 충격이 크고, 너무 천천히 팔면 가격 변동성에 노출된다.

가격 동학: `S_t = S_0 + σ W_t - γ (X - x_t) - η (dx_t/dt)`. 여기서 `γ`는 영구 충격, `η`는 일시 충격 계수. 목적함수는 `E[비용] + λ Var[비용]` 최소화.

해는 hyperbolic sine/cosine 형태로 닫힌 해가 나온다. 위험회피 `λ`가 0이면 TWAP(시간 비례 분할), `λ`가 무한대면 즉시 청산.

almgren_chriss.py — 최적 실행 경로

def ac_trajectory(X, T, N, sigma, eta, gamma, lam):

"""

X: 총 청산량

T: 청산 마감 시간

N: 분할 횟수

sigma: 가격 변동성

eta: 일시 충격 계수

gamma: 영구 충격 계수

lam: 위험회피 (lambda)

"""

tau = T / N

eta_tilde = eta - 0.5 * gamma * tau

kappa_sq = lam * sigma**2 / eta_tilde

kappa = np.sqrt(kappa_sq) if kappa_sq > 0 else 1e-9

times = np.arange(N + 1) * tau

x_k = sinh(kappa * (T - t_k)) / sinh(kappa * T) * X

x = np.sinh(kappa * (T - times)) / np.sinh(kappa * T) * X

trades = -np.diff(x) # 각 구간 매도량

return times, x, trades

t, x, trades = ac_trajectory(X=1_000_000, T=1.0, N=20,

sigma=0.02, eta=2.5e-7, gamma=2.5e-8, lam=2e-6)

print(f"첫 구간 매도={trades[0]:.0f}, 마지막={trades[-1]:.0f}")

`lam`이 작을수록 거의 균등 분할(TWAP), 클수록 앞부분에 몰아서 청산. Goldman Sachs SIGMA X, JPM Aqua 같은 다크 풀의 실행 알고리즘은 AC를 골격으로 깐다.

VWAP, TWAP, Implementation Shortfall

산업에서 가장 흔한 실행 알고리즘은 3가지다.

- TWAP(Time-Weighted Average Price): 시간을 N등분해서 균등 거래. AC에서 `λ → 0`.

- VWAP(Volume-Weighted Average Price): 과거 일중 볼륨 프로파일을 따라 거래. U자형 분포.

- IS(Implementation Shortfall): Perold(1988)가 정의한 "결정 시점 가격 vs 실제 평균 체결가" 차이를 최소화. AC가 IS 최소화의 폐쇄 해.

| 알고리즘 | 벤치마크 | 위험 | 적합 |

|---------|---------|------|-----|

| IS | 결정시점 미드 | 변동성 | 알파 있는 단기 시그널 |

시장 충격 모델: Square-Root Law

Almgren-Thum-Hauptmann-Li(2005)와 Bouchaud 그룹의 측정은 시장 충격이 거래량의 제곱근에 비례한다고 보고했다. `I = Y σ √(V/V_daily)`. `Y`는 약 0.5–1, σ는 일일 변동성. 이 square-root law는 ITG, Virtu, Citi의 TCA(transaction cost analysis) 리포트에서 거의 그대로 쓰인다.

선형 Kyle 람다와 제곱근 법칙이 동시에 맞을 수 있는 이유는 시간 척도가 다르기 때문이다. Kyle은 한 시점의 marginal impact, square-root는 전체 메타주문(meta-order)의 누적 impact다.

단기 알파와 시그널 감쇠(alpha decay)

마이크로 알파는 보통 수십초에서 수분 이내 감쇠한다. 평균 회귀(mean reversion) 시그널은 1–5분 horizon, 모멘텀은 5–30분이 흔하다. Penalva-Cartea-Jaimungal은 OFI(Order Flow Imbalance)를 가장 강력한 단기 시그널로 분류했다.

ofi.py — Order Flow Imbalance 신호

def ofi(book_snapshots):

"""연속된 호가 스냅샷에서 OFI 계산.

bid_size 증가 → 매수 압력, ask_size 증가 → 매도 압력

"""

ofi_series = []

for i in range(1, len(book_snapshots)):

prev, cur = book_snapshots[i - 1], book_snapshots[i]

dbid = 0

if cur.bid_price > prev.bid_price:

dbid = cur.bid_size

elif cur.bid_price == prev.bid_price:

dbid = cur.bid_size - prev.bid_size

else:

dbid = -prev.bid_size

dask = 0

if cur.ask_price < prev.ask_price:

dask = cur.ask_size

elif cur.ask_price == prev.ask_price:

dask = cur.ask_size - prev.ask_size

else:

dask = -prev.ask_size

ofi_series.append(dbid - dask)

return ofi_series

OFI를 미래 미드 변화에 회귀하면 보통 R제곱 0.05–0.15가 나오는데, HFT 세계에서는 충분히 활용 가능한 신호다.

다크 풀과 숨겨진 유동성

NYSE/NASDAQ의 라이트 마켓 외에 다크 풀(IEX, ICAP, MS POOL 등)이 미국 거래량의 약 15%를 차지한다. 다크 풀의 핵심은 정보 누설(information leakage)을 줄이는 것이고, 미드 매칭(midpoint match)이 가장 흔하다. IEX의 350μs speed bump는 마이크로구조 측면에서 흥미로운 실험이었다.

빙산 주문(iceberg order)은 라이트 마켓에서 일부만 표시하고 나머지를 숨기는 주문이다. KRX는 빙산 주문을 공식 지원하지 않고, JPX는 ToSTNeT-2의 대량매매를 통해 비슷한 효과를 낸다. NYSE와 NASDAQ은 reserve order, hidden order, midpoint peg 등 다양한 형태를 제공한다.

백테스트 함정: 룩어헤드와 생존편향

마이크로 전략의 백테스트는 일반 일봉 전략보다 함정이 훨씬 많다.

- 룩어헤드(lookahead): 같은 타임스탬프 안에 여러 이벤트가 있으면 순서가 모호하다. ITCH/OUCH 메시지 시퀀스 번호로 엄격히 정렬해야 한다.

- 부분 체결 무시: 1000주 주문이 200+800으로 분할 체결되는 현실을 무시하면 비용 추정이 빗나간다.

- 시장가 영향(self impact): 백테스트에서 자기 주문이 호가에 영향을 안 준다고 가정하면 결과가 과장된다.

- 생존편향(survivorship): 상장폐지 종목 데이터를 빼면 전략 성과가 부풀려진다. CRSP 데이터는 폐지 종목 포함, FactSet도 옵션 제공.

- 캘린더 효과: 옵션 만기일, 지수 리밸런싱, MSCI 편입 발표일 등 비반복적 이벤트는 별도 처리.

TAQ 틱 데이터와 KRX, JPX 데이터 환경

뉴욕 NYSE TAQ(Trade and Quote)는 1993년부터 모든 체결과 호가를 publish한다. 2026년 TAQ Premium은 마이크로초 타임스탬프와 MDF 포맷 모두 지원. 한국은 KRX 마이크로데이터센터가 종목별 호가 스냅샷과 체결 데이터를 제공하고, FnGuide와 한국증권연구원에 가공 데이터가 있다. 일본은 JPX 자회사 JPX-R&T가 ToSTNeT 거래까지 포함한 풀데이터를 라이선스로 판매한다.

한국 시장 미시구조 특이점

KRX는 정규시간 09:00–15:30, 동시호가 처리 시간이 따로 있다. 시가 동시호가(08:30–09:00)와 종가 동시호가(15:20–15:30)에서는 가격-수량-시간 우선 원칙이 다르게 적용된다. 또한 한국은 LP(Liquidity Provider) 제도를 운영해 ETF/ETN/ELW에 의무 호가를 부과한다. LP는 일정 스프레드 내 호가를 제출해야 하고, 그 대가로 거래세 면제 혜택을 받는다. 2022년 호가단위 축소(5원→1원, 일부 종목)는 스프레드를 약 30% 줄였지만 메이커 수익성도 같이 줄였다고 알려졌다.

일본 시장 미시구조 특이점

JPX 도쿄 증권거래소는 J-GATE 매칭 엔진의 4세대를 2024년 도입해 응답 지연을 `<10μs`로 단축했다. ToSTNeT은 정규 매칭 외 대량매매와 시간외 거래에 쓰인다. 일본 특유의 "板寄せ(itayose)" 동시호가 방식은 한국 동시호가와 유사하지만 매칭 가격 결정 로직이 다르다. 일본은 또한 거래소 직접 연결(co-location) 서비스를 arrowhead 단지에서 제공한다.

마켓 메이커 P&L 분해: 스프레드 vs 재고 리스크

MM의 일일 P&L은 두 항으로 분해된다.

- 스프레드 수익: `Σ (체결가 - 미드) × 거래량` — 항상 양수가 되도록 호가

- 재고 P&L: `q_t × (S_T - S_0)` — 재고가 미드 변화에 노출된 손익

AS 모델은 두 항의 균형을 잡는다. 위험회피 `γ`가 작으면 스프레드 수익이 크지만 재고 P&L 분산도 크다. 산업의 실제 MM은 일중 마감 재고 0(flat by close)을 강력하게 강제한다.

적대적 환경: 토픽스 200ms 휴면과 spoofing 규제

마이크로구조는 적대적이다. 2010년 Flash Crash 이후 SEC는 spoofing(거짓 호가 후 즉시 취소)을 명시적으로 금지했다. 2014–2016년 Navinder Sarao와 Michael Coscia 사건이 대표적. 한국 자본시장법 178조도 spoofing을 시세조종으로 다룬다. 학계 측에서는 Cont와 De Larrard가 "Order Book Dynamics in Liquid Markets"(2013)에서 취소율과 미체결율을 정상적인 마이크로구조 특성으로 보여줬다.

학계-산업 모델 비교표

|------|----------|----------------|----------|

KR vs JP 시장 구조 비교

| 항목 | KRX(한국) | JPX(일본) |

|------|----------|-----------|

| 정규 시간 | 09:00–15:30 | 09:00–11:30, 12:30–15:30 |

| 동시호가 | 시가/종가 동시호가 | 板寄せ(itayose) |

| 매칭 엔진 | EXTURE+ | arrowhead 4.0(`<10μs`) |

| 호가단위 | 1원 단위(2022 축소) | 銘柄별 차등 |

| LP 제도 | ETF/ETN/ELW 의무 호가 | Market Maker 권장제 |

| 다크 풀 | 사실상 부재 | ToSTNeT-2 대량매매 |

| 데이터 | KRX 마이크로데이터센터 | JPX-R&T 라이선스 |

결론: 모델은 견적이고, 실행은 코드다

마이크로구조 모델은 무거운 수식 뒤에 단순한 직관을 숨기고 있다. Kyle 람다는 "주문 흐름이 가격을 얼마나 움직이는가", Avellaneda-Stoikov는 "재고 위험을 호가에 어떻게 반영하는가", Almgren-Chriss는 "시장 충격과 변동성을 어떻게 거래하는가"다. 2026년 산업의 차이는 모델 자체가 아니라, 모델을 굴리는 데이터 파이프라인, 매칭 엔진과의 지연, 그리고 시그널 감쇠 속에서 알고리즘을 매분 재보정하는 운영 능력에 있다. 학계와 데스크가 다시 만난 자리에서, 핵심은 여전히 호가창을 보는 눈이다.

References

- Kyle, A.S. (1985). "Continuous Auctions and Insider Trading." *Econometrica* 53(6): 1315–1335.

- Glosten, L.R., Milgrom, P.R. (1985). "Bid, Ask and Transaction Prices in a Specialist Market with Heterogeneously Informed Traders." *Journal of Financial Economics* 14(1): 71–100.

- Almgren, R., Chriss, N. (2001). "Optimal Execution of Portfolio Transactions." *Journal of Risk* 3(2): 5–39.

- Avellaneda, M., Stoikov, S. (2008). "High-Frequency Trading in a Limit Order Book." *Quantitative Finance* 8(3): 217–224.

- Stoll, H.R. (1989). "Inferring the Components of the Bid-Ask Spread: Theory and Empirical Tests." *Journal of Finance* 44(1): 115–134.

- Huang, R.D., Stoll, H.R. (1997). "The Components of the Bid-Ask Spread: A General Approach." *Review of Financial Studies* 10(4): 995–1034.

- Cont, R., Stoikov, S., Talreja, R. (2010). "A Stochastic Model for Order Book Dynamics." *Operations Research* 58(3): 549–563.

- Bacry, E., Mastromatteo, I., Muzy, J.-F. (2015). "Hawkes Processes in Finance." *Market Microstructure and Liquidity* 1(1).

- Almgren, R., Thum, C., Hauptmann, E., Li, H. (2005). "Direct Estimation of Equity Market Impact." *Risk* magazine, July 2005.

- Cartea, A., Jaimungal, S., Penalva, J. (2015). *Algorithmic and High-Frequency Trading*. Cambridge University Press.

- Lehalle, C.-A., Laruelle, S. (2018, 2026 2판). *Market Microstructure in Practice*. World Scientific.

- Bouchaud, J.-P., Bonart, J., Donier, J., Gould, M. (2018). *Trades, Quotes and Prices: Financial Markets Under the Microscope*. Cambridge University Press.

- Cont, R., De Larrard, A. (2013). "Price Dynamics in a Markovian Limit Order Market." *SIAM Journal on Financial Mathematics* 4(1): 1–25.

- Perold, A.F. (1988). "The Implementation Shortfall: Paper Versus Reality." *Journal of Portfolio Management* 14(3): 4–9.

- NASDAQ TotalView-ITCH 5.0 Specification: https://www.nasdaqtrader.com/content/technicalsupport/specifications/dataproducts/NQTVITCHSpecification.pdf

- KRX 시장 운영 규정: http://regulation.krx.co.kr/

- JPX arrowhead 시스템 백서: https://www.jpx.co.jp/english/equities/trading/domestic/