Skip to content
Published on

HFT(고빈도매매) 회사 2026 심층 분석 — Citadel Securities, Two Sigma, Jane Street, Optiver, Jump, Virtu, IMC, Tower 완전 정복

🇰🇷KO🇺🇸EN🇯🇵JA
Split View필사 모드
Authors

프롤로그 — <10ns 의 세계로

2026년 시카고 상품거래소(CME)에서 뉴저지 NY4 데이터센터까지 마이크로웨이브 무선 한 흡(hop)에 걸리는 시간은 약 4.7ms, 광섬유는 7.2ms 다. 이 2.5ms 차이를 잡으려고 일리노이 옥수수밭에 수십 미터 높이의 안테나 탑이 줄지어 서 있다. 안테나를 운영하는 회사는 Jump Trading의 자회사 World Class Wireless, McKay Brothers, New Line Networks. 임대료는 한 노선당 연 $10M 이 넘는다.

거래소 내부로 들어가면 시간 단위가 또 한 번 바뀐다. CME Globex의 매칭 엔진 평균 응답은 ~10μs, 거래소 게이트웨이까지 왕복 <100μs. HFT 회사는 자체 FPGA로 이 시간을 다시 한 자릿수 마이크로초로 줄인다. Optiver의 Verilog 팀이 만든 옵션 시세 생성기는 <500ns 안에 신규 호가에 반응한다. Hudson River Trading의 매칭 엔진 시뮬레이터는 <10ns 단위로 자료구조를 정렬한다.

이 글은 그 산업의 지형도다. Citadel Securities, Two Sigma, Jane Street, Optiver, Jump, Virtu, IMC, Tower, Hudson River, Flow Traders, DRW — 그리고 한국의 NH투자증권 알고리즘 본부, 미래에셋 자동매매, 키움증권, 일본의 野村 / 三菱 UFJ / SBI / 大和 의 알고리즘 데스크까지 묶어서 본다.

1. HFT란 무엇인가 — 정의와 오해

HFT(High-Frequency Trading)는 단일 전략이 아니라 "마이크로초 단위 의사결정 + 자동 주문 라우팅 + 자기자본 거래" 의 결합을 일컫는 용어다. SEC는 2014년 보고서에서 HFT를 다음 네 가지 특징으로 정의했다.

특징설명
자기자본고객 자금이 아니라 회사 자기자본으로 거래
매우 짧은 보유일중(intraday), 종종 수 밀리초 단위
빈번한 주문/취소체결률 1% 미만이 흔함
직접 시장 접근DMA + 코로케이션 + 사설 회선

자주 혼동되는 것이 알고리즘 매매(algo trading) 와의 차이다. 알고리즘 매매는 골드만/모간/UBS의 VWAP/TWAP/IS 같은 실행 전략까지 포함하는 넓은 개념이고, HFT는 그중 자기자본 + 초저지연 + 단기 보유의 부분집합이다. 한국에서 "알고리즘 매매" 로 통칭되는 것 중 NH투자증권 ETF LP, 미래에셋 차익거래는 정확히는 HFT 범주에 들어간다.

2. 시장 마이크로스트럭처 — LOB, tick size, queue priority

HFT의 모든 전략은 지정가 호가창(Limit Order Book, LOB) 위에서 동작한다. LOB는 가격-시간 우선순위(price-time priority)로 정렬된 매수/매도 호가의 큐다. 가격이 같으면 먼저 들어온 주문이 먼저 체결된다.

ASK SIDE              BID SIDE
$100.05 |  500        $99.95 | 1000
$100.04 | 1200        $99.94 |  800
$100.03 |  300        $99.93 | 2500   <-- best bid
$100.02 |  800   <-- best ask
spread = $100.02 - $99.93 = $0.09 (9 ticks @ tick=$0.01)

핵심 변수는 세 가지.

  • Tick size. 미국 주식은 $0.01 (1센트)가 기본, 1달러 미만 종목은 $0.0001. 2024년 SEC가 도입한 변동 틱(variable tick)으로 일부 ETF가 $0.005 로 줄어들었다.
  • Queue priority. 같은 가격대에서 큐의 앞쪽일수록 체결 확률이 높다. HFT는 가격이 한 틱 움직일 때 즉시 새 가격의 큐 맨 앞에 들어가려고 경쟁한다.
  • Order types. Limit, Market, IOC, FOK, Hidden, Iceberg, Peg, Mid-point. 거래소마다 차이가 있고, 차이 자체가 차익의 원천이 된다.

3. Citadel Securities — 시장 조성의 최강자

Citadel Securities 는 Ken Griffin이 2002년 시카고에 설립했다. 헤지펀드 Citadel과 법적으로 분리된 시장조성 자회사로, 2024년 매출 $23B, 영업이익 $10B 이상을 기록하며 단일 회사로 미국 증시 거래량의 약 25%, 옵션 시장의 약 30%, 리테일 주문 흐름의 40% 이상을 매개한다.

비즈니스 영역은 크게 네 가지.

  • 미국 주식 시장조성. NYSE/Nasdaq DMM(지정 시장조성자).
  • 미국 옵션 시장조성. CBOE/Nasdaq 옵션 거래소.
  • 리테일 주문 흐름. Robinhood, Charles Schwab, E*TRADE, Webull 등으로부터 PFOF(Payment for Order Flow)로 주문을 흡수.
  • 국채/금리. 미국 재무부 채권의 주요 비은행 마켓메이커.

Citadel Securities의 강점은 자산군 횡단 헤징이다. 같은 회사가 SPY ETF, S&P 500 선물, 그리고 500개 구성 종목 전부를 동시에 시장 조성하므로, ETF의 매수 1주를 만들기 위해 선물 0.5계약과 구성 종목 일부를 한 번에 헤지한다.

4. Jane Street — ETF의 왕, OCaml의 왕

Jane Street 는 1999년 뉴욕에서 출발했다. 2024년 매출 $20B+, 영업이익 약 $14B 추정. 2,500명 규모인데 그중 트레이더와 엔지니어가 70% 이상이고, 별다른 마케팅 없이 컬럼비아/MIT/하버드의 수학·CS 톱티어를 흡수한다.

Jane Street를 다른 회사와 가장 다르게 만드는 두 가지.

  • 미국 ETF 시장조성 1위. SPY, IVV, QQQ 같은 메가 ETF부터 신생 단일 종목 ETF까지 ETF AP(Authorized Participant) 시장의 약 30%를 차지. 비트코인 현물 ETF가 승인된 2024년 초 IBIT/FBTC의 마켓메이커 1위.
  • OCaml. 회사 전체 코드베이스가 OCaml로 작성됐다. 2025년 기준 약 3천만 줄 이상. ETP(Exchange Trade Pad)라는 자체 트레이딩 워크스테이션, 리스크 엔진, 신호 처리 파이프라인 모두 OCaml.
(* Jane Street 스타일 OCaml HFT 의사코드 — 옵션 이론가 vs 시장 *)
open Core
open Async

module Quote = struct
  type t =
    { symbol : string
    ; bid : float
    ; ask : float
    ; bid_size : int
    ; ask_size : int
    ; ts : Time_ns.t
    }
  [@@deriving sexp]
end

let theoretical_price ~spot ~strike ~rate ~vol ~ttm =
  (* Black-Scholes call (간략) *)
  let open Float in
  let d1 = (log (spot / strike) + ((rate + (0.5 * vol * vol)) * ttm))
           / (vol * sqrt ttm) in
  let d2 = d1 - (vol * sqrt ttm) in
  (spot * Cdf.standard_normal d1)
  - (strike * exp (-. rate * ttm) * Cdf.standard_normal d2)

let edge_signal (q : Quote.t) ~theo =
  let mid = (q.bid +. q.ask) /. 2.0 in
  let edge = theo -. mid in
  if Float.abs edge > 0.02 then `Trade edge else `Skip

OCaml 선택의 이유는 자주 인용된다 — "타입 안전성으로 회계 오류를 컴파일 타임에 잡고, 패턴 매칭으로 시장 규약을 표현하기 쉽고, GC가 예측 가능하다." 회사가 자체 OCaml 컴파일러 패치를 메인스트림에 기여하고 있고, MirageOS의 주요 후원자이기도 하다.

5. Two Sigma — 통계와 ML의 회사

Two Sigma 는 2001년 뉴욕에서 설립된 시스템 헤지펀드. 2025년 운용자산 약 $60B+. 창립자 David Siegel은 MIT AI Lab 출신, John Overdeck은 Amazon 부사장 출신이다. 두 사람이 D.E. Shaw에서 만나 분사한 셈.

특징.

  • 분류상은 systematic hedge fund, HFT 회사라기보다는 "중·저빈도 통계 차익" 의 거인. 그러나 시장조성/단기 신호 부문도 운영하므로 광의의 HFT 생태계에 들어간다.
  • 데이터 중심. 위성 이미지, 신용카드 거래, 위치 데이터, 뉴스 감성 분석 등 대체 데이터의 초기 사용자.
  • 엔지니어링 문화. Spark/Kafka 컨퍼런스의 주요 후원자, 자체 ML 인프라(BeakerX, Two Sigma Platform).

Two Sigma는 또한 Two Sigma Securities라는 별도 시장조성 자회사를 가지고 있다. 미국 주식과 옵션의 비은행 마켓메이커로, Citadel/Virtu/Jane Street 다음 가는 4위 권 규모.

6. Optiver — 옵션의 암스테르담

Optiver 는 1986년 암스테르담에서 설립된 자기자본 마켓메이커. 2024년 영업이익 약 $5B+, 직원 2,000명 규모. 본사 외에 시카고, 시드니, 상하이, 타이베이, 뭄바이, 런던 사무소.

전공은 옵션 시장조성이다. 유럽/미국/아시아의 거의 모든 주요 옵션 거래소(Eurex, CBOE, ASX, KRX, OSE, TSE)에 마켓메이커로 등록되어 있다. 2026년 KRX 코스피 200 옵션 시장에서도 비국내 마켓메이커로 거래 점유율 톱5에 든다.

Optiver의 엔지니어링 색깔.

  • C++. 코어 트레이딩 시스템 전체가 C++. 템플릿 메타프로그래밍을 무겁게 사용해 컴파일 타임에 옵션 그릭스 계산을 펼친다(unroll).
  • FPGA 우선. 시카고와 시드니에서 Xilinx FPGA로 옵션 시세 생성을 가속화. <500ns 응답.
  • 수학 채용. 네덜란드 IMO 대표 출신이 즐비. 채용 면접에 카드 카운팅·메달 트레이딩 시뮬레이션이 들어간다.

7. Jump Trading — 시카고의 침묵의 거인

Jump Trading 은 1999년 시카고에서 설립됐다. 정확한 매출은 비공개지만 2024년 추정치 $4-5B. 800-1,000명 규모. 미국 선물(특히 농산물·금속·금리), 미국 채권, FX, 그리고 크립토(Jump Crypto)까지 운영한다.

Jump는 마이크로웨이브 무선 회선 분야의 선구자다. 자회사 World Class Wireless가 시카고-오로라 사이의 무선 회선을 운영하며, 같은 회선을 경쟁사들에게 임대해 큰 수익을 낸다. 시카고 상품거래소(CME)와 뉴저지 데이터센터 사이의 데이터 차익에서 가장 큰 수혜자.

또 하나의 특징은 블록체인 진영의 거인이라는 점이다. Jump Crypto는 Solana의 주요 펀더이자 검증인, Wormhole 브리지의 운영자였다(2022년 해킹 사건에서 약 $320M 의 손실을 자체 자본으로 메웠다).

8. Virtu Financial — 마이클 루이스 책이 바꾼 회사

Virtu Financial 은 2008년 설립되어 2015년 NYSE에 상장했다. 2024년 매출 $2.5B, 영업이익 약 $700M. 시장조성 + 실행 서비스(에이전시 브로커리지) 두 축으로 사업한다.

Virtu가 유명해진 계기는 마이클 루이스의 책 Flash Boys (2014). 책은 IEX의 'Speed Bump' 아이디어를 영웅화하면서 HFT를 다소 부정적으로 묘사했고, Virtu의 IPO를 1년 가까이 지연시켰다. 그러나 책에 묘사된 "HFT는 5년 중 5번만 손해 본 날이 있다" 는 통계는 Virtu의 압도적인 리스크 관리 능력을 오히려 광고했다.

2017년 KCG Holdings를 약 $1.4B 에 인수한 이래 미국 주식 시장조성의 4대 강자(Citadel, Virtu, Jane Street, Two Sigma Securities) 자리를 유지하고 있다.

9. IMC Trading, Tower Research, Hudson River, Flow Traders, DRW

상위 4-5개 회사 외에 다음 군단도 HFT 산업의 기둥이다.

회사본사강점매출 추정 (2024)
IMC Trading암스테르담옵션 시장조성, 유럽 ETF$2B+
Tower Research Capital뉴욕통계 차익, FX, 한국·인도 진출비공개
Hudson River Trading뉴욕미국 주식 28% 시장 점유 (자체 발표)$3-4B
Flow Traders암스테르담ETF 시장조성, 크립토 ETP$500M-1B
DRW시카고선물·금리·크립토, Cumberland비공개
Tower Research뉴욕한국 KRX/일본 OSE 진입비공개
  • IMC는 Interactive Brokers 창립자(Thomas Peterffy)와 같은 암스테르담 옵션 마켓메이커 계보. 시카고/시드니/뭄바이에 큰 거점.
  • Tower Research는 한국 KRX, 인도 NSE, 일본 OSE에 일찍부터 진출한 회사. 2010년대 한국 시장조성 외인 점유율 1위 시기가 있었다.
  • Hudson River Trading은 미국 주식 거래량의 5-10%를 처리한다고 자체 발표. 채용에서 카네기멜런/MIT/스탠퍼드 출신 비중이 압도적.
  • Flow Traders는 유럽 ETF + 크립토 ETP의 양대 마켓메이커. 2024년 비트코인 ETF 출시 후 매출 급증.
  • DRW는 채권/선물 + Cumberland(크립토 OTC). 시카고 자기자본 회사 중 가장 다각화됐다.

10. Latency Arbitrage — 시간차의 사업

Latency arbitrage는 같은 자산이 여러 거래소에서 다른 가격으로 잠시 표시되는 시간을 이용한다. SPY ETF가 NYSE Arc에서 $500.01 매도이고 Nasdaq에서 $500.02 매수인 순간이 마이크로초 단위로 존재한다. 이 시차에 NYSE Arc에서 사고 Nasdaq에서 동시에 파는 것이 latency arbitrage.

핵심은 다른 회사보다 먼저 가격 정보를 받아 먼저 주문을 넣는 것. 그래서 회사들은 다음에 천문학적 비용을 쓴다.

  • 거래소 코로케이션 랙 임대(랙당 월 $10K-30K).
  • 거래소 마켓 데이터 직접 피드(예: NYSE Pillar, Nasdaq TotalView, CME MDP 3.0). 동일 데이터를 SIP(Securities Information Processor) 통합 피드보다 수십 마이크로초 먼저 받기 위함.
  • 마이크로웨이브 무선 + ULL(Ultra-Low-Latency) 광섬유.
  • FPGA 게이트웨이로 NIC에서 직접 패킷 처리.

미국 SEC는 latency arbitrage가 비용은 시장조성 비용에 흡수되고 결과적으로 스프레드를 좁힌다는 입장이지만, IEX 같은 거래소는 350μs 스피드 범프로 이를 무력화하려고 시도한다.

11. Statistical Arbitrage — 통계의 차익

Statistical arbitrage는 단일 자산 1개의 비효율이 아니라, 자산 간의 통계적 관계(공적분, 평균 회귀, 페어 트레이딩, 팩터)에 베팅한다. 시간 범위가 마이크로초가 아니라 분~일 단위로 길어지므로 순수 HFT는 아니지만, Two Sigma/Citadel/Jump의 stat-arb 데스크가 모두 HFT 인프라 위에서 동작하므로 함께 다룬다.

전형적인 stat-arb 신호:

  • 공적분 페어. KOSPI 200 미니선물 vs ETF, SPY vs ES 선물.
  • 인덱스 재구성 차익. 러셀 재밸런싱일 ETF AP가 종목을 사야 하므로 미리 사두는 전략.
  • 시즈널리티. 옥수수 선물의 USDA 보고서 발표 직후 패턴.
  • 팩터 로테이션. Fama-French 5 팩터, 모멘텀, 저변동성.
/ kdb+/q 예: 두 종목의 30분 윈도우 공적분 z-score
spread: select time, sym, px from quotes where sym in `KOSPI200`KS200ETF
joined: spread[`KOSPI200] - spread[`KS200ETF]
mu: 30 mavg joined
sigma: 30 mdev joined
z: (joined - mu) % sigma
/ z > 2 -> short joined,  z < -2 -> long joined

kdb+/q는 1993년 Arthur Whitney가 만든 컬럼형 인메모리 DB + 함수형 언어. 골드만/모간/JP모건의 fixed-income 데스크와 거의 모든 HFT 회사가 시계열 분석에 사용한다.

12. ETF Arbitrage — Jane Street, Flow Traders, IMC의 본업

ETF는 "구성 자산의 가격 = NAV(순자산가치)" 라는 등식이 깨질 때 차익이 생긴다. ETF 가격이 NAV보다 비싸면 AP(Authorized Participant) 가 구성 자산을 사들여 새 ETF 주식을 생성(create), NAV보다 싸면 ETF 주식을 환매(redeem)해 구성 자산을 받아 시장에 판다.

이 메커니즘은 ETF가 NAV를 거의 정확히 따르도록 만드는 핵심이고, 마켓메이커에게는 거의 무위험 차익이다. 2024년 비트코인 현물 ETF가 승인되면서 IBIT/FBTC의 AP인 Jane Street, Cantor Fitzgerald, Virtu가 큰 수혜를 봤다.

Jane Street가 ETF 시장의 왕인 이유는 단순하다 — ETF 구성 자산의 종류와 양이 가장 복잡한 ETF(예: EM 채권 ETF, 단일 국가 ETF)일수록 마켓메이커의 인프라가 결정적이고, Jane Street가 그 인프라(OCaml ETP)를 가장 일찍 구축했다.

13. 옵션 마켓메이킹 — Optiver, Citadel, IMC

옵션 시장조성은 주식 마켓메이킹과 다른 종류의 어려움이 있다.

  • 차원이 폭발한다. AAPL 한 종목에 수백 개의 만기, 수백 개의 행사가, 콜/풋 양면 → 수천 개의 호가창. 마켓메이커는 이걸 동시에 가격을 매겨야 한다.
  • 그릭스(Greeks). Delta, Gamma, Theta, Vega, Rho를 실시간으로 계산해 전체 포지션의 리스크를 관리.
  • 변동성 곡면. 행사가별/만기별 내재 변동성을 매끈한 표면(volatility surface)으로 적합시키고, 새 시세가 들어올 때마다 갱신.
  • 소비자 흐름과 시장조성자 흐름의 불균형. SPX 옵션은 시장조성자가 거의 다 받쳐주는 한편, 미투 주식 옵션은 리테일 흐름이 큰 비중.
// C++ 템플릿 메타프로그래밍 — 컴파일 타임 옵션 그릭스
template <typename Greek, int N>
struct Surface {
  std::array<std::array<Greek, N>, N> data;
  constexpr Greek interpolate(double k, double t) const {
    int i = static_cast<int>(k * N);
    int j = static_cast<int>(t * N);
    return data[i][j];
  }
};

template <typename Quote>
inline auto theo(const Quote& q,
                 const Surface<double, 64>& vol_surf) {
  const double k = q.strike / q.spot;
  const double t = q.ttm;
  const double sigma = vol_surf.interpolate(k, t);
  return black_scholes(q.spot, q.strike, q.rate, sigma, q.ttm);
}

Optiver, Citadel, IMC, Susquehanna, CTC가 미국 옵션 시장조성의 톱5. 2026년 KRX 코스피200 옵션 시장에서도 Optiver와 IMC가 상위 외국인 마켓메이커.

14. 코로케이션 + 마이크로웨이브 무선

거래소 데이터센터에 자신의 서버를 놓는 것을 **코로케이션(co-location)**이라고 한다. 주요 거래소의 데이터센터.

  • CME Globex: 일리노이 Aurora, NJ4와 약 1,200km 거리.
  • NYSE Pillar: 뉴저지 Mahwah, NJ.
  • Nasdaq INET: 뉴저지 Carteret, NJ.
  • CBOE: 시카고 + Secaucus.
  • Eurex: 프랑크푸르트 인근 Equinix FR2.
  • KRX: 부산(차세대 차세대 시스템) + 서울 여의도.
  • JPX (도쿄): TSE 자체 데이터센터 + arrowhead 시스템.

코로케이션 랙은 거래소가 평등하게(equidistant) 배선해서 같은 케이블 길이를 보장하지만, 사실 같은 길이는 마이크로초 단위에서 의미가 있다 — 누가 더 빠른 NIC, 더 빠른 매칭 엔진 응답을 받는가가 곧 경쟁력.

마이크로웨이브 무선은 광섬유보다 빛이 직선으로 가서 빠르다. 시카고-NJ 직선 거리에서 광섬유는 빛 속도의 약 67%, 무선은 99% 이상이다. McKay Brothers, Quincy Data, World Class Wireless(Jump 자회사)가 이 회선을 임대한다.

15. FPGA 가속 — Solarflare, AMD Xilinx

CPU는 캐시 미스나 컨텍스트 스위치로 마이크로초 단위의 지터(jitter)가 생긴다. FPGA는 그 지터를 사실상 0으로 만들고, NIC에서 들어온 패킷을 운영체제·커널 스택을 우회해 직접 처리한다.

업계 표준은 두 갈래.

  • Solarflare/Xilinx Onload + ef_vi. Solarflare가 만든 커널 바이패스 라이브러리. 2019년 Xilinx가 인수, 다시 2022년 AMD가 Xilinx 전체를 인수.
  • Mellanox/NVIDIA Connect-X + DPDK. Mellanox는 NVIDIA가 2020년 인수. RoCE(RDMA over Converged Ethernet)로 노드 간 통신.

FPGA는 다음에 사용된다.

  • 마켓 데이터 디코딩. CME MDP 3.0, Nasdaq ITCH 같은 멀티캐스트 피드를 FPGA에서 직접 파싱.
  • 틱-투-트레이드(tick-to-trade). 마켓 데이터 수신 → 신호 판단 → 주문 전송을 FPGA 한 칩에서.
  • 리스크 체크. 거래소에 가기 전에 자기자본 한도, position limit, fat finger 체크.
// 단순화한 매칭 엔진 FPGA 스니펫 (가격 우선)
module match_engine (
  input  wire        clk,
  input  wire [31:0] new_price,
  input  wire [15:0] new_qty,
  input  wire        is_buy,
  output reg  [31:0] trade_price,
  output reg  [15:0] trade_qty,
  output reg         trade_valid
);

  reg [31:0] best_bid, best_ask;
  reg [15:0] bid_qty, ask_qty;

  always @(posedge clk) begin
    trade_valid <= 1'b0;
    if (is_buy && new_price >= best_ask) begin
      trade_price <= best_ask;
      trade_qty   <= (new_qty < ask_qty) ? new_qty : ask_qty;
      trade_valid <= 1'b1;
    end else if (!is_buy && new_price <= best_bid) begin
      trade_price <= best_bid;
      trade_qty   <= (new_qty < bid_qty) ? new_qty : bid_qty;
      trade_valid <= 1'b1;
    end
  end
endmodule

Optiver, Jump, Hudson River, IMC, DRW는 모두 FPGA 엔지니어 수십 명을 보유한다. 채용 시 Verilog/SystemVerilog/Vivado 경험 필수.

16. C++ 템플릿 메타프로그래밍 — 컴파일 타임의 거래소

HFT의 C++ 코드는 일반 C++과 매우 다르다. 동적 할당 금지, 가상함수 금지, std::shared_ptr 금지, std::function 금지. 대신 다음 기법.

  • CRTP(Curiously Recurring Template Pattern). 정적 폴리모피즘으로 가상함수의 vtable 비용을 제거.
  • 컴파일 타임 디스패치. if constexpr 로 분기, 런타임 비용 0.
  • EBO(Empty Base Optimization). 빈 정책 타입을 상속해도 메모리를 차지하지 않게.
  • PGO(Profile-Guided Optimization) + LTO + 캐시 라인 정렬.
template <typename Policy>
class OrderRouter : public Policy {
public:
  void submit(const Order& o) {
    if constexpr (Policy::has_pre_risk_check) {
      Policy::pre_risk(o);
    }
    Policy::route(o);
  }
};

struct CmeFixedRiskPolicy {
  static constexpr bool has_pre_risk_check = true;
  static void pre_risk(const Order&) { /* fixed risk */ }
  static void route(const Order& o)  { /* fast path */ }
};

OrderRouter<CmeFixedRiskPolicy> cme_router;

회사에 따라 자체 표준 라이브러리(allocator 없는 vector, lock-free queue, custom hash map)를 운영한다. Jane Street는 OCaml로 갔지만 Citadel/Optiver/Hudson River/IMC는 C++ 중심.

17. kdb+/q — 시계열 데이터의 표준

kdb+ 는 1993년 Arthur Whitney가 만든 컬럼형 인메모리 데이터베이스. 쿼리 언어 q는 APL/K 계보의 함수형 언어다. 한 줄에 압축적인 표현이 가능해서 처음 보면 외계어처럼 보이지만, 시계열 데이터의 표준 도구.

/ 오늘 KS200 선물 1초 봉
trades: select last px, sum sz by 1 xbar time.second
        from trades where sym=`KS200, date=.z.d

/ 30초 이동평균 + 표준편차
mavg30: 30 mavg trades.px
mdev30: 30 mdev trades.px

/ 볼린저 밴드 상단 돌파
breakout: select from trades where px > mavg30 + 2 * mdev30

/ 분당 변동성
vol_per_min: select sdev px by 1 xbar time.minute from trades

kdb+는 단일 노드에서 수십억 행을 초당 처리하고, 메모리에서 컬럼 단위로 풀어 SIMD를 활용한다. 라이선스가 매우 비싸기로 유명해서 오픈소스 대체(QuestDB, ClickHouse, Druid)가 도전하지만, "kdb+로 짠 stat-arb 코드의 간결함" 은 아직 따라잡지 못한다는 평가가 많다.

18. 실시간 리스크 — VaR, position limit, kill switch

자기자본을 걸고 거래하므로 리스크 관리가 곧 회사의 생존. 핵심 도구.

  • 실시간 VaR(Value at Risk). 모든 포지션을 1초마다 재평가, 95%/99% VaR를 한도와 비교. 한도 초과 시 자동 청산.
  • Greeks 한도. 옵션 데스크는 Delta/Gamma/Vega 한도가 각자 있다.
  • Position limit per symbol. 단일 종목에 너무 큰 포지션이 쌓이지 않도록 거래소 게이트웨이에서 거른다.
  • Fat finger check. 평소보다 10배 큰 주문은 자동 차단.
  • Kill switch. 한 줄 명령으로 회사 전체 주문 전송을 중단. SEC가 도드-프랭크 이후 사실상 의무화.

2012년 Knight Capital의 $440M 손실 사건이 산업의 기억에 남아 있다 — 신규 코드가 잘못 배포되어 45분 동안 잘못된 주문을 쏟아내며 회사가 사실상 망했다. 그 이후로 모든 회사가 다층의 kill switch와 카나리 배포를 운영한다.

19. Reg NMS, MiFID II SI — 미국과 유럽의 규제

Reg NMS(Regulation National Market System). 2007년 SEC가 도입. 핵심 조항.

  • Rule 611 (Order Protection Rule). 거래소가 NBBO(National Best Bid and Offer)를 우회해서 체결하면 안 됨.
  • Rule 610 (Access Rule). 거래소 간 표준화된 접근 수수료.
  • Rule 612 (Sub-Penny Rule). 1달러 이상 종목은 $0.01 미만 호가 금지.

Reg NMS는 사실상 미국 주식 시장을 13개 거래소 + 30여 개 ATS(다크풀)로 파편화시켰고, 그 파편을 잇는 마켓메이커가 곧 HFT 회사들이다.

MiFID II SI(Systematic Internaliser). 2018년 EU가 도입. 자기자본을 걸고 고객 주문을 내부 매칭하는 회사를 SI로 등록시키고, 호가 공개·체결 보고를 의무화. Citadel Securities Europe, Virtu Financial Ireland, Optiver SI 모두 SI 등록.

2024년 SEC의 Order Competition Rule 제안은 리테일 주문 흐름의 경매를 의무화하려고 했으나, 2025년 다시 보류됐다. PFOF의 운명을 두고 산업과 SEC의 줄다리기가 계속된다.

20. KRX 알고리즘 매매 사전등록 — 한국의 규제

한국거래소 는 2014년 알고리즘 매매 사전 등록제를 도입했다. 핵심.

  • 사전등록 의무. 알고리즘 ID, 전략 유형, 1일 평균 주문량을 KRX에 신고.
  • 호가 제출 비율. 호가 대비 체결 비율이 일정 수준 미만이면 수수료 가산.
  • 단계적 자동 정지. 시장 변동성이 임계치를 넘으면 자동 거래 일시정지(서킷브레이커).
  • 외국인 마켓메이커 의무. KRX 등록 외국인 마켓메이커는 일정 수준 이상의 호가 비율 유지.

2026년 현재 KRX 외국인 마켓메이커에는 Optiver, IMC, Tower Research, Citadel Securities Korea(서울 사무소), DRW가 등록되어 있다. 국내에서는 NH투자증권, 미래에셋, 키움증권, 한국투자증권, KB증권의 알고리즘 매매 본부가 시장조성자(MM) 역할을 한다.

21. 한국 HFT — NH투자증권, 미래에셋, 키움

한국에서 "HFT" 라는 용어는 외국 회사를 가리키는 경우가 많지만, 국내 증권사의 자기자본 알고리즘 매매도 사실상 HFT다.

  • NH투자증권 알고리즘 매매 본부. KOSPI200 선물·옵션의 주요 시장조성자. 2024년 기준 ETF LP 활동량 국내 1위. C++/kdb+ 스택.
  • 미래에셋증권 자동매매팀. 코스닥 시장조성자 중 가장 활발. 자체 차익거래 + ETF AP. 박현주 회장이 시스템 트레이딩을 직접 후원한 것으로 알려졌다.
  • 키움증권. 리테일 HTS의 절대 강자이자 자기자본 차익거래 데스크 운영. 영웅문 API + 자체 알고리즘.
  • 한국투자증권. 글로벌 채권 + KRX 채권 마켓메이커.
  • KB증권. ELS 헤지북의 자동 헤지가 사실상 옵션 HFT.

2023년 SG증권발 차액결제거래(CFD) 사태 이후 KRX가 알고리즘 매매 모니터링을 강화했고, 2025년부터는 거래소 게이트웨이에 fat finger 자동 차단이 도입됐다.

22. 일본 HFT — 野村, 三菱 UFJ, SBI, 大和

일본의 알고리즘 매매 시장은 미국보다 늦게 열렸지만 2010년 도쿄증권거래소의 arrowhead 시스템 도입 이후 폭발적으로 성장했다.

  • 野村証券(Nomura) Algorithmic Trading. Instinet 인수를 통한 미국 시장조성 + 일본 국내 자체 데스크. 옵션 마켓메이커.
  • 三菱 UFJ 모건스탠리(MUMSS). 일본 국채 + TOPIX 선물 마켓메이커.
  • SBI ホールディングス(Holdings) HFT 데스크. SBI Liquidity Market을 통한 FX HFT. 도쿄에서 동남아·중동까지의 회선.
  • 大和証券(Daiwa) algo. 일본 주식 알고리즘 + 채권 마켓메이커.
  • 외국 회사. Optiver, IMC, Citadel Securities, Jump Trading은 도쿄 사무소를 운영. OSE 닛케이225 옵션의 외국인 마켓메이커 상위에 모두 등장.

2024년 일본은행이 마이너스 금리를 종료한 이후 일본 국채 시장의 알고리즘 매매 비중이 급증, 三菱 UFJ와 大和가 자체 알고리즘 책 규모를 두 배 이상 늘렸다.

23. ETP(Exchange Trade Pad) — Jane Street의 워크스테이션

Jane Street ETP 는 회사의 자체 트레이딩 워크스테이션이다. OCaml로 작성되었고, Bloomberg 터미널 대신 거의 모든 트레이더 책상에 깔린다. 외부 공개 자료는 거의 없지만 컨퍼런스 발표에서 단편적으로 공개된 내용.

  • 단일 코드베이스. ETP, 리스크 엔진, 시뮬레이터, 옵션 가격결정 라이브러리가 같은 OCaml 코드를 공유.
  • 시각화. ETP는 그리드/차트/주문창을 OCaml의 React 같은 라이브러리로 그린다.
  • 백테스팅. 같은 코드가 라이브 환경과 시뮬레이터에서 동일하게 동작.

ETP의 디자인 철학은 "트레이더와 엔지니어의 거리 = 0" 이다. Jane Street의 거의 모든 트레이더가 코드를 짤 수 있고, ETP 위에 직접 신호 위젯을 만든다.

24. 2026년 전망 — AI, 양자, 그리고 규제

AI 신호의 보편화. 2024-2025년 Two Sigma/Citadel/Jane Street 모두 트랜스포머 기반 시그널 모델을 본격 도입했다. 일반 검색·생성 AI와는 다른 도메인 특화 모델 — 시세 임베딩 + 뉴스 임베딩 + 주문 흐름 임베딩의 합. 단기 신호 부문에서 알파의 0.5-1bp 정도를 추가한다는 보고.

양자 컴퓨팅의 약속과 한계. Goldman Sachs와 D-Wave, IBM Q가 옵션 가격결정/포트폴리오 최적화에서 양자 우위(quantum advantage)를 주장했지만, 2026년 현재 산업 표준은 여전히 고전적 몬테카를로 + GPU. 양자가 옵션 HFT에 의미 있는 시점은 2030년 이후일 가능성이 크다.

규제 — SEC와 EU의 시소. 미국은 PFOF, 정보 흐름, 코로케이션 공정성, 시장 데이터 수수료를 두고 산업과 줄다리기를 계속하고, EU는 MiFIR 3차 개정에서 알고리즘 매매에 자본 요구를 더 엄격히 부여한다. 한국 KRX는 차세대 시스템을 2027년 가동 예정, 일본 JPX는 arrowhead 4.0을 2026년 가동.

자산군 횡단의 끝. 미국 주식·옵션·선물·채권에서 시작한 HFT가 이제 크립토(Jump Crypto, Cumberland/DRW, Jane Street Crypto), 탄소배출권, 일본 국채, 인도 NSE, 베트남 HOSE까지 확장됐다. 다음 무대는 토큰화 미국 국채와 토큰화 부동산이라는 견해가 우세하다.

25. References

Discuss on Twitter • View on GitHub