Skip to content
Tools/시스템 성능 수치

시스템 성능 수치

System Performance Numbers

엔지니어가 매번 다시 검색하는 그 지연 시간 표를 정직하게 만들었습니다. L1 캐시부터 서울↔도쿄·미국·유럽 왕복, NVMe와 HDD, LLM 토큰 속도와 TTFT까지 모든 값을 범위로 적고 행마다 근거 한 문장을 붙였습니다. 고전 수치 계보는 Jeff Dean·Peter Norvig의 이름으로 밝히고, 대륙 간 왕복에는 광섬유 속 빛의 하한을 공식 그대로 유도해 보여주며, 인간 쪽 끝은 Nielsen의 응답 시간 3한계로 고정했습니다. L1을 1초로 늘리면 HDD 탐색이 3.8개월이 되는 인간 스케일 변환, SI(GB)와 이진(GiB) 단위를 구분해 보여주는 전송 시간 계산기(1 Gbps = 125 MB/s = 119.21 MiB/s), 두 행을 고정해 배수로 읽는 비교 모드, 열 자릿수를 한눈에 보는 로그 스케일 막대까지 담았습니다. 자릿수 감각을 위한 교육용 수치이며 하드웨어 세대마다 다르다는 사실을 페이지 안에서 계속 밝힙니다.

개발 유틸

엔지니어가 매번 다시 검색하는 그 표 — 이번엔 정직하게

모든 값은 범위이고, 모든 행에 "이 숫자가 어디서 왔는지" 한 문장이 붙어 있습니다. 어떤 값도 이 사이트가 직접 잰 것이 아니며, 자릿수 감각을 위한 참고용입니다. 행을 누르면 근거가 열립니다.

모든 값은 범위 또는 ~급행마다 근거 한 문장하드웨어 세대마다 다름

📌 두 행을 고정하면 배수로 비교합니다.

1 ns1 µs1 ms1 s

로그 스케일 — 눈금 한 칸이 1,000배입니다

CPU / 메모리

자릿수 감각을 위한 교육용 수치입니다. 실제 값은 하드웨어 세대마다 다릅니다. 이 수치의 계보는 Jeff Dean의 강연 "Numbers Everyone Should Know", Peter Norvig의 에세이, 그리고 Colin Scott의 인터랙티브 페이지 같은 후속 작업으로 이어져 왔습니다.

  • 책상 위 메모지를 힐끗 보는 정도 — CPU의 손안입니다.

    ~1 ns 급 (0.5–2 ns)
  • 길을 잘못 짚어 몇 걸음 되돌아오기 — 파이프라인을 비우고 다시 채우는 값입니다.

    ~5 ns 급 (3–15 ns)
  • 책상 서랍을 열어 꺼내는 정도 — L1보다 열 배 가까이 멉니다.

    ~7 ns 급 (4–14 ns)
  • 옆 팀 캐비닛까지 걸어가서 꺼내오기 — 코어들이 공유하는 마지막 캐시층입니다.

    ~20 ns 급 (10–40 ns)
  • 아무도 안 쓰는 회의실 문을 열고 닫는 정도 — 줄이 생기는 순간 자릿수가 달라집니다.

    ~25 ns 급 (10–60 ns)
  • 복도 끝 자료실까지 다녀오기 — L1의 100배쯤이라 "캐시 미스"가 아픈 이유입니다.

    ~100 ns 급 (60–120 ns)

저장장치

랜덤 접근은 지연, 순차 읽기는 "1 MB ÷ 처리량"으로 시간으로 환산했습니다. 전부 스펙시트 자릿수 범위이며 개별 제품 값이 아닙니다.

  • 아래 저장장치 줄들의 기준점 — 같은 1 MB인데 매체가 바뀌면 자릿수가 바뀝니다.

    ~수십 µs 급 (20–250 µs)
  • RAM 접근의 약 1,000배 — 프로그램이 처음으로 "기다린다"고 느끼는 곳입니다.

    ~100 µs 급 (20–200 µs)
  • 고전 표의 "SSD 랜덤 읽기 150 µs"가 바로 이 줄입니다.

    ~150 µs 급 (80–300 µs)
  • 순차라면 SSD도 GB/s로 달립니다 — 랜덤과 순차를 구분해야 하는 이유입니다.

    ~0.3 ms 급 (0.15–1 ms)
  • 금속 팔이 실제로 움직입니다 — L1이 1초라면 이 줄은 몇 달입니다.

    ~10 ms 급 (5–15 ms)
  • 순차로 읽으면 HDD도 쓸 만합니다 — 탐색을 안 하는 만큼만.

    ~수 ms 급 (4–20 ms)

네트워크

광섬유 속 빛은 굴절률 n≈1.47 때문에 진공 광속의 약 68%로 갑니다. 왕복 하한 = 2 × 거리 ÷ (299,792 km/s ÷ 1.47). 실제 경로는 케이블 우회·라우팅·장비 지연 때문에 이 하한보다 항상 깁니다.

  • 마이크로서비스 호출 한 번의 밑바닥 값 — 열 번 이어 붙이면 그것만으로 5 ms입니다.

    ~0.5 ms 급 (0.1–1 ms)
  • 빛의 하한11.4 ms

    게임에서 "핑 33"이 뜨는 그 거리 — 일본 리전이 한국 서비스에 자주 쓰이는 이유입니다.

    ~30–45 ms
  • 빛의 하한88.3 ms

    태평양 해저 케이블 한 번 왕복 — 어떤 최적화로도 이 아래로는 못 내려갑니다.

    ~120–160 ms
  • 빛의 하한107.9 ms

    태평양을 건너고 대륙을 횡단합니다 — Nielsen의 0.1초 한계를 왕복 한 번이 이미 넘습니다.

    ~180–230 ms
  • 빛의 하한84.3 ms

    대원거리는 미국 서부보다 짧은데 왕복은 더 깁니다 — 케이블이 그 직선으로 안 가기 때문입니다.

    ~220–320 ms

LLM 시대 수치

환경에 따라 크게 다름 — 이 섹션은 제품 비교가 아니라 자릿수 감각용입니다. 모델 크기·양자화·하드웨어·부하·시점에 따라 수십 배씩 움직이므로 일부러 아주 넓은 범위만 적었습니다.

  • 사람이 소리 내어 읽는 속도(초당 3–5단어)보다 대체로 빠릅니다 — 그래서 스트리밍이 "충분히" 느껴집니다.

    토큰당 ~5–100 ms 급 (초당 10–200토큰) — 환경에 따라 크게 다름
  • 같은 모델이라도 GPU냐 CPU냐, 몇 비트로 양자화했냐로 자릿수가 바뀝니다.

    토큰당 ~5–200 ms 급 (초당 5–200토큰) — 환경에 따라 크게 다름
  • 체감 반응성은 여기서 갈립니다 — 총 시간보다 첫 글자를 먼저 보여주는 것이 스트리밍의 존재 이유입니다.

    ~0.1–10 s 급 — 환경에 따라 크게 다름

인간 지각 기준선

Jakob Nielsen이 "Response Times: The 3 Important Limits"(1993)로 정리한 기준선입니다(Robert B. Miller의 1968년 연구 계보). 위의 모든 기계 수치는 결국 이 세 줄과 싸웁니다.

  • 이 아래면 UI가 "내 손"처럼 느껴집니다 — 타이핑 에코와 버튼 반응의 예산입니다.

    100 ms (기준선)
  • 지연을 눈치채지만 흐름은 안 끊깁니다 — 이 근처부터 로딩 표시가 필요해집니다.

    1 s (기준선)
  • 이걸 넘기면 사용자는 다른 탭으로 갑니다 — 진행률 표시와 취소 버튼이 필수인 구간입니다.

    10 s (기준선)

🚚 전송 시간 계산기

데이터 크기 ÷ 회선 속도. SI(10³)와 이진(2¹⁰) 단위를 섞지 않고 그대로 보여줍니다.

예시:

이론상 전송 시간

1분 20초

10 GB = 10,000,000,000 byte (GB: SI · 10의 거듭제곱)

= 80,000,000,000 bit ÷ 1,000,000,000 bit/s = 1분 20초

1 Gbps = 125 MB/s = 119.21 MiB/s

네트워크 속도(Mbps/Gbps)는 항상 SI(10의 거듭제곱)입니다. 1 GB(10⁹ byte)와 1 GiB(2³⁰ byte)는 약 7.4% 다릅니다.

회선 속도는 이론상 상한입니다. 실제 전송은 프로토콜 오버헤드·혼잡·디스크 속도 때문에 이보다 느려집니다.

이 페이지의 값은 벤치마크 결과가 아니라 교육용 자릿수입니다. 계보: Jeff Dean의 "Numbers Everyone Should Know" 강연 · Peter Norvig의 에세이 · Colin Scott의 인터랙티브 페이지 · Jakob Nielsen의 응답 시간 3한계. 실제 값은 하드웨어 세대·경로·부하에 따라 다릅니다.

같은 흐름으로 이어지는 도구를 골라 두었습니다.