2025 AI 직무 완전 지도: AI 회사부터 SI까지, 모든 AI 직군의 역할·역량·연봉 총정리

• 1. 2025 AI 채용 시장 빅픽처
  • AI 채용 시장은 지금 폭발 중이다
  • 왜 지금이 AI 커리어의 골든타임인가
  • AI 채용 수요 Top 10 직군 (2025)
• 2. AI 프론티어 기업 채용 트렌드
  • OpenAI
  • Anthropic
  • Google DeepMind
  • Meta AI (FAIR)
  • Cohere
  • Mistral
  • 기업별 채용 특징 비교
• 3. 15개 AI 직군 완전 분석
  • 3-1. Research Scientist / Research Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-2. ML Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-3. MLOps Engineer / LLMOps Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-4. AI Safety Engineer / Alignment Researcher
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-5. AI Agent Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-6. Forward Deployed Engineer (FDE)
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-7. Solutions Architect / Solutions Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-8. AI Product Manager
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-9. Context Engineer (NEW!)
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-10. Prompt Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-11. RAG Engineer / Knowledge Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-12. AI Infrastructure Engineer
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-13. AI Ethics Officer / Responsible AI Lead
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-14. AI QA Engineer / Evaluation Specialist
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
  • 3-15. AI Consultant (Big 4 + MBB)
    • 역할 설명
    • 필수 기술 스택
    • 연봉 범위
    • 채용 기업
    • 이 직군이 맞는 사람
    • 핵심 학습 리소스
• 4. FDE vs SE vs SA 심층 비교
  • 비교표
  • 어떤 성향에 어떤 역할이 맞는가
  • FDE 채용 기업 상세
• 5. 한국 SI의 AI 전환 (AX)
  • 한국 SI 산업의 구조적 변화
  • 삼성SDS
  • LG CNS
  • SK C&C
  • SI 엔지니어에게 필요한 AI 역량 변화
  • 전통 SI vs AI SI 비교
• 6. 기술 스택 수요 분석
  • 프로그래밍 언어
  • AI 프레임워크 및 도구
  • 인프라 도구
  • AI 특화 기술
  • 소프트 스킬
• 7. 경력 단계별 AI 커리어 전략
  • 신입 (0-2년): 어떤 직군부터 시작할 것인가
  • 주니어 (2-5년): T자형 인재로 성장하기
  • 시니어 (5-8년): 전문가 vs 매니저 트랙
  • 리드/프린시펄 (8년+): IC vs 매니저 vs 창업
• 8. 연봉 대시보드
  • 15개 직군 연봉 종합 비교표
  • 연봉 핵심 인사이트
• 9. 자격증 및 학습 리소스 총정리
  • 직군별 추천 자격증
  • 무료 학습 리소스 TOP 10
  • 유료 학습 리소스 TOP 5
  • 커뮤니티 및 네트워킹
• 실전 퀴즈
  • 지식 점검 5문제
• 참고 자료

1. 2025 AI 채용 시장 빅픽처

AI 채용 시장은 지금 폭발 중이다

2025년 AI 채용 시장은 단순한 성장이 아니라 구조적 전환을 겪고 있습니다. 단순히 "AI를 할 줄 아는 사람"을 넘어, 어떤 종류의 AI를 어떤 맥락에서 활용할 수 있는가가 채용의 핵심 기준이 되었습니다.

핵심 수치부터 정리하겠습니다:

이 수치들이 의미하는 바는 명확합니다. AI는 더 이상 연구소의 전유물이 아닙니다. 프로덕션 배포, 고객 대면, 안전성 검증, 에이전트 설계 등 실무 중심의 AI 역할이 급격하게 늘어나고 있습니다.

왜 지금이 AI 커리어의 골든타임인가

세 가지 구조적 요인이 동시에 작용하고 있습니다.

첫째, LLM의 상용화 가속. ChatGPT 출시 이후 2년이 지나면서 기업들은 PoC(개념증명)를 넘어 프로덕션 배포 단계에 진입했습니다. 이 과정에서 "모델을 만드는 사람" 못지않게 "모델을 배포하고 운영하는 사람"의 수요가 폭발적으로 증가했습니다.

둘째, AI 에이전트 시대의 개막. 2025년은 사실상 AI 에이전트의 원년입니다. OpenAI의 Operator, Anthropic의 Computer Use, Google의 Project Mariner 등 주요 기업들이 에이전트 제품을 출시하면서, 에이전트를 설계하고 구축하는 전문 인력의 수요가 새롭게 형성되었습니다.

셋째, AI 규제와 안전성에 대한 관심 급증. EU AI Act 시행, 미국의 AI 행정명령, 한국의 AI 기본법 논의 등으로 AI 안전성, 윤리, 거버넌스 관련 직무가 급부상했습니다.

AI 채용 수요 Top 10 직군 (2025)

주목할 점: 상위 10개 직군 중 3개(AI Agent Engineer, RAG Engineer, Context Engineer)가 2024년에는 존재하지 않았거나 매우 소수였던 직군입니다. AI 직무 시장은 그 어떤 기술 분야보다 빠르게 분화하고 있습니다.

2. AI 프론티어 기업 채용 트렌드

OpenAI

OpenAI는 2025년 현재 약 3,000명 규모로 성장했으며, ChatGPT 유료 구독자 3억 명 돌파와 함께 조직을 공격적으로 확장하고 있습니다.

주요 채용 포지션:

• Research Engineer: GPT-5 이후 모델 개발, 연봉 약 350K-500K 이상
• Software Engineer (Platform): API 인프라, 대규모 서빙, 연봉 약 250K-400K
• Forward Deployed Engineer: 엔터프라이즈 고객 대응, 서울 오피스 포함, 연봉 약 200K-300K
• AI Deployment Engineer: 서울 오피스 신설 포지션, 한국 시장 대응
• Residency Program: 6개월 유급 레지던시, 연봉 약 220K, ML 배경 없이도 지원 가능

OpenAI의 채용 특징:

OpenAI는 "빠르게 배우는 제너럴리스트"를 선호합니다. JD에서 반복적으로 등장하는 키워드는 velocity, ownership, impact입니다. 특정 기술 스택보다는 문제 해결 능력과 실행 속도를 중시합니다. 서울 오피스의 경우 한국어 능력이 강점이 되며, 삼성전자와의 파트너십 확대로 엔터프라이즈 세일즈 및 기술 지원 인력을 적극적으로 채용 중입니다.

Anthropic

Anthropic은 2025년 AI 인재 시장에서 가장 핫한 목적지입니다.

핵심 수치:

• 중앙값 총 보상(TC): 약 630K (업계 최고 수준)
• 2년 잔류율: 80% (Google 대비 40%p 높음)
• OpenAI 대비 유입 비율: 8:1 (OpenAI에서 Anthropic으로 이직하는 인원이 8배 많음)
• 직원 수: 약 1,200명 (2024년 대비 60% 성장)

주요 채용 포지션:

• Research Scientist: Constitutional AI 연구, 연봉 약 400K-700K 이상
• Safety Researcher: Alignment 연구, 연봉 약 350K-600K
• Software Engineer: Claude API 개발, 연봉 약 300K-500K
• Product Engineer: Claude 제품 개발, 연봉 약 280K-450K
• Solutions Engineer: 엔터프라이즈 고객 대응

Anthropic의 채용 특징:

Anthropic은 "안전한 AI 개발"이라는 미션에 깊이 공감하는 인재를 선호합니다. 기술 면접에서도 단순 코딩 실력 외에 AI 안전성에 대한 철학적 이해를 묻는 경우가 많습니다. RSU(제한부 주식) 비중이 높아 스타트업 치고는 상대적으로 안정적인 보상 구조를 제공합니다.

Google DeepMind

2023년 Google Brain과 DeepMind의 합병 이후, Google DeepMind는 세계 최대 규모의 AI 연구 조직이 되었습니다.

주요 채용 포지션:

• Research Scientist: AlphaFold 후속 연구, Gemini 모델 개발
• Research Engineer: 대규모 모델 학습 인프라
• Applied Scientist: Gemini를 Google 제품에 통합
• ML Engineer: 프로덕션 배포 및 최적화

DeepMind의 채용 특징:

PhD 선호도가 업계에서 가장 높습니다. Research Scientist 포지션의 약 85%가 PhD를 요구하거나 강력히 권장합니다. 2024년 AlphaFold2로 노벨 화학상을 수상한 이후 연구 중심 문화가 더욱 강화되었습니다. 논문 퍼블리케이션과 학술 네트워크가 채용에 큰 영향을 미칩니다.

Meta AI (FAIR)

Meta의 AI 연구소 FAIR(Fundamental AI Research)는 Llama 시리즈의 오픈소스 전략으로 큰 영향력을 행사하고 있습니다.

핵심 이슈:

• 2M 이상의 TC를 제시해도 시니어 연구원 유출이 계속됨
• Yann LeCun 리더십 하 기초 연구 중시
• Llama 3.x 시리즈 성공으로 오픈소스 생태계 주도

채용 특징:

Meta는 총 보상 패키지(TC)에서 업계 최고 수준을 제시하지만, Anthropic/OpenAI 대비 인재 유출이 심각합니다. 이유로는 AI 안전성에 대한 불확실한 입장, 소셜 미디어 본업과의 시너지 의문, 그리고 "AI 안전에 진정으로 기여한다"는 미션 부재가 꼽힙니다.

Cohere

캐나다 토론토 기반의 엔터프라이즈 AI 전문 기업으로, 한국(서울) 오피스를 운영 중입니다.

주요 채용 포지션:

• Forward Deployed Engineer (Agentic Platform): 엔터프라이즈 고객 현장 배포
• ML Engineer: Command R+ 모델 개선
• Solutions Engineer: 아시아 시장 대응
• Infrastructure Engineer: North AI 플랫폼 인프라

Cohere의 채용 특징:

FDE for Agentic Platform이라는 독특한 포지션이 특징적입니다. Kubernetes, Helm, 하이브리드 클라우드 배포 경험을 중시하며, 한국 오피스에서는 한국어+영어 바이링구얼 인재를 적극 채용합니다.

Mistral

프랑스 파리 기반의 오픈소스 AI 기업으로, 유럽 AI 생태계의 핵심 플레이어입니다.

채용 특징:

• 유럽 기반이라 미국 대비 연봉은 낮지만, 워라밸과 비자 지원이 강점
• 오픈소스 모델(Mixtral, Mistral Large) 개발 중심
• Research Engineer, ML Engineer 중심 채용
• 프랑스어 능력이 플러스 요인

기업별 채용 특징 비교

3. 15개 AI 직군 완전 분석

3-1. Research Scientist / Research Engineer

역할 설명

Research Scientist는 AI의 최전선에서 새로운 알고리즘, 아키텍처, 학습 방법론을 개발하는 역할입니다. Transformer 이후의 차세대 아키텍처 탐색, 스케일링 법칙 연구, 멀티모달 학습, AI 안전성 이론 연구 등이 핵심 업무입니다.

Research Engineer는 Research Scientist가 고안한 아이디어를 실제로 구현하고 대규모 실험을 실행하는 역할입니다. 수천 개의 GPU를 사용하는 분산 학습 시스템 구축, 실험 파이프라인 자동화, 대규모 데이터 전처리 등을 담당합니다.

두 역할의 경계는 점점 모호해지고 있으며, 특히 스타트업에서는 한 사람이 두 역할을 겸하는 경우가 많습니다. 그러나 DeepMind이나 FAIR 같은 대형 연구소에서는 여전히 명확히 구분됩니다.

필수 기술 스택

핵심 역량:
- 수학/통계: 선형대수, 확률론, 최적화 이론, 정보 이론
- 딥러닝: PyTorch (필수), JAX (DeepMind), Transformer 아키텍처
- 분산 학습: FSDP, DeepSpeed, Megatron-LM, 멀티노드 학습
- 논문 능력: NeurIPS, ICML, ICLR 수준의 논문 퍼블리케이션
- 프로그래밍: Python (필수), C++ (모델 최적화), CUDA (GPU 프로그래밍)

Research Engineer 추가:
- 인프라: Docker, Kubernetes, Slurm 클러스터 관리
- 데이터: 대규모 데이터셋 파이프라인 (Spark, Ray)
- 실험 관리: W&B (Weights & Biases), MLflow

연봉 범위

채용 기업

Google DeepMind, OpenAI, Anthropic, Meta FAIR, Microsoft Research, NVIDIA Research, Amazon Science, Apple ML Research, Samsung AI Center, Naver AI Lab, Kakao Brain

이 직군이 맞는 사람

• PhD(또는 동등 수준의 연구 경험)를 보유하고 있으며, 학술 연구에 강한 열정이 있는 사람
• 하나의 문제를 6개월-1년 이상 깊이 파고들 수 있는 인내심이 있는 사람
• 최신 논문을 매주 읽고, 직접 재현 실험을 돌리는 것이 즐거운 사람

핵심 학습 리소스

1. Stanford CS229 (Machine Learning) + CS231n (Computer Vision) - 기초 탄탄히
2. Andrej Karpathy의 "Neural Networks: Zero to Hero" 시리즈 - 실무 감각
3. "The Bitter Lesson" (Rich Sutton) + "Scaling Laws" 논문들 - 연구 철학

3-2. ML Engineer

역할 설명

ML Engineer는 연구에서 나온 모델을 실제 프로덕션 환경에서 작동하도록 만드는 역할입니다. 2025년 현재 41.8%의 전년 대비 성장률로 모든 AI 직군 중 가장 높은 수요 증가를 보이고 있습니다.

구체적으로는 모델 학습 파이프라인 구축, 모델 최적화(양자화, 프루닝, 지식 증류), 추론 서빙 시스템 개발, A/B 테스트 프레임워크 운영, 모델 성능 모니터링 등을 담당합니다.

2025년의 ML Engineer는 과거와 달리 LLM 관련 역량이 거의 필수가 되었습니다. Fine-tuning(LoRA, QLoRA), RAG 파이프라인 구축, 프롬프트 최적화, 에이전트 워크플로 설계 등이 JD에 빈번하게 등장합니다.

필수 기술 스택

핵심 역량:
- 프로그래밍: Python (필수), SQL, Go/Rust (성능 최적화)
- ML 프레임워크: PyTorch, TensorFlow, scikit-learn, XGBoost
- LLM 특화: HuggingFace Transformers, vLLM, TGI, LoRA/QLoRA
- 데이터: Spark, Ray, Airflow, dbt
- 인프라: Docker, Kubernetes, AWS SageMaker / GCP Vertex AI
- 모니터링: Prometheus, Grafana, 커스텀 메트릭 대시보드
- 실험 관리: MLflow, W&B, DVC

2025 추가 역량:
- 벡터 DB: Pinecone, Weaviate, Qdrant, Milvus, pgvector
- 에이전트 프레임워크: LangChain, LlamaIndex, CrewAI
- 모델 서빙: vLLM, Triton Inference Server, TensorRT-LLM

연봉 범위

채용 기업

Google, Meta, Amazon, Microsoft, Apple, Netflix, Uber, Spotify, OpenAI, Anthropic, NVIDIA, 삼성전자, 네이버, 카카오, 쿠팡, 토스, 당근마켓

이 직군이 맞는 사람

• 수학적 이론보다 실제로 동작하는 시스템을 만드는 데 흥미를 느끼는 사람
• "이 모델의 추론 레이턴시를 50% 줄여라"는 문제에 흥분하는 사람
• 데이터 파이프라인부터 모델 서빙까지 End-to-End 시스템을 설계하고 싶은 사람

핵심 학습 리소스

1. Made With ML (madewithml.com) - MLOps 포함 실무 중심 커리큘럼
2. Full Stack Deep Learning (fullstackdeeplearning.com) - 프로덕션 ML 시스템
3. HuggingFace Course - LLM 생태계 입문

3-3. MLOps Engineer / LLMOps Engineer

역할 설명

MLOps Engineer는 ML 모델의 배포, 모니터링, 자동화를 담당하는 역할입니다. DevOps가 소프트웨어 배포를 자동화한 것처럼, MLOps는 모델 배포를 자동화합니다. LinkedIn 데이터 기준 지난 5년간 9.8배 성장한 가장 빠르게 성장하는 엔지니어링 직군 중 하나입니다.

LLMOps Engineer는 MLOps의 확장 개념으로, 대규모 언어 모델(LLM)의 서빙, 프롬프트 관리, 비용 최적화, 토큰 사용량 모니터링 등 LLM 특화 운영 업무를 담당합니다. 2024년 하반기부터 독립적인 JD로 등장하기 시작했습니다.

MLOps와 LLMOps의 핵심 차이는 규모와 비용입니다. 전통적인 ML 모델은 비교적 작고 추론 비용이 낮지만, LLM은 수십억 개의 파라미터를 가지며 추론 비용이 매우 높습니다. 따라서 LLMOps는 GPU 메모리 관리, KV 캐시 최적화, 배치 처리 전략, 비용 모니터링 등 LLM 특화 역량을 요구합니다.

필수 기술 스택

MLOps 핵심:
- CI/CD: GitHub Actions, GitLab CI, Jenkins
- 컨테이너: Docker, Kubernetes, Helm
- IaC: Terraform, Pulumi, AWS CloudFormation
- 모델 레지스트리: MLflow, DVC, Weights & Biases
- 모니터링: Prometheus, Grafana, Datadog
- 클라우드: AWS SageMaker, GCP Vertex AI, Azure ML
- 파이프라인: Kubeflow, Airflow, Prefect

LLMOps 추가:
- LLM 서빙: vLLM, TGI, Triton, TensorRT-LLM
- 프롬프트 관리: LangSmith, Humanloop, Braintrust
- 비용 관리: 토큰 사용량 추적, GPU 활용률 최적화
- 평가: LLM 평가 프레임워크 (DeepEval, RAGAS)
- 가드레일: Guardrails AI, NeMo Guardrails

연봉 범위

채용 기업

Netflix, Uber, Airbnb, Spotify, Amazon, Google, Microsoft, Databricks, Datadog, MLflow/Databricks, Weights & Biases, 삼성SDS, LG CNS, 네이버, 카카오

이 직군이 맞는 사람

• DevOps/SRE 경험이 있고 ML 도메인으로 확장하고 싶은 사람
• "모델은 누가 학습시키든, 내가 안정적으로 서빙해주겠다"는 마인드셋의 사람
• 인프라 자동화와 모니터링 대시보드 만드는 것을 좋아하는 사람

핵심 학습 리소스

1. Google MLOps Maturity Model - MLOps 수준별 성숙도 이해
2. Coursera: MLOps Specialization (DeepLearning.AI) - Andrew Ng의 실무 중심 과정
3. "Designing Machine Learning Systems" (Chip Huyen) - 프로덕션 ML 시스템 설계의 바이블

3-4. AI Safety Engineer / Alignment Researcher

역할 설명

AI Safety Engineer는 2025년 가장 주목받는 AI 직군입니다. 전년 대비 연봉 45% 상승, 수요 156% 증가라는 놀라운 수치를 기록하고 있습니다. EU AI Act 시행, 미국의 AI 행정명령, 주요 AI 기업의 안전 팀 확대가 이 성장의 동력입니다.

역할은 크게 두 갈래로 나뉩니다. Alignment Researcher는 AI 시스템이 인간의 의도와 가치에 맞게 작동하도록 하는 이론적/기술적 연구를 수행합니다. AI Safety Engineer는 이를 실제 제품에 구현합니다. 레드 팀 테스트, 안전 가드레일 개발, 편향 감지 및 완화, 탈옥(jailbreak) 방지 등이 핵심 업무입니다.

Anthropic의 Constitutional AI, OpenAI의 Superalignment 팀, Google DeepMind의 Safety 팀 등이 이 분야를 주도하고 있습니다.

필수 기술 스택

핵심 역량:
- ML 기초: 딥러닝, 강화학습(특히 RLHF), 확률론
- 안전 기법: Constitutional AI, RLHF, DPO, Red Teaming
- 평가: LLM 평가 방법론, 벤치마크 설계, 편향 측정
- 프로그래밍: Python, PyTorch
- 가드레일: NeMo Guardrails, Guardrails AI, Lakera
- 규제 이해: EU AI Act, NIST AI RMF, ISO 42001

Alignment 추가:
- 이론: 정보 이론, 게임 이론, 의사결정 이론
- 연구 방법론: Mechanistic Interpretability, Scalable Oversight
- 논문: 주요 Alignment 연구 논문 숙지

연봉 범위

채용 기업

Anthropic, OpenAI, Google DeepMind, Meta, Microsoft, NVIDIA, US AISI (정부 기관), UK AISI, Redwood Research, ARC Evals, Center for AI Safety

이 직군이 맞는 사람

• AI의 장기적 영향에 대해 진지하게 고민하는 사람
• 기술적 역량과 철학적 사고를 동시에 갖춘 사람
• "더 강력한 AI를 만드는 것"보다 "안전한 AI를 만드는 것"에 더 관심 있는 사람

핵심 학습 리소스

1. Anthropic Research Blog - Constitutional AI 등 최신 안전 연구
2. AI Safety Fundamentals (aisafetyfundamentals.com) - 체계적인 입문 코스
3. ARENA (Alignment Research Engineer Accelerator) - 실무 중심 Alignment 교육

3-5. AI Agent Engineer

역할 설명

AI Agent Engineer는 2025년에 새롭게 등장한 가장 핫한 직군입니다. AI 에이전트란 LLM을 기반으로 멀티스텝 추론, 도구 사용, 자율적 작업 수행이 가능한 시스템을 말합니다. 단순히 질문에 답하는 챗봇이 아니라, 복잡한 업무를 스스로 분해하고 실행하는 자율적 시스템입니다.

구체적인 업무로는 에이전트 아키텍처 설계(ReAct, Plan-and-Execute, Multi-Agent), 도구 통합(API, 데이터베이스, 파일 시스템, 브라우저), 메모리 시스템 설계(단기/장기 메모리, RAG 연동), 안전 가드레일 구현, 에이전트 평가 프레임워크 개발 등이 있습니다.

OpenAI의 Operator, Anthropic의 Computer Use, Google의 Project Mariner, Microsoft의 Copilot Studio 등 주요 기업이 에이전트 제품을 출시하면서, 이 직군의 수요는 2025년에 전년 대비 320% 폭증했습니다.

필수 기술 스택

핵심 역량:
- 에이전트 프레임워크: LangChain/LangGraph, LlamaIndex, CrewAI, AutoGen
- LLM API: OpenAI API, Anthropic API, Google Gemini API
- 도구 통합: MCP (Model Context Protocol), Function Calling
- 오케스트레이션: 멀티에이전트 시스템, 워크플로 설계
- 프로그래밍: Python (필수), TypeScript (프론트엔드 에이전트)
- 메모리: 벡터 DB (Pinecone, Qdrant), 대화 히스토리 관리
- 평가: 에이전트 벤치마크 (SWE-bench, WebArena, GAIA)
- 안전: 가드레일, 권한 제어, 샌드박싱

추가 역량:
- 브라우저 자동화: Playwright, Selenium, Puppeteer
- API 설계: REST, GraphQL, WebSocket
- 상태 관리: 유한 상태 기계(FSM), 워크플로 엔진

연봉 범위

채용 기업

OpenAI, Anthropic, Google, Microsoft, Salesforce (Agentforce), ServiceNow, Cohere, LangChain, LlamaIndex, Cognition AI (Devin), 네이버, 카카오, 삼성SDS

이 직군이 맞는 사람

• "AI가 사람처럼 복잡한 업무를 자율적으로 수행하는 미래"에 흥분하는 사람
• 시스템 설계와 아키텍처를 좋아하며, 복잡한 워크플로를 설계하는 데 능숙한 사람
• LLM의 한계(환각, 추론 오류)를 이해하고 이를 시스템 수준에서 보완할 수 있는 사람

핵심 학습 리소스

1. LangChain Academy (academy.langchain.com) - 에이전트 설계 전문 과정
2. Anthropic의 "Building Effective Agents" 가이드 - 에이전트 설계 원칙
3. Andrew Ng의 AI Agentic Design Patterns 시리즈 - 에이전트 설계 패턴

3-6. Forward Deployed Engineer (FDE)

역할 설명

Forward Deployed Engineer는 고객 현장에 배치되어 프로덕션급 솔루션을 직접 구축하는 역할입니다. Palantir가 처음 만든 이 직군은 2025년에 수요 800% 폭증이라는 경이적인 성장을 기록하고 있습니다.

FDE는 일반 소프트웨어 엔지니어와 달리 고객의 비즈니스 문제를 직접 이해하고, 그 자리에서 솔루션을 설계하고 구축합니다. "코드를 짜는 컨설턴트" 혹은 "비즈니스를 이해하는 엔지니어"라고 할 수 있습니다. AI 기업들이 엔터프라이즈 시장에 진출하면서, 고객사의 복잡한 환경에서 AI를 실제로 작동시킬 수 있는 FDE의 가치가 급상승했습니다.

핵심 업무는 고객사 방문 및 요구사항 분석, 프로덕션급 솔루션 설계/구축, 기술 데모 및 PoC 개발, 고객 온보딩 및 기술 교육, 제품팀에 고객 피드백 전달 등입니다.

필수 기술 스택

기술 역량:
- 풀스택 개발: Python, TypeScript, React, Node.js
- 클라우드: AWS/GCP/Azure (멀티클라우드 경험 우대)
- 인프라: Kubernetes, Docker, Helm, Terraform
- 데이터: SQL, Spark, 데이터 파이프라인
- AI/ML: LLM API, RAG, 벡터 DB, Fine-tuning 기본 이해
- API: REST, GraphQL, gRPC

비즈니스 역량 (FDE의 핵심 차별점):
- 고객 커뮤니케이션: 기술 개념을 비기술 이해관계자에게 설명하는 능력
- 프레젠테이션: 기술 데모, 워크숍 진행
- 문제 해결: 모호한 비즈니스 문제를 기술 솔루션으로 변환
- 도메인 지식: 금융, 의료, 제조 등 특정 산업 이해
- 프로젝트 관리: 여러 고객 프로젝트를 동시에 관리

연봉 범위

채용 기업

Palantir, Databricks, Cohere, Scale AI, OpenAI, Ramp, Weights & Biases, Snowflake, MongoDB, Elastic

이 직군이 맞는 사람

• 코딩도 좋아하지만, 사람과 대화하고 문제를 함께 풀어가는 것도 즐기는 사람
• 출장이 잦아도 괜찮고, 다양한 산업과 기업을 경험하고 싶은 사람
• "제품의 가치를 고객이 직접 느끼게 만드는 것"에 보람을 느끼는 사람

핵심 학습 리소스

1. Palantir FDE 인터뷰 가이드 - FDE 면접의 표준을 정립한 기업
2. "The Mom Test" (Rob Fitzpatrick) - 고객 인터뷰 기법
3. System Design Primer (GitHub) - 시스템 설계 면접 준비

3-7. Solutions Architect / Solutions Engineer

역할 설명

Solutions Architect(SA)는 고객의 비즈니스 요구를 기술 아키텍처로 설계하는 전략적 역할입니다. FDE가 직접 코드를 짜고 솔루션을 구축하는 것에 비해, SA는 아키텍처 설계, 기술 자문, 파트너 관계 관리에 더 집중합니다.

Solutions Engineer(SE)는 SA보다 기술적 깊이가 더 깊고, 세일즈 과정에서 기술 데모, PoC 구축, 기술 질의 응답을 담당합니다. 프리세일즈(Pre-Sales) 단계에서 핵심 역할을 합니다.

2025년 AI 시대에 SA/SE의 역할은 크게 확장되었습니다. 단순한 클라우드 아키텍처 설계를 넘어, LLM 기반 솔루션 아키텍처, RAG 파이프라인 설계, AI 에이전트 워크플로 설계, GPU 인프라 최적화 등 AI 특화 기술 자문이 핵심이 되었습니다.

필수 기술 스택

기술 역량:
- 클라우드: AWS (필수), GCP, Azure - 최소 1개 이상 어소시에이트 인증
- 아키텍처: 마이크로서비스, 서버리스, 이벤트 기반 아키텍처
- AI/ML: SageMaker, Vertex AI, Azure OpenAI Service
- 데이터: 데이터 레이크, 데이터 웨어하우스, ETL/ELT
- 네트워킹: VPC, 로드밸런서, CDN, 네트워크 보안
- 보안: IAM, 암호화, 컴플라이언스 프레임워크

비즈니스 역량:
- 프레젠테이션: C-Level 대상 기술 발표
- 제안서 작성: RFP 대응, 기술 제안서
- 파트너 관리: ISV, SI, 컨설팅 파트너
- ROI 분석: 기술 투자의 비즈니스 가치 산정

연봉 범위

채용 기업

AWS, Google Cloud, Microsoft Azure, Databricks, Snowflake, MongoDB, Confluent, 삼성SDS, LG CNS, SK C&C, 네이버클라우드, NHN Cloud

이 직군이 맞는 사람

• 기술적 깊이와 비즈니스 감각을 동시에 갖추고 싶은 사람
• 코딩보다는 아키텍처 설계와 기술 전략에 더 관심 있는 사람
• 다양한 산업의 고객을 만나며 폭넓은 경험을 쌓고 싶은 사람

핵심 학습 리소스

1. AWS Solutions Architect Associate 자격증 - 클라우드 SA의 기본
2. "Fundamentals of Software Architecture" (Mark Richards) - 아키텍처 설계 원칙
3. AWS/GCP Architecture Center - 실전 아키텍처 패턴

3-8. AI Product Manager

역할 설명

AI Product Manager(AI PM)는 AI 제품의 기획, 로드맵, 출시를 관리하는 역할입니다. 일반 PM과 달리, AI PM은 모델의 능력과 한계를 이해하고, 비결정적(non-deterministic)인 AI 시스템의 제품 경험을 설계해야 합니다.

2025년 AI PM의 연봉은 매우 높은 편입니다. Meta에서 약 352K, Anthropic에서 약 460K 수준입니다. AI 제품이 기업의 핵심 수익원이 되면서, AI를 이해하는 PM의 가치가 급상승했습니다.

AI PM의 핵심 업무는 AI 제품 전략 수립, 모델 성능 지표(정확도, 레이턴시, 비용) 관리, 사용자 피드백 기반 모델/프롬프트 개선, AI 윤리 및 안전 가이드라인 수립, 데이터 플라이휠 설계, 에이전트 워크플로의 UX 설계 등입니다.

필수 기술 스택

기술 이해:
- ML 기초: 지도/비지도학습, 딥러닝 기본 개념
- LLM: 프롬프트 엔지니어링, RAG, Fine-tuning 개념
- 메트릭: 정확도, 재현율, F1, BLEU, ROUGE, 인간 평가
- 데이터: A/B 테스트, 통계적 유의성, 데이터 파이프라인 이해
- 비용: 토큰 비용 계산, GPU 비용 최적화 이해

PM 역량:
- 제품 전략: 로드맵 수립, 우선순위 결정 (RICE, MoSCoW)
- 사용자 연구: 인터뷰, 서베이, 사용성 테스트
- 데이터 분석: SQL, Python(판다스), 대시보드 (Amplitude, Mixpanel)
- 커뮤니케이션: 엔지니어, 디자이너, C-Level 간 브릿지 역할
- 에이전트 UX: 에이전트 기반 제품의 사용자 경험 설계

연봉 범위

채용 기업

OpenAI, Anthropic, Google, Meta, Microsoft, Amazon, Apple, Netflix, Notion, Figma, 삼성전자, 네이버, 카카오, 토스, 쿠팡

이 직군이 맞는 사람

• 기술과 비즈니스의 교차점에서 의사결정을 내리는 것을 즐기는 사람
• "이 AI 기능이 사용자에게 어떤 가치를 주는가?"를 항상 고민하는 사람
• 엔지니어링 배경이 있되, 코딩보다 전략과 사용자 경험에 더 관심이 있는 사람

핵심 학습 리소스

1. "AI Product Management" (Marily Nika, Stanford 강의) - AI PM 전문 과정
2. Lenny's Newsletter / Podcast - 프로덕트 매니지먼트 인사이트
3. "Build" (Tony Fadell) - 제품 개발 철학

3-9. Context Engineer (NEW!)

역할 설명

Context Engineer는 2025년에 새롭게 등장한 직군으로, Shopify CEO Tobi Lutke가 명명한 개념입니다. LLM에게 적절한 맥락(Context)을 제공하여 최적의 출력을 이끌어내는 기술을 전문으로 합니다.

프롬프트 엔지니어링이 "어떻게 질문할 것인가"에 집중한다면, Context Engineering은 "어떤 정보를 어떤 순서로 어떤 형태로 제공할 것인가"에 집중합니다. 구체적으로는 시스템 프롬프트 설계, RAG 파이프라인 최적화, 도구(Tool) 정의 및 오케스트레이션, 에이전트의 메모리 관리, 컨텍스트 윈도우 최적화 등을 포함합니다.

Anthropic의 Claude, OpenAI의 GPT 시리즈가 컨텍스트 윈도우를 100K 이상으로 확장하면서, "주어진 컨텍스트 윈도우를 어떻게 효율적으로 활용할 것인가"가 핵심 경쟁력이 되었습니다. 이 분야는 아직 초기 단계이지만, 빠르게 독립적인 직군으로 자리잡고 있습니다.

필수 기술 스택

핵심 역량:
- 프롬프트 설계: 시스템 프롬프트, Few-shot, Chain-of-Thought
- RAG: 검색 전략, 청킹, 리랭킹, 하이브리드 검색
- 도구 설계: MCP (Model Context Protocol), Function Calling
- LLM 이해: 토크나이저, 어텐션 메커니즘, 컨텍스트 윈도우 동작
- 평가: 컨텍스트 품질 측정, A/B 테스트
- 프로그래밍: Python, TypeScript

추가 역량:
- 데이터 구조화: 정보 아키텍처, 지식 그래프
- 임베딩: 임베딩 모델 선택 및 최적화
- 벡터 검색: 벡터 DB, 유사도 검색 알고리즘
- 멀티모달: 이미지/문서/코드 등 다양한 컨텍스트 처리

연봉 범위

채용 기업

Anthropic, OpenAI, Shopify, Notion, Vercel, Cursor, Replit, 네이버, 카카오, 토스

이 직군이 맞는 사람

• LLM의 동작 원리를 깊이 이해하고, "같은 모델이라도 컨텍스트에 따라 성능이 천지차이"라는 것을 체감한 사람
• 정보 구조화와 지식 관리에 관심이 많은 사람
• 프롬프트 엔지니어링의 한계를 느끼고, 더 체계적인 접근을 원하는 사람

핵심 학습 리소스

1. Anthropic Prompt Engineering Guide - 컨텍스트 설계 최고의 가이드
2. LangChain RAG 튜토리얼 - RAG 파이프라인 구축 실습
3. MCP (Model Context Protocol) 공식 문서 - 도구 통합의 새로운 표준

3-10. Prompt Engineer

역할 설명

Prompt Engineer는 LLM에게 최적의 출력을 이끌어내는 프롬프트를 설계하는 역할입니다. 2023-2024년에 크게 주목받았으나, 2025년에는 독립 직군으로서의 위상이 변화하고 있습니다.

변화의 핵심은 두 가지입니다. 첫째, 프롬프트 엔지니어링이 Context Engineering으로 진화하면서 더 넓은 역할로 확장되고 있습니다. 둘째, LLM의 성능이 향상되면서 "프롬프트를 잘 짜는 것"만으로는 차별화가 어려워졌고, 도메인 전문성과 결합된 프롬프트 엔지니어링이 더 가치를 인정받고 있습니다.

그럼에도 불구하고, 대규모 LLM 애플리케이션을 운영하는 기업에서는 전담 Prompt Engineer의 수요가 여전히 존재합니다. 특히 의료, 법률, 금융 등 도메인 특화 프롬프트 엔지니어는 높은 프리미엄을 받습니다.

필수 기술 스택

핵심 역량:
- 프롬프트 기법: Zero-shot, Few-shot, Chain-of-Thought, Tree-of-Thought
- 구조화 출력: JSON 모드, XML 구조, 함수 호출
- LLM 이해: 토크나이저, Temperature, Top-p, 컨텍스트 윈도우
- 평가: 자동 평가(LLM-as-Judge), 인간 평가, 메트릭 설계
- 도메인 지식: 특정 산업 전문성 (의료/법률/금융)
- 프로그래밍: Python 기본, API 호출

추가 역량:
- DSPy: 프로그래밍 방식의 프롬프트 최적화
- 에이전트 프롬프트: 에이전트 시스템 프롬프트 설계
- 멀티모달 프롬프트: 이미지/문서 포함 프롬프트

연봉 범위

채용 기업

Anthropic, OpenAI, Google, Scale AI, Amazon, Microsoft, 의료/법률/금융 분야 AI 스타트업

이 직군이 맞는 사람

• 특정 도메인(의료, 법률, 금융 등)의 전문가이면서 AI에 관심이 있는 사람
• 언어에 대한 감각이 뛰어나고, 같은 말도 다르게 표현하는 것을 즐기는 사람
• 코딩 역량이 약하지만 AI 분야에 진입하고 싶은 사람(단, 장기적으로 코딩 학습 필요)

핵심 학습 리소스

1. OpenAI Prompt Engineering Guide - 프롬프트 엔지니어링 기본서
2. DAIR.AI Prompt Engineering Guide - 학술적 접근의 가이드
3. DSPy 공식 문서 - 프로그래밍 방식의 프롬프트 최적화

3-11. RAG Engineer / Knowledge Engineer

역할 설명

RAG(Retrieval-Augmented Generation) Engineer는 검색 증강 생성 파이프라인을 설계하고 구축하는 전문가입니다. 엔터프라이즈 AI 도입의 핵심이 "기업의 내부 데이터를 LLM에 연결하는 것"인 만큼, RAG Engineer의 수요는 2025년에 280% 폭증했습니다.

Knowledge Engineer는 RAG Engineer의 확장 개념으로, 기업의 지식 체계(Knowledge Base)를 구조화하고, 지식 그래프(Knowledge Graph)를 설계하며, LLM이 활용할 수 있는 형태로 변환하는 역할까지 포함합니다.

도메인 전문성을 갖춘 RAG Engineer(예: 의료 데이터, 법률 문서, 금융 데이터 전문)는 일반 RAG Engineer 대비 30-50% 연봉 프리미엄을 받습니다.

필수 기술 스택

핵심 역량:
- 벡터 DB: Pinecone, Weaviate, Qdrant, Milvus, Chroma, pgvector
- 임베딩: OpenAI Embeddings, Cohere Embed, Sentence Transformers
- 검색: BM25, 시맨틱 검색, 하이브리드 검색, 리랭킹
- 청킹: 문서 분할 전략 (고정 크기, 의미 기반, 재귀적)
- 파이프라인: LangChain, LlamaIndex, Haystack
- 평가: RAGAS, DeepEval, 커스텀 평가 메트릭

Knowledge Engineering 추가:
- 지식 그래프: Neo4j, GraphRAG, 온톨로지 설계
- 문서 처리: OCR, PDF 파싱, 표/이미지 추출
- 데이터 품질: 데이터 클렌징, 중복 제거, 메타데이터 관리
- 도메인 모델링: 특정 산업의 데이터 모델 이해

연봉 범위

채용 기업

Cohere, Pinecone, Weaviate, LlamaIndex, LangChain, Databricks, Snowflake, 삼성SDS, 네이버, 카카오엔터프라이즈

이 직군이 맞는 사람

• 검색 엔진, 정보 검색(IR)에 관심이 있거나 경험이 있는 사람
• "LLM의 환각(Hallucination)을 어떻게 줄일 것인가"에 대한 해법을 찾고 싶은 사람
• 특정 도메인(의료, 법률, 금융)의 데이터를 깊이 이해하고 있는 사람

핵심 학습 리소스

1. LlamaIndex RAG 튜토리얼 - RAG 파이프라인 구축의 A-Z
2. Pinecone Learning Center - 벡터 검색 이론과 실습
3. "Building RAG Applications" (Anthropic Cookbook) - 실전 RAG 구축 가이드

3-12. AI Infrastructure Engineer

역할 설명

AI Infrastructure Engineer는 AI 모델의 학습과 추론을 위한 대규모 인프라를 설계하고 운영하는 역할입니다. 수천 대의 GPU 클러스터 관리, 분산 학습 시스템 구축, 모델 서빙 인프라 최적화 등이 핵심 업무입니다.

2025년 AI 인프라의 핵심 트렌드는 GPU 공급 부족과 비용 최적화입니다. NVIDIA H100/H200, AMD MI300X 등 고성능 GPU의 수요가 공급을 크게 초과하면서, GPU 리소스를 효율적으로 활용하는 인프라 엔지니어의 가치가 크게 상승했습니다.

이 역할은 전통적인 인프라 엔지니어/SRE와 달리 GPU 메모리 관리, NCCL 통신 최적화, 모델 병렬화, 혼합 정밀도 학습 등 AI 특화 인프라 지식을 요구합니다.

필수 기술 스택

핵심 역량:
- GPU: NVIDIA CUDA, cuDNN, NCCL, GPU 메모리 관리
- 분산 시스템: 데이터 병렬, 텐서 병렬, 파이프라인 병렬
- 컨테이너: Kubernetes (GPU 스케줄링), Docker, NVIDIA Container Toolkit
- 클라우드: AWS (P5/Trainium), GCP (TPU/A3), Azure (ND H100)
- 모델 서빙: vLLM, Triton, TensorRT-LLM, KServe
- 스토리지: 분산 파일 시스템 (Lustre, GPFS), 오브젝트 스토리지
- 네트워킹: InfiniBand, RoCE, GPU Direct RDMA
- 모니터링: GPU 활용률, 메모리, 서멀, 전력

프로그래밍:
- Python, C++, CUDA, Go
- 시스템 프로그래밍 (리눅스 커널, 네트워크 스택)

연봉 범위

채용 기업

NVIDIA, Google, Meta, Microsoft, Amazon, OpenAI, Anthropic, CoreWeave, Lambda (GPU 클라우드), 삼성전자, SK 하이닉스

이 직군이 맞는 사람

• 하드웨어와 소프트웨어의 경계에서 일하는 것을 즐기는 사람
• "이 GPU 클러스터의 활용률을 95%까지 올려라"는 챌린지에 흥분하는 사람
• 시스템 프로그래밍, 리눅스, 네트워킹에 강한 배경을 가진 사람

핵심 학습 리소스

1. NVIDIA Deep Learning Institute (DLI) - GPU 프로그래밍 공식 교육
2. "Efficient Deep Learning" (MIT) - 효율적 딥러닝 시스템 설계
3. CoreWeave / Lambda GPU 클라우드 문서 - 실전 GPU 인프라 운영

3-13. AI Ethics Officer / Responsible AI Lead

역할 설명

AI Ethics Officer는 조직 내 AI 시스템의 윤리적 사용을 보장하는 역할입니다. AI Safety Engineer가 기술적 안전에 집중한다면, AI Ethics Officer는 정책, 거버넌스, 사회적 영향에 더 집중합니다.

EU AI Act 시행으로 유럽 시장에서 AI 제품을 출시하려면 반드시 AI 거버넌스 체계를 갖춰야 합니다. 이로 인해 AI Ethics Officer / Responsible AI Lead 직군의 수요가 급증했습니다.

핵심 업무는 AI 윤리 정책 수립, 편향 감사(Bias Audit) 실시, 규제 컴플라이언스 관리(EU AI Act, NIST AI RMF), AI Impact Assessment 수행, 투명성 보고서 작성, 이해관계자 교육 등입니다.

필수 기술 스택

핵심 역량:
- 규제 이해: EU AI Act, NIST AI RMF, ISO 42001, 한국 AI 기본법
- 편향 감사: Fairness 메트릭, Demographic Parity, Equalized Odds
- 도구: IBM AI Fairness 360, Google What-If Tool, Aequitas
- ML 기초: 모델의 동작 원리 이해 (비기술자보다 깊은 수준)
- 정책 작성: 기술 정책 문서, 가이드라인 작성
- 이해관계자 관리: C-Level, 법무팀, 엔지니어링팀 간 조율

배경:
- 법학, 공공정책, 철학, 사회학 + 기술 이해
- 또는 엔지니어링 배경 + 정책/윤리 역량

연봉 범위

채용 기업

Google, Microsoft, Meta, Amazon, IBM, Salesforce, SAP, 삼성전자, 카카오, 정부 기관(과기부, 개인정보보호위원회)

이 직군이 맞는 사람

• AI의 사회적 영향에 대해 깊이 고민하며, 기술과 정책의 교차점에서 일하고 싶은 사람
• 법학/정책학 배경이 있으면서 기술을 이해하는 사람
• "AI가 세상에 미치는 영향을 책임감 있게 관리하고 싶다"는 사명감이 있는 사람

핵심 학습 리소스

1. EU AI Act 전문 - AI 규제의 글로벌 기준
2. NIST AI Risk Management Framework - 미국 표준 AI 리스크 관리
3. "Ethics of AI" (Montreal AI Ethics Institute) - AI 윤리 실무 가이드

3-14. AI QA Engineer / Evaluation Specialist

역할 설명

AI QA Engineer는 AI 시스템의 품질을 보증하는 역할입니다. 전통적인 소프트웨어 QA와 달리, AI 시스템은 비결정적(non-deterministic)이라서 동일한 입력에 다른 출력이 나올 수 있습니다. 이러한 특성 때문에 AI 전용 QA 방법론과 도구가 필요하며, 이를 전문으로 하는 직군입니다.

Evaluation Specialist는 LLM의 성능을 체계적으로 평가하는 더 전문화된 역할입니다. 벤치마크 설계, 평가 데이터셋 구축, 자동 평가 파이프라인 운영, 인간 평가(Human Evaluation) 프로세스 관리 등을 담당합니다.

2025년에는 AI 에이전트의 등장으로 "에이전트가 올바르게 행동하는지 어떻게 검증할 것인가"가 새로운 과제로 부상하면서, 이 직군의 중요성이 더욱 커지고 있습니다.

필수 기술 스택

핵심 역량:
- 평가 프레임워크: DeepEval, RAGAS, LangSmith, Braintrust
- 벤치마크: MMLU, HumanEval, SWE-bench, WebArena, GAIA
- 테스팅: pytest, 속성 기반 테스트, 퍼징(fuzzing)
- 메트릭: 정확도, 재현율, BLEU, ROUGE, BERTScore
- LLM-as-Judge: GPT-4/Claude를 평가자로 활용하는 방법
- 인간 평가: 크라우드소싱, Likert Scale, 비교 평가
- 레드 팀: 적대적 테스트, 탈옥 시도, 엣지 케이스 발견
- 프로그래밍: Python (필수), SQL

추가 역량:
- CI/CD 통합: 평가 파이프라인의 자동화
- 데이터 관리: 평가 데이터셋 버전 관리, 레이블링 도구
- 통계: 통계적 유의성 검정, 신뢰 구간

연봉 범위

채용 기업

OpenAI, Anthropic, Google, Scale AI, Surge AI, Labelbox, 네이버, 카카오

이 직군이 맞는 사람

• "이 AI가 정말 제대로 작동하는 걸까?"라는 의문을 늘 품는 사람
• 꼼꼼하고 체계적인 성격으로, 예외 케이스를 찾는 것을 즐기는 사람
• QA/테스팅 경험이 있고 AI 도메인으로 확장하고 싶은 사람

핵심 학습 리소스

1. DeepEval 공식 문서 - LLM 평가 프레임워크
2. "LLM Evaluation Guidebook" (Hugging Face) - LLM 평가 종합 가이드
3. Scale AI의 평가 방법론 블로그 - 대규모 인간 평가 운영

3-15. AI Consultant (Big 4 + MBB)

역할 설명

AI Consultant는 기업의 AI 전략 수립부터 구현까지를 자문하는 역할입니다. 컨설팅 업계에서 AI는 2025년 가장 큰 수익 성장 동력이며, McKinsey, BCG, Bain(MBB)과 Deloitte, PwC, EY, KPMG(Big 4) 모두 AI 프랙티스를 대폭 확장하고 있습니다.

AI Consultant의 핵심은 기술적 깊이와 비즈니스 전략의 결합입니다. 클라이언트의 AI 성숙도 평가, AI 전환(AX) 로드맵 수립, AI 유즈케이스 발굴 및 ROI 분석, AI 조직 설계, AI 거버넌스 체계 구축 등을 수행합니다.

특히 MBB 컨설팅 펌에서는 "AI 네이티브 컨설턴트" -- 즉, 전통적인 전략 컨설팅 역량에 AI 기술 역량을 더한 인재를 적극적으로 채용하고 있습니다.

필수 기술 스택

비즈니스 역량:
- 전략: AI 전략 프레임워크, 디지털 전환, 비즈니스 모델 혁신
- 분석: ROI 분석, TCO 분석, 비용-편익 분석
- 프레젠테이션: C-Level 대상 발표, 100페이지+ 보고서 작성
- 프로젝트 관리: 대규모 AI 프로젝트 PMO
- 산업 이해: 금융, 의료, 제조, 유통 등

기술 이해:
- ML/LLM 기초: 비기술자보다 훨씬 깊은 수준
- AI 아키텍처: RAG, Fine-tuning, 에이전트 개념 이해
- 클라우드: AWS/GCP/Azure 기본 아키텍처
- 데이터: 데이터 전략, 데이터 거버넌스
- AI 도입: PoC 설계, MVP 구축 방법론

연봉 범위

채용 기업

McKinsey (QuantumBlack), BCG (BCG X), Bain, Deloitte AI Institute, PwC, EY, KPMG, Accenture, IBM Consulting, 삼성SDS, LG CNS

이 직군이 맞는 사람

• MBA나 경영/전략 배경이 있으면서 기술을 이해하는 사람
• "AI가 이 기업의 매출을 20% 올릴 수 있을까?"라는 질문에 답할 수 있는 사람
• 다양한 산업과 기업을 경험하며 폭넓은 시야를 기르고 싶은 사람

핵심 학습 리소스

1. McKinsey Global Institute AI 리포트 - AI 비즈니스 임팩트 분석
2. "AI Superpowers" (Kai-Fu Lee) - AI 비즈니스 전략의 기본서
3. Harvard Business Review AI 시리즈 - 비즈니스 관점의 AI 인사이트

4. FDE vs SE vs SA 심층 비교

비교표

2025년 AI 기업 채용에서 가장 혼동되는 세 가지 역할을 심층 비교합니다.

어떤 성향에 어떤 역할이 맞는가

FDE가 맞는 사람:

• "나는 코드를 짜면서 동시에 고객과 직접 소통하고 싶다"
• 매주 다른 프로젝트, 다른 고객을 경험하는 것이 지루하지 않다
• 모호한 문제를 받아서 스스로 정의하고 해결하는 것이 즐겁다
• 출장이 잦아도 괜찮고, 다양한 환경에 적응하는 것이 어렵지 않다

SE가 맞는 사람:

• "나는 제품의 기술적 가치를 고객에게 전달하는 것이 보람있다"
• 세일즈 사이클에 참여하여 기술적 신뢰를 구축하는 것이 즐겁다
• 데모와 PoC를 만들어 고객의 "아하!" 순간을 이끌어내고 싶다
• 제품의 기능을 누구보다 깊이 이해하고 활용하는 것이 자랑스럽다

SA가 맞는 사람:

• "나는 큰 그림을 그리고, 기술 전략을 설계하는 것이 좋다"
• 특정 기술을 깊이 파기보다 여러 기술을 조합하여 최적의 아키텍처를 설계하고 싶다
• C-Level 앞에서 기술 전략을 발표하는 것이 부담스럽지 않다
• 장기적으로 기술 리더십이나 컨설팅 역할로 성장하고 싶다

FDE 채용 기업 상세

5. 한국 SI의 AI 전환 (AX)

한국 SI 산업의 구조적 변화

2025년 한국 SI(시스템 통합) 산업은 DX(디지털 전환)를 넘어 **AX(AI 전환)**이라는 새로운 패러다임으로 급격하게 이동하고 있습니다. 삼성SDS, LG CNS, SK C&C 등 주요 SI 기업들이 "AI 퍼스트" 전략을 선언하고, 조직 구조, 인재 채용, 기술 스택을 AI 중심으로 재편하고 있습니다.

삼성SDS

AI 전략 핵심:

• FabriX: 삼성SDS의 AI 플랫폼으로, 엔터프라이즈 AI 개발/배포/관리를 통합
• Brity Copilot: 기업용 AI 어시스턴트로, 삼성 그룹사 내부에서 활발히 사용
• OpenAI 독점 리셀러: 한국에서 OpenAI 서비스의 독점 리셀러 지위 확보
• 풀스택 AI: 컨설팅부터 개발, 인프라, 운영까지 AI 전 영역 커버

채용 동향:

삼성SDS는 전통적인 SI 개발자 채용을 줄이고, AI/ML Engineer, MLOps Engineer, AI 솔루션 아키텍트 채용을 대폭 확대하고 있습니다. 특히 OpenAI 리셀러 사업 확장으로 LLM 통합 경험이 있는 엔지니어의 수요가 급증했습니다.

LG CNS

AI 전략 핵심:

• AI 코딩 플랫폼: 자체 AI 코딩 도구 개발
• IPO 추진: 약 827M 규모의 IPO를 추진하며 AI 기업으로의 전환 가속
• 스마트팩토리 AI: 제조업 AI 적용의 선두주자
• 클라우드 AI: AWS/GCP 기반 AI 인프라 구축 서비스

채용 동향:

LG CNS는 IPO를 앞두고 AI 인재 확보에 공격적입니다. 특히 제조 도메인의 AI 적용 경험이 있는 엔지니어, 클라우드 네이티브 AI 인프라 엔지니어를 적극 채용하고 있습니다.

SK C&C

AI 전략 핵심:

• AI 데이터센터: 울산 AI 데이터센터 구축 추진
• AI 컨택센터: AI 기반 고객 상담 솔루션
• 대규모 AI 인프라: GPU 클러스터 운영 역량 강화

채용 동향:

데이터센터 인프라 엔지니어, GPU 클러스터 관리 전문가, AI 인프라 아키텍트 등 인프라 중심의 AI 인재 수요가 높습니다.

SI 엔지니어에게 필요한 AI 역량 변화

2025년 SI 엔지니어에게 요구되는 역량이 근본적으로 변화하고 있습니다.

기존 SI 엔지니어의 핵심 역량:

• Java/Spring 기반 웹 개발
• Oracle/MySQL 데이터베이스 관리
• 레거시 시스템 유지보수
• 워터폴 프로젝트 관리

2025 AI SI 엔지니어에게 추가로 요구되는 역량:

• Python 기본 역량
• LLM API 통합 (OpenAI, Claude API)
• RAG 파이프라인 기본 이해
• 벡터 DB 사용 경험
• 클라우드 네이티브 아키텍처 (K8s, Docker)
• AI 서비스 모니터링

전통 SI vs AI SI 비교

SI 엔지니어를 위한 조언: 전통 SI에서 AI SI로의 전환은 선택이 아닌 필수입니다. 가장 효과적인 전환 경로는 (1) Python 기본 학습, (2) OpenAI/Claude API 연동 프로젝트 경험, (3) RAG 파이프라인 구축 경험, (4) 클라우드 자격증(AWS SAA 등) 취득 순서입니다.

6. 기술 스택 수요 분석

프로그래밍 언어

AI 프레임워크 및 도구

LLM 애플리케이션:

모델 서빙:

인프라 도구

컨테이너/오케스트레이션:
- Kubernetes: AI 인프라의 사실상 표준
- Docker: 컨테이너화 필수
- Helm: K8s 패키지 관리

IaC (Infrastructure as Code):
- Terraform: 멀티클라우드 IaC 표준
- Pulumi: 프로그래밍 언어 기반 IaC
- AWS CloudFormation / CDK

클라우드 (AI 서비스):
- AWS: SageMaker, Bedrock, Trainium
- GCP: Vertex AI, TPU, Gemini API
- Azure: Azure OpenAI Service, Azure ML

모니터링/관측성:
- Prometheus + Grafana: 메트릭 모니터링
- Datadog: 통합 관측성 플랫폼
- LangSmith: LLM 특화 관측성

AI 특화 기술

소프트 스킬

2025년 AI 채용에서 기술 역량만큼 중요해진 소프트 스킬:

1. 고객 커뮤니케이션 (FDE, SE, SA): 기술 개념을 비기술자에게 설명하는 능력
2. 기술 문서화: API 문서, 아키텍처 문서, 운영 가이드 작성
3. 도메인 전문성: 금융, 의료, 법률, 제조 등 특정 산업 이해
4. 크로스펑셔널 협업: 엔지니어, PM, 디자이너, 세일즈 간 소통
5. 영어 커뮤니케이션: 글로벌 AI 기업 취업의 필수 조건

7. 경력 단계별 AI 커리어 전략

신입 (0-2년): 어떤 직군부터 시작할 것인가

컴퓨터공학 전공 졸업생:

가장 권장하는 시작 직군은 ML Engineer 또는 **Software Engineer (AI 팀)**입니다. 이유는 단순합니다. 가장 많은 포지션이 열려 있고, 가장 넓은 커리어 패스를 제공하기 때문입니다. ML Engineer로 시작하면 이후 MLOps, AI Agent, FDE, Research 등 거의 모든 방향으로 전환이 가능합니다.

추천 액션 플랜:

1-3개월: Python + ML 기초 (scikit-learn, PyTorch)
3-6개월: LLM 생태계 (HuggingFace, OpenAI API, LangChain)
6-9개월: 포트폴리오 프로젝트 (RAG 앱 or AI 에이전트 구축)
9-12개월: 인턴십 또는 주니어 포지션 지원

비전공자 / 문과 출신:

AI PM, Prompt Engineer, AI Consultant가 진입 장벽이 상대적으로 낮습니다. 다만 장기적으로 Python 프로그래밍 역량을 갖추는 것이 중요합니다.

추천 액션 플랜:

1-3개월: Python 기초 + AI 개론 (Andrew Ng Coursera)
3-6개월: 프롬프트 엔지니어링 + LLM API 활용
6-9개월: 도메인 전문성 강화 (의료/법률/금융 + AI)
9-12개월: AI PM 또는 AI 컨설턴트 포지션 지원

주니어 (2-5년): T자형 인재로 성장하기

주니어 단계의 핵심 전략은 T자형 인재가 되는 것입니다. 한 가지 분야에서 깊은 전문성(T의 세로)을 쌓으면서, 동시에 인접 분야에 대한 넓은 이해(T의 가로)를 갖추는 것입니다.

ML Engineer 기준 T자형 성장:

• 세로 (깊이): 모델 최적화, 추론 서빙, 분산 학습 -- 한 가지를 마스터
• 가로 (넓이): MLOps 기초, 프로덕트 감각, 데이터 엔지니어링 기초, 클라우드 인프라

이 시기에 해야 할 것:

1. 오픈소스 기여 (GitHub 프로필 강화)
2. 기술 블로그 운영 (전문성 가시화)
3. 컨퍼런스 발표 (네트워킹 + 브랜딩)
4. 멘토 확보 (시니어 엔지니어로부터 배우기)
5. 사이드 프로젝트 (관심 있는 인접 분야 탐색)

시니어 (5-8년): 전문가 vs 매니저 트랙

시니어 레벨에서는 두 가지 트랙 중 하나를 선택해야 합니다.

IC(Individual Contributor) 트랙 -- 기술 전문가:

• Staff Engineer / Principal Engineer 방향
• 기술적 의사결정 주도
• 시스템 아키텍처 설계
• 기술 멘토링
• 연봉: US 400K-700K+, Korea 1.5-3억원+

Manager 트랙 -- 기술 리더:

• Engineering Manager / Director 방향
• 팀 빌딩 및 인재 관리
• 프로젝트/프로그램 관리
• 크로스팀 조율
• 연봉: US 350K-600K+, Korea 1.3-2.5억원+

어떤 트랙이 맞는지 자가 진단:

리드/프린시펄 (8년+): IC vs 매니저 vs 창업

8년 이상의 경력에서는 세 번째 옵션이 등장합니다.

옵션 1: IC 리더 (Distinguished Engineer / Fellow)

• 회사 전체의 기술 방향 설정
• 업계에 영향을 미치는 수준의 전문성
• 매우 드문 포지션 (Google L8+, Meta E8+)
• 연봉: US 800K-1.5M+

옵션 2: 기술 임원 (VP/SVP of Engineering, CTO)

• 엔지니어링 조직 전체 관리
• 기술 전략과 비즈니스 전략의 교차점
• 채용, 조직 설계, 예산 관리
• 연봉: US 500K-1M+

옵션 3: 창업

• AI 분야의 창업은 2025년 현재 가장 활발한 시기
• VC 투자가 AI 스타트업에 집중
• 기술력 + 도메인 전문성 + 비즈니스 감각 필요
• 리스크가 크지만 잠재적 보상도 가장 큼

8. 연봉 대시보드

15개 직군 연봉 종합 비교표

아래 표는 각 직군의 중간 경력(Mid-level, 3-6년) 기준 연봉입니다.

연봉 핵심 인사이트

가장 높은 연봉 직군 (US Senior 기준):

1. Research Scientist: 800K+ (Top-tier AI Lab 기준)
2. AI Consultant (Partner): 800K+ (MBB Partner 기준)
3. AI Safety Engineer: 700K+
4. AI Agent Engineer: 550K+
5. AI Infrastructure Engineer: 550K+

한국에서 가장 높은 연봉 직군:

1. Research Scientist (네이버/삼성AI): 1.5-3억원+
2. ML Engineer (빅테크/AI 스타트업): 1-2.5억원+
3. AI Safety Engineer (글로벌 AI 기업): 1-2억원+

연봉 프리미엄 요인:

• 도메인 전문성 (의료/금융): +20-50%
• 글로벌 AI 기업 재직 경험: +30-50%
• 탑티어 논문 퍼블리케이션: +20-40% (Research)
• 오픈소스 기여 (유명 프로젝트): +15-30%
• 바이링구얼 (한/영): +10-20% (한국 시장)

9. 자격증 및 학습 리소스 총정리

직군별 추천 자격증

자격증에 대한 솔직한 조언: AI 분야에서 자격증의 가치는 제한적입니다. 실무 프로젝트 경험, 오픈소스 기여, 기술 블로그가 훨씬 더 큰 가치를 인정받습니다. 자격증은 "기본 역량 증명"의 수단으로 활용하되, 핵심 경쟁력으로 의존하지 마세요.

무료 학습 리소스 TOP 10

유료 학습 리소스 TOP 5

커뮤니티 및 네트워킹

글로벌:

• Hugging Face Community - 가장 활발한 AI 오픈소스 커뮤니티
• r/MachineLearning (Reddit) - ML 뉴스와 논문 토론
• AI Twitter / X - 실시간 AI 뉴스와 트렌드
• Discord: LangChain, Hugging Face, Weights and Biases - 실시간 기술 질의

한국:

• 모두의연구소 (modulabs.co.kr) - AI 스터디 그룹 운영
• 가짜연구소 (pseudo-lab.com) - AI 논문 리뷰, 프로젝트
• AI Korea (Facebook/LinkedIn) - 한국 AI 커뮤니티
• 네이버 D2, 카카오 AI Report - 국내 기업 기술 블로그
• Seoul AI Meetup - 오프라인 네트워킹

실전 퀴즈

지식 점검 5문제

참고 자료

1. Stanford HAI, "AI Index Report 2025" - AI 채용 및 투자 동향 종합
2. LinkedIn Economic Graph, "AI Talent Trends 2025" - AI 직군별 수요 성장률
3. Levels.fyi, "AI/ML Compensation Data 2025" - AI 엔지니어 연봉 데이터
4. Glassdoor, "AI Job Market Report 2025" - AI 직무 시장 분석
5. OpenAI Careers Page - OpenAI 채용 포지션 및 요건
6. Anthropic Careers Page - Anthropic 채용 포지션 및 보상
7. Google DeepMind Careers - DeepMind 채용 현황
8. Palantir FDE Job Description - FDE 역할 정의의 원본
9. Cohere Careers - FDE for Agentic Platform 포지션
10. McKinsey Global Institute, "The State of AI in 2025" - AI 비즈니스 임팩트
11. EU AI Act Official Text - AI 규제 프레임워크
12. NIST AI Risk Management Framework - AI 리스크 관리 표준
13. Tobi Lutke (Shopify CEO), "Context Engineering" 개념 발표
14. Andrew Ng, "AI Agentic Design Patterns" - 에이전트 설계 원칙
15. Chip Huyen, "Designing Machine Learning Systems" - 프로덕션 ML 설계
16. 삼성SDS 공식 블로그 - FabriX, Brity Copilot 소개
17. LG CNS IR 자료 - IPO 및 AI 전략
18. SK C&C 공식 발표 - 울산 AI 데이터센터
19. LangChain Blog, "State of AI Agents 2025" - 에이전트 생태계 현황
20. HuggingFace Blog, "Open Source AI in 2025" - 오픈소스 AI 동향
21. Anthropic Research Blog - Constitutional AI, Alignment 연구
22. ARENA (Alignment Research Engineer Accelerator) - AI Safety 교육
23. Made With ML - MLOps 학습 리소스
24. fast.ai - 무료 ML 교육
25. AWS AI/ML Blog - 클라우드 AI 서비스 트렌드
26. Databricks State of Data + AI Report 2025 - 데이터+AI 산업 동향
27. Scale AI, "AI Readiness Report 2025" - 기업 AI 도입 현황