Skip to content

Split View: SI 산업의 AI 대전환: 삼성SDS·LG CNS·SK C&C의 AX 전략과 SI 엔지니어 생존 가이드

✨ Learn with Quiz
|

SI 산업의 AI 대전환: 삼성SDS·LG CNS·SK C&C의 AX 전략과 SI 엔지니어 생존 가이드

1. SI 산업의 현재와 AI 전환

1-1. 글로벌 SI 시장 규모와 성장 전망

글로벌 시스템 통합(SI) 시장은 2025년 기준 약 5,530억 달러 규모이며, 2030년까지 7,640억 달러로 성장할 것으로 예측됩니다 (CAGR 6.7%). 이 성장의 핵심 동력은 AI와 클라우드입니다.

지표수치
글로벌 SI 시장 (2025)5,530억 달러
글로벌 SI 시장 (2030 예측)7,640억 달러
CAGR (2025-2030)6.7%
한국 IT 서비스 시장 (2025)약 28조 원
AI 관련 SI 프로젝트 비중40% 이상 (2026 예측)

1-2. 한국 IT 서비스 시장 구조

한국의 IT 서비스 시장은 독특한 대기업 계열 SI 구조를 가지고 있습니다.

Tier 1 - 대기업 계열 SI

  • 삼성SDS: 삼성그룹 IT 서비스 + 외부 사업 확대
  • LG CNS: LG그룹 IT 서비스 + IPO로 독립 가속
  • SK C&C: SK그룹 IT 서비스 + AI/DT 사업 확장

Tier 2 - 중견 SI / 전문 기업

  • 포스코DX, 현대오토에버, 한화시스템
  • KT DS, NHN Cloud, 카카오엔터프라이즈

Tier 3 - 글로벌 SI 한국 법인

  • 액센추어, 딜로이트, IBM, 인포시스

Tier 4 - 중소 SI / 스타트업

  • 수천 개의 중소 SI 기업 (하도급 구조)

1-3. DX에서 AX로: 전환의 의미

**DX (Digital Transformation)**는 기존 비즈니스를 디지털화하는 것이었습니다. 클라우드 이전, 모바일 앱 구축, 레거시 시스템 현대화가 핵심이었죠.

**AX (AI Transformation)**는 한 단계 더 나아갑니다. AI를 비즈니스의 핵심 역량으로 통합하는 것입니다.

DX (2015-2023)                    AX (2024-2030+)
─────────────────                  ─────────────────
클라우드 이전          →           AI 네이티브 아키텍처
모바일 앱              →           AI 에이전트 서비스
데이터 웨어하우스      →           AI/ML 파이프라인
RPA 자동화             →           Agentic AI 자동화
대시보드 리포팅        →           예측/생성형 AI 분석

1-4. SI에서 AI가 왜 중요한가

McKinsey 2024 Global AI Survey에 따르면:

  • 88% 기업이 최소 1개 비즈니스 기능에 AI 활용 중
  • 65% 기업이 생성형 AI를 1개 이상 기능에 도입
  • AI 도입 기업의 **25%**가 비용 절감 효과 확인

Gartner는 2028년까지 70%의 AI 애플리케이션이 멀티 에이전트 시스템으로 구축될 것으로 예측합니다.

SI 기업에게 이것은 무엇을 의미할까요?

  1. 기존 프로젝트의 AI 확장: 모든 기업 시스템에 AI 기능 추가 수요 폭발
  2. 새로운 프로젝트 유형: AI 에이전트, RAG 시스템, MLOps 파이프라인
  3. 인력 재편: 전통적 개발자에서 AI 엔지니어로의 전환 압력
  4. 가격 모델 변화: 인월(Man-Month) 기반에서 AI 성과 기반으로

2. 한국 3대 SI 기업 AI 전략 심층 분석

2-1. 삼성SDS: 풀스택 AI 전략

사업 현황 (2024)

지표수치
총 매출13.83조 원
클라우드 사업 매출2.32조 원 (+23.5% YoY)
영업이익8,760억 원
직원 수약 23,000명

AI 전략: 인프라에서 컨설팅까지

삼성SDS의 AI 전략은 풀스택(Full-Stack) 접근입니다. 인프라부터 플랫폼, 애플리케이션, 컨설팅까지 전 영역을 커버합니다.

[삼성SDS 풀스택 AI 아키텍처]

Layer 4: AI 컨설팅 / 비즈니스 적용
  └── 산업별 AI 솔루션 (제조, 금융, 물류)
  └── AI 도입 컨설팅 / PoC 서비스

Layer 3: AI 애플리케이션
  └── Brity Copilot (업무용 AI 비서)
  └── Brity Automation (RPA + AI)
  └── ChatGPT Enterprise (한국 독점 리셀러)

Layer 2: AI 플랫폼
  └── FabriX (AI/데이터 통합 플랫폼)
  └── Brity Works (워크플로우 자동화)

Layer 1: AI 인프라
  └── Samsung Cloud Platform (SCP)
  └── 국가 AI 컴퓨팅 센터 수주
  └── GPU 클러스터 운영

핵심 제품 분석

FabriX - AI/데이터 플랫폼 FabriX는 삼성SDS의 엔터프라이즈 AI 플랫폼입니다. 기업이 자체 데이터를 활용해 AI 모델을 훈련하고 배포할 수 있는 통합 환경을 제공합니다.

주요 기능:

  • 데이터 수집/전처리 파이프라인
  • AI 모델 학습/배포 관리
  • RAG(Retrieval-Augmented Generation) 파이프라인
  • 프롬프트 관리 및 A/B 테스트
  • 모델 모니터링 및 비용 최적화

Brity Copilot - 업무용 AI 비서 Brity Copilot은 삼성그룹 내부에서 이미 대규모로 배포된 업무용 AI 비서입니다.

기능 영역:

  • 문서 요약/생성 (보고서, 이메일, 회의록)
  • 코드 생성/리뷰 (개발자용)
  • 데이터 분석 (SQL 생성, 차트 생성)
  • 사내 지식 검색 (RAG 기반)

OpenAI ChatGPT Enterprise 한국 독점 리셀러 삼성SDS는 OpenAI의 ChatGPT Enterprise를 한국 시장에 독점 공급합니다. 이는 단순 재판매가 아니라, 삼성SDS의 보안/컴플라이언스 솔루션과 결합한 엔터프라이즈 패키지입니다.

채용 동향

삼성그룹은 5년간 60,000명 채용 계획을 발표했으며, AI/소프트웨어 인력이 핵심입니다. 삼성SDS의 주요 채용 분야:

  • AI/ML 엔지니어
  • 클라우드 아키텍트
  • 데이터 엔지니어
  • AI 솔루션 컨설턴트

2-2. LG CNS: IPO와 AI 코딩 플랫폼

사업 현황 (2024-2025)

지표수치
IPO 조달 금액약 8,270억 원 (약 5.7억 달러)
기업가치약 5.9조 원 (약 41억 달러)
클라우드/AI 매출3.35조 원 (전체의 56%)
직원 수약 7,600명

AI 전략: 소프트웨어 생산성 혁명

LG CNS의 AI 전략은 소프트웨어 개발 자체의 AI화에 초점을 맞추고 있습니다. 즉, SI의 핵심 프로세스인 개발/테스트/배포를 AI로 자동화하는 것입니다.

DevOn AI - AI 기반 개발 자동화 플랫폼

DevOn AI는 전체 SDLC(Software Development Life Cycle)를 AI로 전환하는 야심찬 플랫폼입니다.

[DevOn AI SDLC 자동화]

요구사항 분석    →  AI 요구사항 정리/분류
설계              →  AI 아키텍처 제안/리뷰
개발              →  AI 코드 생성 (반복 코드 자동화)
테스트            →  AI 테스트 케이스 생성/실행
배포              →  AI 기반 CI/CD 최적화
운영              →  AI 모니터링/장애 예측

주요 특징:

  • 기업 코드베이스 학습을 통한 맞춤형 코드 생성
  • 레거시 코드 분석 및 현대화 제안
  • 자동 코드 리뷰 및 품질 체크
  • 테스트 코드 자동 생성

포커스 산업

LG CNS는 세 가지 산업에 AI 전환을 집중하고 있습니다:

1. 금융 AI

  • 은행/보험/증권 AI 상담 시스템
  • AI 기반 리스크 분석
  • 문서 자동 처리 (OCR + LLM)

2. 제조 AI

  • 스마트 팩토리 AI (품질 예측, 설비 예지 보전)
  • 공급망 AI 최적화
  • 디지털 트윈 + AI 시뮬레이션

3. 유통/리테일 AI

  • AI 기반 수요 예측
  • 개인화 추천 시스템
  • AI 무인 매장 솔루션

2-3. SK C&C / SK Group: AI 인프라와 에이전트

사업 현황

지표수치
SK그룹 AI 채용 (2025)8,000명 (AI, 반도체, 디지털)
SK텔레콤 AI 투자연간 1조 원+
AI 데이터센터울산 대규모 센터 건설

AI 전략: 인프라 + 에이전트 양면 전략

AI 인프라 축

  • 울산 AI 데이터센터: 대규모 GPU 클러스터 운영
  • NVIDIA 파트너십을 통한 AI 컴퓨팅 서비스
  • 클라우드 기반 AI 인프라 서비스 (CloudZ)

AI 에이전트 축

  • SK텔레콤 "A." 플랫폼: 통신사 기반 AI 에이전트
  • 에이전트 마켓플레이스: 다양한 AI 에이전트 생태계 구축
  • 기업용 AI 에이전트: 업무 자동화, 고객 서비스

글로벌 AI 파트너십

  • Microsoft: Azure 기반 AI 서비스 협력
  • NVIDIA: AI 인프라/컴퓨팅 파트너십
  • Anthropic, OpenAI: LLM 모델 파트너십

SK의 차별점

SK는 **통신(SKT) + IT서비스(SK C&C) + 반도체(SK하이닉스)**의 시너지를 통해 AI 밸류체인 전체를 커버합니다.

[SK AI 밸류체인]

SK하이닉스: HBM (고대역폭 메모리)GPU 핵심 부품
SK C&C: AI 인프라 / 데이터센터
SK텔레콤: AI 서비스 / 에이전트 플랫폼
SK 계열사: AI 적용 (에너지, 화학, 바이오 등)

3. SI 프로젝트의 AI 적용 패턴 (실전 사례)

패턴 1: 기존 시스템 + AI 기능 추가

가장 흔한 패턴: 이미 운영 중인 기업 시스템에 AI 기능을 추가합니다.

대표 사례: RAG 기반 사내 지식 검색

기존의 사내 포털 검색이 키워드 기반이라 원하는 정보를 찾기 어려운 문제를 해결합니다.

# RAG 파이프라인 간단 예시
from langchain.vectorstores import Milvus
from langchain.embeddings import OpenAIEmbeddings
from langchain.chains import RetrievalQA
from langchain.chat_models import ChatOpenAI

# 1. 사내 문서를 벡터화
embeddings = OpenAIEmbeddings()
vectorstore = Milvus.from_documents(
    documents=company_docs,
    embedding=embeddings,
    collection_name="internal_knowledge"
)

# 2. RAG 체인 구성
qa_chain = RetrievalQA.from_chain_type(
    llm=ChatOpenAI(model="gpt-4o"),
    chain_type="stuff",
    retriever=vectorstore.as_retriever(
        search_kwargs={"k": 5}
    )
)

# 3. 질의
result = qa_chain.run("올해 연차 사용 규정이 어떻게 되나요?")

아키텍처 구성:

[사용자][기존 포털 UI][API Gateway]
                            [AI 서비스 레이어]
                            ├── 임베딩 서비스
                            ├── 벡터 DB (Milvus)
                            ├── LLM 서비스 (GPT-4o/Claude)
                            └── 프롬프트 관리
                            [기존 백엔드 시스템]
                            ├── 문서 관리 시스템
                            ├── 사내 위키
                            └── 규정/메뉴얼 DB
항목내용
기술 스택Python, FastAPI, LangChain, Milvus, OpenAI API
예상 기간3-4개월
팀 구성AI 엔지니어 2, 백엔드 1, 프론트엔드 1, PM 1
핵심 과제데이터 전처리 품질, 할루시네이션 방지

패턴 2: AI 기반 업무 자동화 (RPA에서 AI Agent로)

RPA의 한계를 AI로 극복: 기존 RPA는 규칙 기반이라 변형에 취약합니다. AI Agent는 상황을 이해하고 유연하게 대응합니다.

# AI Agent 기반 문서 처리 예시
from langchain.agents import AgentExecutor, create_openai_tools_agent
from langchain.tools import tool

@tool
def extract_invoice_data(document_path: str) -> dict:
    """송장에서 핵심 데이터를 추출합니다."""
    # OCR + LLM으로 송장 파싱
    ocr_text = run_ocr(document_path)
    extracted = llm.extract_structured(
        text=ocr_text,
        schema=InvoiceSchema
    )
    return extracted

@tool
def validate_against_po(invoice_data: dict) -> dict:
    """추출된 송장 데이터를 발주서(PO)와 대조합니다."""
    po = fetch_purchase_order(invoice_data["po_number"])
    discrepancies = compare(invoice_data, po)
    return {"valid": len(discrepancies) == 0, "issues": discrepancies}

@tool
def submit_for_approval(invoice_data: dict, validation: dict) -> str:
    """검증된 송장을 승인 프로세스에 제출합니다."""
    if validation["valid"]:
        return approval_system.submit(invoice_data, auto_approve=True)
    else:
        return approval_system.submit(invoice_data, flag_review=True)

# Agent가 스스로 판단하여 도구를 순차 호출
agent = create_openai_tools_agent(
    llm=ChatOpenAI(model="gpt-4o"),
    tools=[extract_invoice_data, validate_against_po, submit_for_approval],
    prompt=agent_prompt
)
항목RPA (기존)AI Agent (전환 후)
규칙 변경 대응수동 스크립트 수정AI가 자동 적응
비정형 데이터처리 불가LLM으로 이해/처리
예외 처리에러 후 중단자율 판단/에스컬레이션
유지보수 비용높음 (규칙 업데이트)낮음 (프롬프트 조정)

패턴 3: 데이터 분석/예측

AI 기반 수요 예측 및 이상 탐지

# 수요 예측 + LLM 해석 결합 예시
import pandas as pd
from prophet import Prophet
from langchain.chat_models import ChatOpenAI

# 1. 시계열 예측 (Prophet)
model = Prophet(yearly_seasonality=True)
model.fit(sales_data)
forecast = model.predict(future_dates)

# 2. LLM으로 예측 결과 해석 및 보고서 생성
llm = ChatOpenAI(model="gpt-4o")
report = llm.invoke(f"""
다음 수요 예측 결과를 분석하여 경영진 보고서를 작성하세요:
- 예측 기간: 다음 분기
- 주요 수치: 평균 {forecast['yhat'].mean():.0f}건/일
- 상한: {forecast['yhat_upper'].mean():.0f}건/일
- 하한: {forecast['yhat_lower'].mean():.0f}건/일
- 전년 동기 대비 변화: +12%
비즈니스 맥락과 함께 3가지 핵심 인사이트를 도출하세요.
""")

패턴 4: 대화형 AI 서비스

고객 상담 챗봇 / 내부 헬프데스크

[대화형 AI 서비스 아키텍처]

고객/직원    →    [인터페이스 (Web/App/Teams)]
                  [대화 관리 레이어]
                  ├── 의도 분류 (Intent Classification)
                  ├── 대화 이력 관리 (Memory)
                  └── 멀티턴 컨텍스트 유지
                  [AI 처리 레이어]
                  ├── RAG (지식 기반 응답)
                  ├── Function Calling (시스템 연동)
                  └── Human Handoff (상담원 전환)
                  [백엔드 시스템]
                  ├── CRM / ERP
                  ├── 지식 베이스
                  └── 티켓 시스템

패턴 5: 멀티 에이전트 워크플로우

문서 처리부터 승인까지 자동화하는 멀티 에이전트 시스템

[멀티 에이전트 문서 처리 워크플로우]

[문서 수신 Agent]
  │  문서 분류, 메타데이터 추출
[데이터 추출 Agent]
OCR + LLM으로 핵심 데이터 추출
[검증 Agent]
  │  규정 준수 확인, 데이터 정합성 체크
[승인 라우팅 Agent]
  │  금액/유형에 따라 승인자 결정
[알림 Agent]
     결과 통보, 후속 작업 트리거

각 에이전트는 독립적으로 동작하며, 이전 에이전트의 결과를 입력으로 받습니다. 에러 발생 시 자동으로 재시도하거나, 사람에게 에스컬레이션합니다.

항목내용
기술 스택Python, LangGraph, CrewAI, FastAPI
예상 기간4-6개월
팀 구성AI 엔지니어 3, 백엔드 2, 도메인 전문가 1, PM 1
핵심 과제에이전트 간 상태 관리, 에러 처리, 성능 최적화

4. SI 엔지니어에게 필요한 AI 역량 전환

4-1. 전통 SI 역량 vs AI SI 역량 비교

영역전통 SIAI SI
주력 언어Java/Spring BootPython/FastAPI + Java
데이터베이스Oracle, MySQL, PostgreSQLVector DB (Milvus, pgvector) + RDB
인프라온프레미스/VM, WASKubernetes + GPU 클러스터
아키텍처모놀리식/MSAAI 파이프라인 + MSA
테스트기능 테스트, 성능 테스트AI 평가 (LLM-as-judge), A/B 테스트
문서화산출물 중심 (설계서, 테스트 결과)프롬프트/파이프라인 문서 + 실험 기록
프로젝트 관리워터폴/에자일실험 기반 반복 (ML Ops 사이클)
고객 소통기능 요구사항 중심AI 한계 설명 + 기대치 관리

4-2. 필수 AI 기술 스택

Tier 1: 반드시 익혀야 할 기술 (6개월 내)

Python + FastAPI
├── AI 서비스 백엔드의 표준
├── Java 개발자라면 FastAPI의 간결함에 놀랄 것
└── 비동기 처리, Pydantic 모델 필수

LangChain / LlamaIndex
├── RAG 파이프라인 구축의 사실상 표준
├── 다양한 LLM과 벡터 DB 통합
└── Agent, Chain, Tool 패턴 이해 필수

Vector DB
├── Milvus: 대규모 엔터프라이즈 환경
├── pgvector: PostgreSQL 기반, 기존 RDB와 통합
└── 임베딩 생성/검색/인덱싱 원리 이해

프롬프트 엔지니어링
├── System/User/Assistant 역할 구분
├── Few-shot, Chain-of-Thought 기법
├── 프롬프트 버전 관리 및 A/B 테스트
└── 구조화된 출력 (JSON 모드) 활용

Tier 2: 프로젝트 리드를 위한 기술 (12개월 내)

MLflow / Weights & Biases
├── 실험 추적 및 모델 버전 관리
├── AI 프로젝트 재현성 확보
└── 팀 단위 협업 워크플로우

Docker + Kubernetes (AI 워크로드)
├── GPU 노드 스케줄링
├── AI 모델 서빙 (TorchServe, vLLM, TGI)
├── 오토스케일링 설정
└── 모델 롤링 업데이트

LangGraph / CrewAI
├── 멀티 에이전트 오케스트레이션
├── 상태 머신 기반 워크플로우
└── Human-in-the-Loop 패턴

AI 보안/거버넌스
├── 프롬프트 인젝션 방어
├── 데이터 프라이버시 (PII 마스킹)
├── AI 출력 필터링
└── 감사 로그 및 모니터링

Tier 3: 아키텍트/리더를 위한 기술

AI 시스템 아키텍처 설계
├── LLM 라우팅 (비용/성능 최적화)
├── 캐싱 전략 (시맨틱 캐싱)
├── 멀티 모델 오케스트레이션
└── 장애 대응/폴백 설계

비용 최적화
├── 토큰 사용량 최적화
├── 모델 선택 전략 (작은 모델 vs 큰 모델)
├── 배치 처리 vs 실시간 처리
└── GPU 자원 효율화

AI 프로젝트 관리
├── AI PoC → 파일럿 → 본격 전환 로드맵
├── AI 프로젝트 리스크 관리
├── 데이터 품질 관리 체계
└── 고객 기대치 관리

4-3. 소프트 스킬 변화

AI 시대의 SI 엔지니어에게는 기술 역량 외에 새로운 소프트 스킬이 필요합니다.

1. 고객에게 AI 한계를 설명하는 능력

고객: "AI가 100% 정확한 답변을 하게 해주세요" 잘못된 대응: "네, 가능합니다" 올바른 대응: "현재 AI 기술로 95% 수준의 정확도를 달성할 수 있으며, 나머지 5%는 사람이 검토하는 Human-in-the-Loop 방식을 제안합니다"

2. AI 프로젝트 범위 설정 (과대 약속 방지)

AI 프로젝트의 가장 큰 리스크는 **과대 약속(Over-promise)**입니다. 전통 SI에서는 "이 기능은 3개월이면 됩니다"라고 말할 수 있었지만, AI는 데이터 품질과 모델 성능에 따라 결과가 크게 달라집니다.

3. 데이터 거버넌스 이해

AI 프로젝트의 80%는 데이터 준비입니다. SI 엔지니어가 데이터 거버넌스를 이해해야 하는 이유:

  • 개인정보보호법(PIPA) 준수
  • 데이터 품질 관리
  • 학습 데이터의 편향 검증
  • 데이터 파이프라인 설계

4. 윤리적 AI 배포 인식

  • AI 결과의 공정성 검증
  • 설명 가능한 AI(XAI) 요구사항 이해
  • AI 사용 고지 및 투명성
  • 책임 소재 명확화

5. SI 엔지니어 AI 시대 커리어 전략

5-1. 생존 전략 (현재 SI 재직자)

현재 SI 업계에서 일하고 있다면, 아래의 단계적 전략을 추천합니다.

Step 1: Python + AI 기초 (3개월)

Month 1: Python 기초
├── Python 문법 (Java 개발자 기준 빠르게 습득 가능)
├── FastAPI 기초 (REST API 구축)
└── 프로젝트: 간단한 API 서버 구축

Month 2: AI/ML 기초
├── OpenAI API 사용법
├── 프롬프트 엔지니어링 기초
├── LangChain 입문
└── 프로젝트: 간단한 챗봇 구축

Month 3: RAG 기초
├── 임베딩과 벡터 DB 이해
├── LangChain RAG 파이프라인
├── 기본적인 프롬프트 최적화
└── 프로젝트: FAQ 챗봇 (RAG 기반)

Step 2: RAG 파이프라인 구축 실습 (2개월)

Month 4: 고급 RAG
├── 청킹 전략 (Semantic, Recursive)
├── 하이브리드 검색 (키워드 + 벡터)
├── 리랭킹 (Reranker 모델)
└── 프로젝트: 사내 문서 검색 시스템

Month 5: 에이전트 + 도구 사용
├── Function Calling 패턴
├── 멀티 스텝 에이전트
├── LangGraph 기초
└── 프로젝트: 업무 자동화 에이전트

Step 3: 사내 AI PoC 주도 (3개월)

이것이 가장 중요합니다. 학습만으로는 부족하고, 실제 비즈니스 문제를 AI로 해결하는 경험이 필요합니다.

추천 PoC 주제:

  • 사내 문서 검색 AI (RAG)
  • 코드 리뷰 자동화
  • 테스트 케이스 자동 생성
  • 장애 로그 분석 AI
  • 고객 문의 자동 분류

Step 4: AI 프로젝트 리드 역할 확보

PoC 성공을 바탕으로 실제 AI 프로젝트의 리드 역할을 맡습니다.

[SI 엔지니어 AI 전환 로드맵]

현재 위치        3개월        6개월        9개월        12개월
───────────────────────────────────────────────────────
Java 개발자  → Python 학습 → RAG 구축   → 사내 PoCAI 프로젝트 리드
인프라 엔지니어 → K8s GPUMLOps 학습 → AI 인프라 PoCAI Ops 엔지니어
PM/PLAI 이해    → AI 기획    → AI PoC PMAI PM/컨설턴트
QA 엔지니어  → AI 테스트  → LLM 평가   → AI QA PoCAI 품질 엔지니어

5-2. 이직 전략 (AI 전문 기업으로)

경로 A: SI에서 AI 스타트업으로

강점: 도메인 전문성 (금융, 제조, 유통 등) + AI 기술 약점: 스타트업 문화 적응, 빠른 속도 요구

준비 사항:

  • GitHub에 AI 프로젝트 포트폴리오 (최소 3개)
  • 특정 도메인 AI 솔루션 경험
  • AI 관련 블로그 글/발표 경험

경로 B: SI에서 빅테크 Solutions로

강점: 고객 대응 경험 + 기술력 약점: 높은 기술 면접 수준

타겟 기업 및 역할:

  • AWS Solutions Architect
  • Google Cloud Customer Engineer
  • Microsoft Azure Specialist
  • Salesforce AI Consultant

경로 C: SI에서 AI 컨설팅으로

강점: 비즈니스 이해 + 프로젝트 관리 + AI 역량 약점: 영어 능력 요구 (글로벌 펌 기준)

타겟 기업:

  • 맥킨지 (QuantumBlack)
  • BCG (BCG X)
  • 액센추어 AI
  • 딜로이트 AI Center of Excellence

5-3. 경력 레벨별 전략

주니어 (1-3년차)

핵심 목표: AI 기초 역량 확보 + 하이브리드 프로젝트 참여

추천 활동:
├── Python + AI 기초 학습 (온라인 코스)
├── 사내 AI 스터디 그룹 참여/주도
├── AI 기능이 포함된 프로젝트에 자원하여 참여
├── AI 관련 자격증 취득
│   ├── AWS Machine Learning Specialty
│   ├── Google Cloud Professional ML Engineer
│   └── Microsoft Azure AI Engineer
└── 개인 AI 프로젝트 GitHub 공개

미드레벨 (3-7년차)

핵심 목표: AI 특화 프로젝트 리드 + 전문 영역 확보

추천 활동:
├── AI 프로젝트 서브 리드 경험
├── 특정 도메인 AI 전문가 포지셔닝
│   ├── 금융 AI (AML, 리스크, 심사)
│   ├── 제조 AI (예지 보전, 품질 예측)
│   └── 공공 AI (행정 자동화, 민원 처리)
├── AI 아키텍처 설계 경험 축적
├── 사내/외부 AI 세미나 발표
└── 기술 블로그 운영

시니어 (7년차 이상)

핵심 목표: AI 아키텍트 / AI PM / AI 컨설턴트 트랙 선택

Track A - AI 아키텍트:
├── 대규모 AI 시스템 설계
├── 멀티 모델 오케스트레이션
├── AI 인프라 설계 (GPU 클러스터, MLOps)
└── 기술 의사결정 주도

Track B - AI PM/디렉터:
├── AI 프로젝트 포트폴리오 관리
├── AI 사업 개발 (Pre-sales)
├── 고객사 C-Level AI 전략 자문
└── AI 팀 빌딩 및 육성

Track C - AI 컨설턴트:
├── AI 도입 전략 수립
├── AI ROI 분석 및 비즈니스 케이스
├── AI 거버넌스 체계 구축
└── 산업별 AI 베스트 프랙티스

6. SI의 미래: 2026-2030 전망

6-1. AI가 바꾸는 SI의 모습

Gartner는 2028년까지 SI 프로젝트의 80% 코딩 작업이 AI로 자동화될 것으로 예측합니다.

이것은 SI 엔지니어가 사라진다는 의미가 아닙니다. 역할이 변합니다.

[SI 엔지니어 역할 변화]

2020-2024: 코더 (코드 작성이 핵심)
2025-2027: AI 활용 개발자 (AI 도구로 생산성 향상)
2028-2030: AI 오케스트레이터 (AI 시스템을 설계/조율)

6-2. 멀티 에이전트 SI

미래의 SI 프로젝트는 여러 AI 에이전트가 협력하여 시스템을 구축합니다.

[2028SI 프로젝트 상상도]

[요구사항 AI Agent]
  │ 고객 인터뷰를 분석하여 요구사항 명세서 자동 작성
[설계 AI Agent]
  │ 요구사항 기반 아키텍처 설계, ERD 생성
[개발 AI Agent]
  │ 설계서 기반 코드 자동 생성 (80% 자동화)
[테스트 AI Agent]
  │ 테스트 케이스 생성, 자동 실행, 버그 리포트
[배포 AI Agent]
CI/CD 파이프라인 실행, 모니터링 설정
[SI 엔지니어 (인간)]
     전체 프로세스 감독, 고객 소통, 예외 처리
     = "AI 오케스트레이터"

6-3. 살아남는 SI 엔지니어의 3가지 특성

1. 도메인 전문성 AI가 코드를 잘 생성해도, "이 금융 규제에 맞는 시스템을 설계하라"는 지시를 내리려면 금융 도메인 전문성이 필요합니다. AI는 도구이고, 도구를 어디에 쓸지 아는 것은 사람입니다.

2. AI 활용력 (AI Literacy) AI 도구를 능숙하게 사용하는 능력. 프롬프트 작성, AI 에이전트 설계, AI 파이프라인 구축 등. 이것은 코딩 능력과는 다른 차원의 역량입니다.

3. 고객 소통력 AI가 대체할 수 없는 영역. 고객의 비즈니스 문제를 이해하고, AI 솔루션으로 번역하고, 결과를 설명하는 능력. SI의 본질은 "기술과 비즈니스의 다리"이며, 이 다리 역할은 사람만이 할 수 있습니다.


7. 면접 질문 15선 + 학습 로드맵

면접 질문 15선

기술 질문 (7개)

  1. RAG 파이프라인의 구성 요소와 각 단계의 역할을 설명하세요. 핵심 포인트: 문서 로딩 - 청킹 - 임베딩 - 벡터 저장 - 검색 - 컨텍스트 주입 - LLM 생성의 전체 흐름을 설명할 수 있어야 합니다.

  2. 벡터 DB에서 유사도 검색(Similarity Search)의 원리를 설명하고, 코사인 유사도와 유클리드 거리의 차이를 설명하세요. 핵심 포인트: 임베딩 벡터의 기하학적 의미, HNSW/IVF 인덱싱, 차원의 저주 등.

  3. LLM의 할루시네이션(Hallucination)을 줄이기 위한 엔지니어링 방법 3가지를 제시하세요. 핵심 포인트: RAG, 프롬프트 엔지니어링(Chain-of-Thought), Temperature 조절, 팩트 체킹 도구 연동, 구조화된 출력.

  4. 프롬프트 인젝션(Prompt Injection) 공격이란 무엇이며, 방어 방법은? 핵심 포인트: 직접 주입 vs 간접 주입, 입력 필터링, 역할 분리, 출력 검증, 가드레일 설정.

  5. 기존 Java/Spring 기반 시스템에 AI 기능을 추가할 때의 아키텍처를 설계하세요. 핵심 포인트: AI 서비스를 별도 마이크로서비스(Python/FastAPI)로 분리, API Gateway 연동, 비동기 처리, 에러 핸들링.

  6. AI 모델 서빙에서 GPU 리소스를 효율적으로 관리하는 방법을 설명하세요. 핵심 포인트: 배치 인퍼런스, 모델 양자화(Quantization), vLLM의 PagedAttention, GPU 타임셰어링, 오토스케일링.

  7. LangGraph를 사용한 멀티 에이전트 시스템의 상태 관리를 설명하세요. 핵심 포인트: 그래프 기반 상태 머신, 노드/엣지 정의, 조건부 라우팅, 체크포인팅, Human-in-the-Loop.

비즈니스/전략 질문 (4개)

  1. AI 프로젝트의 ROI를 고객에게 어떻게 설명하겠습니까? 핵심 포인트: 정량적 지표(처리 시간 단축, 비용 절감) + 정성적 지표(고객 만족도, 직원 경험) + 단계적 접근(PoC에서 증명).

  2. 고객이 "AI로 모든 것을 자동화해달라"고 요구할 때 어떻게 대응하겠습니까? 핵심 포인트: 현실적 기대치 설정, AI 적합 영역 선별, 단계적 도입 로드맵 제시, Human-in-the-Loop 설계.

  3. SI 프로젝트에서 AI 모델의 성능 기준(SLA)을 어떻게 정의하겠습니까? 핵심 포인트: 정확도, 응답 시간, 가용성, 비용 효율성 등 다차원 SLA. 기존 IT SLA와의 차이(AI는 확률적).

  4. 레거시 시스템 현대화 프로젝트에서 AI를 어떻게 활용할 수 있습니까? 핵심 포인트: 코드 분석 AI(레거시 코드 이해), 자동 마이그레이션, 테스트 자동 생성, 문서 자동 생성.

커리어/문화 질문 (4개)

  1. SI 엔지니어로서 AI 역량을 어떻게 키워왔습니까? 핵심 포인트: 구체적 학습 경로, 실제 프로젝트 적용 경험, 지속적 학습 의지.

  2. AI 프로젝트에서 데이터 품질 문제에 직면했을 때 어떻게 해결하겠습니까? 핵심 포인트: 데이터 프로파일링, 클렌징 파이프라인, 고객 협의, 데이터 거버넌스 체계 구축.

  3. 기존 SI 방법론(워터폴/에자일)과 AI 프로젝트 방법론의 차이는? 핵심 포인트: 실험 기반 접근, 데이터 의존성, 불확실성 관리, 반복적 성능 개선.

  4. 5년 후 SI 엔지니어의 역할이 어떻게 변할 것으로 예상합니까? 핵심 포인트: 코더에서 AI 오케스트레이터로, 도메인 전문성의 중요성 증가, AI 시스템 설계/감독 역할.

학습 로드맵

[SI 엔지니어 AI 전환 12개월 로드맵]

Phase 1 (Month 1-3): 기초
├── Python 프로그래밍
├── OpenAI API 활용
├── 프롬프트 엔지니어링
└── 간단한 챗봇 구축

Phase 2 (Month 4-6): 실전 기초
├── LangChain/LlamaIndex
├── 벡터 DB (Milvus/pgvector)
├── RAG 파이프라인 구축
└── AI 서비스 API 설계

Phase 3 (Month 7-9): 고급
├── 멀티 에이전트 (LangGraph)
├── MLOps (MLflow, Docker, K8s)
├── AI 보안/거버넌스
└── 사내 AI PoC 실행

Phase 4 (Month 10-12): 전문가
├── AI 아키텍처 설계
├── 비용 최적화
├── AI 프로젝트 관리
└── AI 프로젝트 리드 역할

추천 학습 자원:

카테고리자원비용
Python 기초Python for Everybody (Coursera)무료
AI 기초DeepLearning.AI - Generative AI with LLMs무료
LangChainLangChain 공식 문서 + Tutorials무료
RAGLlamaIndex 공식 가이드무료
MLOpsMade With ML - MLOps 코스무료
자격증AWS ML Specialty 준비시험비 30만 원
프로젝트Kaggle Competitions무료
커뮤니티AI Korea, PyTorch KR, LangChain Korea무료

퀴즈

아래 퀴즈로 SI 산업의 AI 전환에 대한 이해도를 확인해보세요.

Q1. 글로벌 SI 시장의 2030년 예측 규모는 얼마이며, 핵심 성장 동력은 무엇인가요?

A1. 글로벌 SI 시장은 2030년까지 약 7,640억 달러로 성장할 것으로 예측됩니다 (2025년 5,530억 달러 대비, CAGR 6.7%). 핵심 성장 동력은 AI와 클라우드입니다. 특히 AI 관련 SI 프로젝트 비중이 2026년 40% 이상으로 증가할 것으로 전망되며, 기업들의 AX(AI Transformation) 수요가 시장 성장을 견인합니다.

Q2. 삼성SDS의 풀스택 AI 전략에서 "풀스택"이 의미하는 4개 레이어는 무엇인가요?

A2. 삼성SDS의 풀스택 AI 전략은 4개 레이어로 구성됩니다:

  1. AI 인프라 (Layer 1): Samsung Cloud Platform, GPU 클러스터, 국가 AI 컴퓨팅 센터
  2. AI 플랫폼 (Layer 2): FabriX (AI/데이터 통합 플랫폼), Brity Works
  3. AI 애플리케이션 (Layer 3): Brity Copilot, ChatGPT Enterprise 한국 독점 리셀링
  4. AI 컨설팅 (Layer 4): 산업별 AI 솔루션, AI 도입 컨설팅

인프라부터 컨설팅까지 전 영역을 커버하여, 고객에게 원스톱 AI 서비스를 제공하는 것이 차별점입니다.

Q3. RAG 파이프라인의 구성 요소를 순서대로 나열하고, SI 프로젝트에서 가장 어려운 단계는 무엇인가요?

A3. RAG 파이프라인 구성 요소 (순서):

  1. 문서 로딩: 기업 데이터 수집 (PDF, DB, 위키 등)
  2. 청킹: 문서를 적절한 크기로 분할
  3. 임베딩: 텍스트를 벡터로 변환
  4. 벡터 저장: 벡터 DB에 인덱싱
  5. 검색: 사용자 질의에 유사한 문서 검색
  6. 컨텍스트 주입: 검색 결과를 프롬프트에 포함
  7. LLM 생성: 최종 응답 생성

SI 프로젝트에서 가장 어려운 단계는 문서 로딩과 청킹입니다. 기업의 데이터는 다양한 형식(PDF, HWP, 이미지 등)으로 존재하고, 보안/접근 제한이 있으며, 데이터 품질이 일관적이지 않기 때문입니다.

Q4. 전통 SI 엔지니어가 AI SI로 전환할 때, 가장 큰 마인드셋 변화는 무엇인가요?

A4. 가장 큰 마인드셋 변화는 "확정적 결과"에서 "확률적 결과"로의 전환입니다.

전통 SI에서는 코드가 100% 동일한 입력에 100% 동일한 출력을 생성합니다. 하지만 AI 시스템은 확률적입니다:

  • 같은 질문에도 다른 답변이 나올 수 있음
  • 100% 정확도를 보장할 수 없음
  • 성능이 데이터 품질에 크게 의존

따라서 AI 프로젝트에서는:

  • 실험 기반 접근 (가설 - 실험 - 검증)
  • 성능 지표 정의 및 지속적 개선
  • 불확실성을 관리하는 프로젝트 방법론 이 필요합니다.
Q5. 2028년까지 SI 엔지니어의 역할이 어떻게 변할 것으로 예측되며, 살아남기 위한 3가지 핵심 역량은?

A5. Gartner는 2028년까지 SI 프로젝트의 80% 코딩 작업이 AI로 자동화될 것으로 예측합니다. SI 엔지니어의 역할은 **"코더"에서 "AI 오케스트레이터"**로 변화합니다.

살아남기 위한 3가지 핵심 역량:

  1. 도메인 전문성: 특정 산업(금융, 제조, 공공 등)의 비즈니스를 깊이 이해하는 능력. AI가 코드를 생성해도, "무엇을 만들지" 결정하는 것은 사람입니다.
  2. AI 활용력 (AI Literacy): AI 도구를 능숙하게 사용하는 능력. 프롬프트 작성, AI 에이전트 설계, AI 파이프라인 구축 등.
  3. 고객 소통력: AI의 한계를 설명하고, 비즈니스 문제를 AI 솔루션으로 번역하며, 기대치를 관리하는 능력. SI의 본질은 "기술과 비즈니스의 다리"입니다.

참고 자료

  1. Grand View Research, "System Integration Market Size Report, 2025-2030"
  2. McKinsey Global Institute, "The State of AI in 2024: Gen AI adoption spikes"
  3. Gartner, "Top Strategic Technology Trends 2025: Agentic AI"
  4. Samsung SDS, "Annual Report 2024 - Cloud & AI Business"
  5. Samsung SDS, "FabriX Platform Documentation"
  6. Samsung SDS, "Brity Copilot Enterprise Guide"
  7. LG CNS, "IPO Prospectus 2025 - AI Strategy Overview"
  8. LG CNS, "DevOn AI Platform Whitepaper"
  9. SK Group, "AI/Digital Talent Recruitment Plan 2025"
  10. SK Telecom, "AI Agent Platform 'A.' Technical Overview"
  11. LangChain Documentation, "RAG Pipeline Best Practices"
  12. LlamaIndex Documentation, "Enterprise RAG Architecture"
  13. Gartner, "Predicts 2025: AI Will Transform 80% of SI Coding Tasks by 2028"
  14. IDC Korea, "Korea IT Services Market Forecast 2025-2029"
  15. KOSA (한국소프트웨어산업협회), "2025 소프트웨어산업 실태조사"
  16. Deloitte, "2025 Global AI Transformation Survey"
  17. Accenture, "Total Enterprise Reinvention with AI"
  18. Forbes, "How Korean Tech Giants Are Leading Asia's AI Transformation"

SI Industry AI Transformation: Korean Tech Giants AX Strategy and Engineer Survival Guide

1. The Current State of the SI Industry and AI Transformation

1-1. Global SI Market Size and Growth Outlook

The global Systems Integration (SI) market is valued at approximately 553billionin2025andisprojectedtogrowto553 billion in 2025 and is projected to grow to 764 billion by 2030 (CAGR 6.7%). The core growth drivers are AI and cloud.

MetricValue
Global SI Market (2025)$553 billion
Global SI Market (2030 projected)$764 billion
CAGR (2025-2030)6.7%
Korea IT Services Market (2025)Approx. KRW 28 trillion
AI-related SI project share40%+ (2026 forecast)

1-2. Korea's IT Services Market Structure

Korea's IT services market has a unique chaebol-affiliated SI structure.

Tier 1 - Chaebol-Affiliated SI

  • Samsung SDS: Samsung Group IT services + external business expansion
  • LG CNS: LG Group IT services + accelerating independence through IPO
  • SK C&C: SK Group IT services + AI/DT business expansion

Tier 2 - Mid-sized SI / Specialized Companies

  • POSCO DX, Hyundai AutoEver, Hanwha Systems
  • KT DS, NHN Cloud, Kakao Enterprise

Tier 3 - Global SI Korea Offices

  • Accenture, Deloitte, IBM, Infosys

Tier 4 - SMB SI / Startups

  • Thousands of small SI firms (subcontracting structure)

1-3. From DX to AX: What the Shift Means

DX (Digital Transformation) was about digitizing existing business. The focus was on cloud migration, mobile app development, and legacy system modernization.

AX (AI Transformation) goes a step further. It means integrating AI as a core business capability.

DX (2015-2023)                     AX (2024-2030+)
─────────────────                  ─────────────────
Cloud migration          →        AI-native architecture
Mobile apps              →        AI agent services
Data warehouse           →        AI/ML pipelines
RPA automation           →        Agentic AI automation
Dashboard reporting      →        Predictive/generative AI analytics

1-4. Why AI Matters for SI

According to the McKinsey 2024 Global AI Survey:

  • 88% of organizations use AI in at least one business function
  • 65% of organizations have adopted generative AI in one or more functions
  • 25% of AI adopters confirmed cost reduction benefits

Gartner predicts that by 2028, 70% of AI applications will be built as multi-agent systems.

What does this mean for SI companies?

  1. AI extension of existing projects: Exploding demand for AI features in all enterprise systems
  2. New project types: AI agents, RAG systems, MLOps pipelines
  3. Workforce restructuring: Pressure to transition from traditional developers to AI engineers
  4. Pricing model changes: From man-month billing to AI performance-based models

2. Deep Dive: AI Strategies of Korea's Top 3 SI Companies

2-1. Samsung SDS: Full-Stack AI Strategy

Business Overview (2024)

MetricValue
Total RevenueKRW 13.83 trillion
Cloud Business RevenueKRW 2.32 trillion (+23.5% YoY)
Operating ProfitKRW 876 billion
EmployeesApprox. 23,000

AI Strategy: From Infrastructure to Consulting

Samsung SDS's AI strategy takes a full-stack approach, covering everything from infrastructure to platform, applications, and consulting.

[Samsung SDS Full-Stack AI Architecture]

Layer 4: AI Consulting / Business Application
  └── Industry-specific AI solutions (manufacturing, finance, logistics)
  └── AI adoption consulting / PoC services

Layer 3: AI Applications
  └── Brity Copilot (enterprise AI assistant)
  └── Brity Automation (RPA + AI)
  └── ChatGPT Enterprise (exclusive Korean reseller)

Layer 2: AI Platform
  └── FabriX (AI/data integration platform)
  └── Brity Works (workflow automation)

Layer 1: AI Infrastructure
  └── Samsung Cloud Platform (SCP)
  └── National AI Computing Center contract
  └── GPU cluster operations

Key Product Analysis

FabriX - AI/Data Platform FabriX is Samsung SDS's enterprise AI platform. It provides an integrated environment for enterprises to train and deploy AI models using their own data.

Key features:

  • Data collection/preprocessing pipelines
  • AI model training/deployment management
  • RAG (Retrieval-Augmented Generation) pipelines
  • Prompt management and A/B testing
  • Model monitoring and cost optimization

Brity Copilot - Enterprise AI Assistant Brity Copilot is an enterprise AI assistant already deployed at scale within Samsung Group.

Functional areas:

  • Document summarization/generation (reports, emails, meeting notes)
  • Code generation/review (for developers)
  • Data analysis (SQL generation, chart creation)
  • Internal knowledge search (RAG-based)

OpenAI ChatGPT Enterprise Exclusive Korean Reseller Samsung SDS exclusively distributes OpenAI's ChatGPT Enterprise in the Korean market. This is not simple reselling but an enterprise package combined with Samsung SDS's security/compliance solutions.

Samsung Group announced a plan to hire 60,000 people over 5 years, with AI/software talent as the core focus. Key hiring areas at Samsung SDS:

  • AI/ML Engineers
  • Cloud Architects
  • Data Engineers
  • AI Solution Consultants

2-2. LG CNS: IPO and AI Coding Platform

Business Overview (2024-2025)

MetricValue
IPO RaisedApprox. KRW 827 billion (approx. $570M)
ValuationApprox. KRW 5.9 trillion (approx. $4.1B)
Cloud/AI RevenueKRW 3.35 trillion (56% of total)
EmployeesApprox. 7,600

AI Strategy: Software Productivity Revolution

LG CNS's AI strategy focuses on AI-ifying software development itself — automating the core SI processes of development, testing, and deployment with AI.

DevOn AI - AI-Based Development Automation Platform

DevOn AI is an ambitious platform that transforms the entire SDLC (Software Development Life Cycle) with AI.

[DevOn AI SDLC Automation]

Requirements AnalysisAI requirement organization/classification
DesignAI architecture suggestion/review
DevelopmentAI code generation (boilerplate automation)
TestingAI test case generation/execution
DeploymentAI-based CI/CD optimization
OperationsAI monitoring/failure prediction

Key features:

  • Customized code generation through corporate codebase learning
  • Legacy code analysis and modernization suggestions
  • Automated code review and quality checks
  • Automatic test code generation

Focus Industries

LG CNS concentrates AI transformation on three industries:

1. Financial AI

  • Banking/insurance/securities AI consultation systems
  • AI-based risk analysis
  • Automated document processing (OCR + LLM)

2. Manufacturing AI

  • Smart factory AI (quality prediction, predictive maintenance)
  • Supply chain AI optimization
  • Digital twin + AI simulation

3. Retail AI

  • AI-based demand forecasting
  • Personalized recommendation systems
  • AI unmanned store solutions

2-3. SK C&C / SK Group: AI Infrastructure and Agents

Business Overview

MetricValue
SK Group AI Hiring (2025)8,000 (AI, semiconductors, digital)
SK Telecom AI InvestmentKRW 1 trillion+/year
AI Data CenterLarge-scale Ulsan center under construction

AI Strategy: Infrastructure + Agent Dual Approach

AI Infrastructure Axis

  • Ulsan AI Data Center: Large-scale GPU cluster operations
  • NVIDIA partnership for AI computing services
  • Cloud-based AI infrastructure service (CloudZ)

AI Agent Axis

  • SK Telecom "A." Platform: Telecom-based AI agent
  • Agent marketplace: Building a diverse AI agent ecosystem
  • Enterprise AI agents: Business automation, customer service

Global AI Partnerships

  • Microsoft: Azure-based AI service collaboration
  • NVIDIA: AI infrastructure/computing partnership
  • Anthropic, OpenAI: LLM model partnerships

SK's Differentiator

SK leverages the synergy of Telecom (SKT) + IT Services (SK C&C) + Semiconductors (SK hynix) to cover the entire AI value chain.

[SK AI Value Chain]

SK hynix: HBM (High Bandwidth Memory)Core GPU component
SK C&C: AI infrastructure / data centers
SK Telecom: AI services / agent platform
SK Affiliates: AI applications (energy, chemicals, bio, etc.)

3. AI Application Patterns in SI Projects (Real-World Cases)

Pattern 1: Existing System + AI Feature Addition

The most common pattern: Adding AI capabilities to enterprise systems already in production.

Representative Case: RAG-Based Internal Knowledge Search

Solving the problem where existing keyword-based internal portal search makes it difficult to find desired information.

# Simple RAG pipeline example
from langchain.vectorstores import Milvus
from langchain.embeddings import OpenAIEmbeddings
from langchain.chains import RetrievalQA
from langchain.chat_models import ChatOpenAI

# 1. Vectorize internal documents
embeddings = OpenAIEmbeddings()
vectorstore = Milvus.from_documents(
    documents=company_docs,
    embedding=embeddings,
    collection_name="internal_knowledge"
)

# 2. Configure RAG chain
qa_chain = RetrievalQA.from_chain_type(
    llm=ChatOpenAI(model="gpt-4o"),
    chain_type="stuff",
    retriever=vectorstore.as_retriever(
        search_kwargs={"k": 5}
    )
)

# 3. Query
result = qa_chain.run("What is our annual leave policy this year?")

Architecture:

[User][Existing Portal UI][API Gateway]
                              [AI Service Layer]
                              ├── Embedding Service
                              ├── Vector DB (Milvus)
                              ├── LLM Service (GPT-4o/Claude)
                              └── Prompt Management
                              [Existing Backend Systems]
                              ├── Document Management System
                              ├── Internal Wiki
                              └── Policies/Manuals DB
ItemDetails
Tech StackPython, FastAPI, LangChain, Milvus, OpenAI API
Expected Duration3-4 months
Team CompositionAI Engineer x2, Backend x1, Frontend x1, PM x1
Key ChallengeData preprocessing quality, hallucination prevention

Pattern 2: AI-Based Business Automation (RPA to AI Agent)

Overcoming RPA limitations with AI: Traditional RPA is rule-based and fragile to variations. AI Agents understand context and respond flexibly.

# AI Agent-based document processing example
from langchain.agents import AgentExecutor, create_openai_tools_agent
from langchain.tools import tool

@tool
def extract_invoice_data(document_path: str) -> dict:
    """Extract key data from invoice."""
    # Parse invoice with OCR + LLM
    ocr_text = run_ocr(document_path)
    extracted = llm.extract_structured(
        text=ocr_text,
        schema=InvoiceSchema
    )
    return extracted

@tool
def validate_against_po(invoice_data: dict) -> dict:
    """Validate extracted invoice data against purchase order."""
    po = fetch_purchase_order(invoice_data["po_number"])
    discrepancies = compare(invoice_data, po)
    return {"valid": len(discrepancies) == 0, "issues": discrepancies}

@tool
def submit_for_approval(invoice_data: dict, validation: dict) -> str:
    """Submit validated invoice to approval process."""
    if validation["valid"]:
        return approval_system.submit(invoice_data, auto_approve=True)
    else:
        return approval_system.submit(invoice_data, flag_review=True)

# Agent autonomously decides which tools to call in sequence
agent = create_openai_tools_agent(
    llm=ChatOpenAI(model="gpt-4o"),
    tools=[extract_invoice_data, validate_against_po, submit_for_approval],
    prompt=agent_prompt
)
ItemRPA (Before)AI Agent (After)
Rule change handlingManual script updateAI auto-adapts
Unstructured dataCannot processLLM understands/processes
Exception handlingError then haltAutonomous judgment/escalation
Maintenance costHigh (rule updates)Low (prompt adjustments)

Pattern 3: Data Analytics and Prediction

AI-Based Demand Forecasting and Anomaly Detection

# Demand forecasting + LLM interpretation example
import pandas as pd
from prophet import Prophet
from langchain.chat_models import ChatOpenAI

# 1. Time series forecasting (Prophet)
model = Prophet(yearly_seasonality=True)
model.fit(sales_data)
forecast = model.predict(future_dates)

# 2. LLM interprets forecast results and generates report
llm = ChatOpenAI(model="gpt-4o")
report = llm.invoke(f"""
Analyze the following demand forecast results and write an executive report:
- Forecast period: Next quarter
- Key figures: Average {forecast['yhat'].mean():.0f} orders/day
- Upper bound: {forecast['yhat_upper'].mean():.0f} orders/day
- Lower bound: {forecast['yhat_lower'].mean():.0f} orders/day
- YoY change: +12%
Derive 3 key insights with business context.
""")

Pattern 4: Conversational AI Services

Customer Support Chatbot / Internal Helpdesk

[Conversational AI Service Architecture]

Customer/Employee[Chat Interface (Web/App/Teams)]
                       [Conversation Management Layer]
                       ├── Intent Classification
                       ├── Conversation History (Memory)
                       └── Multi-turn Context Maintenance
                       [AI Processing Layer]
                       ├── RAG (Knowledge-based responses)
                       ├── Function Calling (System integration)
                       └── Human Handoff (Agent transfer)
                       [Backend Systems]
                       ├── CRM / ERP
                       ├── Knowledge Base
                       └── Ticket System

Pattern 5: Multi-Agent Workflow

Multi-agent system automating from document processing to approval

[Multi-Agent Document Processing Workflow]

[Document Intake Agent]
  |  Document classification, metadata extraction
[Data Extraction Agent]
  |  Extract key data with OCR + LLM
[Validation Agent]
  |  Compliance check, data consistency verification
[Approval Routing Agent]
  |  Determine approver based on amount/type
[Notification Agent]
     Notify results, trigger follow-up actions

Each agent operates independently and receives the previous agent's output as input. On errors, it automatically retries or escalates to a human.

ItemDetails
Tech StackPython, LangGraph, CrewAI, FastAPI
Expected Duration4-6 months
Team CompositionAI Engineer x3, Backend x2, Domain Expert x1, PM x1
Key ChallengeInter-agent state management, error handling, performance optimization

4. AI Skill Transformation Required for SI Engineers

4-1. Traditional SI Skills vs AI SI Skills

AreaTraditional SIAI SI
Primary LanguageJava/Spring BootPython/FastAPI + Java
DatabaseOracle, MySQL, PostgreSQLVector DB (Milvus, pgvector) + RDB
InfrastructureOn-premises/VM, WASKubernetes + GPU Clusters
ArchitectureMonolithic/MSAAI Pipeline + MSA
TestingFunctional testing, performance testingAI evaluation (LLM-as-judge), A/B testing
DocumentationDeliverables-focused (design docs, test results)Prompt/pipeline docs + experiment logs
Project ManagementWaterfall/AgileExperiment-based iteration (MLOps cycle)
Client CommunicationFeature requirements focusExplaining AI limitations + expectation management

4-2. Essential AI Tech Stack

Tier 1: Must Learn Within 6 Months

Python + FastAPI
├── Standard for AI service backends
├── Java developers will be amazed by FastAPI's simplicity
└── Async processing, Pydantic models essential

LangChain / LlamaIndex
├── De facto standard for RAG pipeline construction
├── Integration with various LLMs and vector DBs
└── Understanding Agent, Chain, Tool patterns essential

Vector DB
├── Milvus: Large-scale enterprise environments
├── pgvector: PostgreSQL-based, integrates with existing RDB
└── Understanding embedding generation/search/indexing principles

Prompt Engineering
├── System/User/Assistant role separation
├── Few-shot, Chain-of-Thought techniques
├── Prompt version management and A/B testing
└── Structured output (JSON mode) usage

Tier 2: Skills for Project Leadership (Within 12 Months)

MLflow / Weights & Biases
├── Experiment tracking and model version management
├── AI project reproducibility
└── Team-level collaboration workflows

Docker + Kubernetes (AI Workloads)
├── GPU node scheduling
├── AI model serving (TorchServe, vLLM, TGI)
├── Auto-scaling configuration
└── Model rolling updates

LangGraph / CrewAI
├── Multi-agent orchestration
├── State machine-based workflows
└── Human-in-the-Loop patterns

AI Security/Governance
├── Prompt injection defense
├── Data privacy (PII masking)
├── AI output filtering
└── Audit logging and monitoring

Tier 3: Skills for Architects and Leaders

AI System Architecture Design
├── LLM routing (cost/performance optimization)
├── Caching strategy (semantic caching)
├── Multi-model orchestration
└── Failure response/fallback design

Cost Optimization
├── Token usage optimization
├── Model selection strategy (small vs large models)
├── Batch processing vs real-time processing
└── GPU resource efficiency

AI Project Management
├── AI PoCPilotFull rollout roadmap
├── AI project risk management
├── Data quality management framework
└── Client expectation management

4-3. Soft Skill Changes

SI engineers in the AI era need new soft skills beyond technical capabilities.

1. Ability to Explain AI Limitations to Clients

Client: "Make the AI give 100% accurate answers" Wrong response: "Yes, it's possible" Right response: "Current AI technology can achieve approximately 95% accuracy, and for the remaining 5%, we propose a Human-in-the-Loop approach where humans review the output"

2. AI Project Scoping (Avoiding Over-Promise)

The biggest risk in AI projects is over-promising. In traditional SI, you could say "This feature will take 3 months." But with AI, results vary dramatically based on data quality and model performance.

3. Data Governance Understanding

80% of AI projects is data preparation. Why SI engineers need to understand data governance:

  • PIPA (Personal Information Protection Act) compliance
  • Data quality management
  • Training data bias verification
  • Data pipeline design

4. Ethical AI Deployment Awareness

  • Fairness verification of AI outputs
  • Understanding Explainable AI (XAI) requirements
  • AI usage disclosure and transparency
  • Clear accountability assignment

5. Career Strategies for SI Engineers in the AI Era

5-1. Survival Strategy (Current SI Professionals)

If you're currently working in the SI industry, here is a step-by-step strategy.

Step 1: Python + AI Fundamentals (3 Months)

Month 1: Python Basics
├── Python syntax (Java developers can pick up quickly)
├── FastAPI basics (REST API development)
└── Project: Build a simple API server

Month 2: AI/ML Fundamentals
├── OpenAI API usage
├── Prompt engineering basics
├── LangChain introduction
└── Project: Build a simple chatbot

Month 3: RAG Fundamentals
├── Understanding embeddings and vector DBs
├── LangChain RAG pipeline
├── Basic prompt optimization
└── Project: FAQ chatbot (RAG-based)

Step 2: RAG Pipeline Construction Practice (2 Months)

Month 4: Advanced RAG
├── Chunking strategies (Semantic, Recursive)
├── Hybrid search (keyword + vector)
├── Reranking (Reranker models)
└── Project: Internal document search system

Month 5: Agents + Tool Use
├── Function Calling patterns
├── Multi-step agents
├── LangGraph basics
└── Project: Business automation agent

Step 3: Lead an Internal AI PoC (3 Months)

This is the most important step. Learning alone is not enough — you need real experience solving actual business problems with AI.

Recommended PoC topics:

  • Internal document search AI (RAG)
  • Code review automation
  • Test case auto-generation
  • Failure log analysis AI
  • Customer inquiry auto-classification

Step 4: Secure an AI Project Lead Role

Leverage your PoC success to take on an actual AI project lead role.

[SI Engineer AI Transition Roadmap]

Current State     3 Months      6 Months       9 Months       12 Months
────────────────────────────────────────────────────────────────
Java DeveloperPythonRAG BuildInternal PoCAI Project Lead
Infra EngineerK8s GPUMLOps LearnAI Infra PoCAI Ops Engineer
PM/PLAI LiteracyAI PlanningAI PoC PMAI PM/Consultant
QA EngineerAI TestingLLM EvalAI QA PoCAI Quality Eng.

5-2. Career Transition Strategy (To AI-Focused Companies)

Path A: SI to AI Startup

Strengths: Domain expertise (finance, manufacturing, retail, etc.) + AI skills Weaknesses: Startup culture adaptation, fast pace requirements

Preparation:

  • AI project portfolio on GitHub (minimum 3 projects)
  • Domain-specific AI solution experience
  • AI-related blog posts/presentations

Path B: SI to Big Tech Solutions

Strengths: Client-facing experience + technical skills Weaknesses: High technical interview bar

Target companies and roles:

  • AWS Solutions Architect
  • Google Cloud Customer Engineer
  • Microsoft Azure Specialist
  • Salesforce AI Consultant

Path C: SI to AI Consulting

Strengths: Business understanding + project management + AI capability Weaknesses: English proficiency required (for global firms)

Target companies:

  • McKinsey (QuantumBlack)
  • BCG (BCG X)
  • Accenture AI
  • Deloitte AI Center of Excellence

5-3. Strategy by Career Level

Junior (1-3 Years)

Core Goal: Build AI foundation + participate in hybrid projects

Recommended Activities:
├── Python + AI fundamentals learning (online courses)
├── Join/lead internal AI study groups
├── Volunteer for projects with AI components
├── Obtain AI-related certifications
│   ├── AWS Machine Learning Specialty
│   ├── Google Cloud Professional ML Engineer
│   └── Microsoft Azure AI Engineer
└── Publish personal AI projects on GitHub

Mid-Level (3-7 Years)

Core Goal: Lead AI-specific projects + establish specialization

Recommended Activities:
├── AI project sub-lead experience
├── Position yourself as domain AI expert
│   ├── Financial AI (AML, risk, underwriting)
│   ├── Manufacturing AI (predictive maintenance, quality)
│   └── Public Sector AI (administrative automation)
├── Accumulate AI architecture design experience
├── Present at internal/external AI seminars
└── Maintain a tech blog

Senior (7+ Years)

Core Goal: Choose AI Architect / AI PM / AI Consultant track

Track A - AI Architect:
├── Large-scale AI system design
├── Multi-model orchestration
├── AI infrastructure design (GPU clusters, MLOps)
└── Lead technical decision-making

Track B - AI PM/Director:
├── AI project portfolio management
├── AI business development (Pre-sales)
├── C-Level AI strategy advisory
└── AI team building and development

Track C - AI Consultant:
├── AI adoption strategy development
├── AI ROI analysis and business case
├── AI governance framework design
└── Industry-specific AI best practices

6. The Future of SI: 2026-2030 Outlook

6-1. How AI Changes SI

Gartner predicts that by 2028, 80% of coding tasks in SI projects will be automated by AI.

This does not mean SI engineers will disappear. Their roles will transform.

[SI Engineer Role Evolution]

2020-2024: Coder (writing code is the core job)
2025-2027: AI-Augmented Developer (boosting productivity with AI tools)
2028-2030: AI Orchestrator (designing and coordinating AI systems)

6-2. Multi-Agent SI

Future SI projects will have multiple AI agents collaborating to build systems.

[2028 SI Project Vision]

[Requirements AI Agent]
  |  Analyze client interviews, auto-generate requirements specs
[Design AI Agent]
  |  Requirements-based architecture design, ERD generation
[Development AI Agent]
  |  Design-based code auto-generation (80% automated)
[Testing AI Agent]
  |  Test case generation, automated execution, bug reports
[Deployment AI Agent]
  |  CI/CD pipeline execution, monitoring setup
[SI Engineer (Human)]
     Supervise entire process, client communication, exception handling
     = "AI Orchestrator"

6-3. Three Characteristics of Surviving SI Engineers

1. Domain Expertise Even if AI generates code well, you need financial domain expertise to instruct "Design a system that complies with this financial regulation." AI is a tool, and knowing where to use the tool is a human skill.

2. AI Literacy The ability to use AI tools proficiently. Prompt writing, AI agent design, AI pipeline construction, etc. This is a different dimension of capability from coding.

3. Client Communication The area AI cannot replace. The ability to understand client business problems, translate them into AI solutions, and explain results. The essence of SI is "the bridge between technology and business," and only humans can play this bridge role.


7. 15 Interview Questions + Learning Roadmap

15 Interview Questions

Technical Questions (7)

  1. Explain the components of a RAG pipeline and the role of each stage. Key Points: Be able to explain the full flow of document loading - chunking - embedding - vector storage - retrieval - context injection - LLM generation.

  2. Explain the principle of similarity search in vector DBs, and the difference between cosine similarity and Euclidean distance. Key Points: Geometric meaning of embedding vectors, HNSW/IVF indexing, curse of dimensionality, etc.

  3. Suggest 3 engineering methods to reduce LLM hallucinations. Key Points: RAG, prompt engineering (Chain-of-Thought), temperature adjustment, fact-checking tool integration, structured output.

  4. What is prompt injection attack and how do you defend against it? Key Points: Direct vs indirect injection, input filtering, role separation, output validation, guardrail setup.

  5. Design an architecture for adding AI features to an existing Java/Spring-based system. Key Points: Separate AI service as a microservice (Python/FastAPI), API Gateway integration, async processing, error handling.

  6. Explain how to efficiently manage GPU resources in AI model serving. Key Points: Batch inference, model quantization, vLLM's PagedAttention, GPU time-sharing, auto-scaling.

  7. Explain state management in a multi-agent system using LangGraph. Key Points: Graph-based state machine, node/edge definitions, conditional routing, checkpointing, Human-in-the-Loop.

Business/Strategy Questions (4)

  1. How would you explain the ROI of an AI project to a client? Key Points: Quantitative metrics (processing time reduction, cost savings) + qualitative metrics (customer satisfaction, employee experience) + phased approach (prove in PoC).

  2. How would you respond when a client says "Automate everything with AI"? Key Points: Set realistic expectations, identify AI-suitable areas, present phased adoption roadmap, design Human-in-the-Loop.

  3. How would you define performance criteria (SLA) for AI models in an SI project? Key Points: Multi-dimensional SLA including accuracy, response time, availability, cost efficiency. Difference from traditional IT SLA (AI is probabilistic).

  4. How can AI be leveraged in legacy system modernization projects? Key Points: AI code analysis (understanding legacy code), automated migration, auto-generated tests, auto-generated documentation.

Career/Culture Questions (4)

  1. How have you built your AI capabilities as an SI engineer? Key Points: Specific learning path, real project application experience, continuous learning commitment.

  2. How would you handle data quality issues in an AI project? Key Points: Data profiling, cleansing pipeline, client negotiation, data governance framework establishment.

  3. What are the differences between traditional SI methodologies (Waterfall/Agile) and AI project methodologies? Key Points: Experiment-based approach, data dependency, uncertainty management, iterative performance improvement.

  4. How do you expect the role of SI engineers to change in 5 years? Key Points: From coders to AI orchestrators, increasing importance of domain expertise, AI system design/supervision role.

Learning Roadmap

[SI Engineer AI Transition 12-Month Roadmap]

Phase 1 (Month 1-3): Foundations
├── Python programming
├── OpenAI API usage
├── Prompt engineering
└── Simple chatbot development

Phase 2 (Month 4-6): Practical Basics
├── LangChain/LlamaIndex
├── Vector DB (Milvus/pgvector)
├── RAG pipeline construction
└── AI service API design

Phase 3 (Month 7-9): Advanced
├── Multi-agent (LangGraph)
├── MLOps (MLflow, Docker, K8s)
├── AI security/governance
└── Internal AI PoC execution

Phase 4 (Month 10-12): Expert
├── AI architecture design
├── Cost optimization
├── AI project management
└── AI project lead role

Recommended Learning Resources:

CategoryResourceCost
Python BasicsPython for Everybody (Coursera)Free
AI BasicsDeepLearning.AI - Generative AI with LLMsFree
LangChainLangChain Official Docs + TutorialsFree
RAGLlamaIndex Official GuideFree
MLOpsMade With ML - MLOps CourseFree
CertificationAWS ML Specialty PrepExam fee ~$300
ProjectsKaggle CompetitionsFree
CommunityAI Korea, PyTorch KR, LangChain KoreaFree

Quiz

Test your understanding of the SI industry's AI transformation with these questions.

Q1. What is the projected global SI market size for 2030, and what are the key growth drivers?

A1. The global SI market is projected to grow to approximately 764billionby2030(from764 billion by 2030 (from 553 billion in 2025, CAGR 6.7%). The key growth drivers are AI and cloud. AI-related SI projects are expected to account for over 40% by 2026, with enterprise AX (AI Transformation) demand driving market growth.

Q2. What are the 4 layers in Samsung SDS's full-stack AI strategy?

A2. Samsung SDS's full-stack AI strategy consists of 4 layers:

  1. AI Infrastructure (Layer 1): Samsung Cloud Platform, GPU clusters, National AI Computing Center
  2. AI Platform (Layer 2): FabriX (AI/data integration platform), Brity Works
  3. AI Applications (Layer 3): Brity Copilot, ChatGPT Enterprise exclusive Korean reselling
  4. AI Consulting (Layer 4): Industry-specific AI solutions, AI adoption consulting

The differentiator is covering all areas from infrastructure to consulting, providing one-stop AI services to customers.

Q3. List the components of a RAG pipeline in order, and what is the most challenging stage in SI projects?

A3. RAG pipeline components (in order):

  1. Document Loading: Collecting enterprise data (PDFs, DBs, wikis, etc.)
  2. Chunking: Splitting documents into appropriate sizes
  3. Embedding: Converting text into vectors
  4. Vector Storage: Indexing in vector DB
  5. Retrieval: Searching for documents similar to user query
  6. Context Injection: Including search results in the prompt
  7. LLM Generation: Generating the final response

The most challenging stage in SI projects is document loading and chunking. Enterprise data exists in various formats (PDF, HWP, images, etc.), has security/access restrictions, and data quality is inconsistent.

Q4. What is the biggest mindset shift for traditional SI engineers transitioning to AI SI?

A4. The biggest mindset shift is moving from "deterministic results" to "probabilistic results."

In traditional SI, code produces 100% identical output for 100% identical input. But AI systems are probabilistic:

  • Different answers can emerge from the same question
  • 100% accuracy cannot be guaranteed
  • Performance heavily depends on data quality

Therefore, AI projects require:

  • Experiment-based approach (hypothesis - experiment - validation)
  • Performance metric definition and continuous improvement
  • Project methodologies that manage uncertainty
Q5. How is the role of SI engineers predicted to change by 2028, and what are the 3 key capabilities for survival?

A5. Gartner predicts that 80% of coding tasks in SI projects will be automated by AI by 2028. The SI engineer role will transform from "coder" to "AI orchestrator."

Three key capabilities for survival:

  1. Domain Expertise: Deep understanding of specific industries (finance, manufacturing, public sector). Even if AI generates code, humans decide "what to build."
  2. AI Literacy: Proficient use of AI tools. Prompt writing, AI agent design, AI pipeline construction, etc.
  3. Client Communication: Explaining AI limitations, translating business problems into AI solutions, and managing expectations. The essence of SI is "the bridge between technology and business."

References

  1. Grand View Research, "System Integration Market Size Report, 2025-2030"
  2. McKinsey Global Institute, "The State of AI in 2024: Gen AI adoption spikes"
  3. Gartner, "Top Strategic Technology Trends 2025: Agentic AI"
  4. Samsung SDS, "Annual Report 2024 - Cloud & AI Business"
  5. Samsung SDS, "FabriX Platform Documentation"
  6. Samsung SDS, "Brity Copilot Enterprise Guide"
  7. LG CNS, "IPO Prospectus 2025 - AI Strategy Overview"
  8. LG CNS, "DevOn AI Platform Whitepaper"
  9. SK Group, "AI/Digital Talent Recruitment Plan 2025"
  10. SK Telecom, "AI Agent Platform 'A.' Technical Overview"
  11. LangChain Documentation, "RAG Pipeline Best Practices"
  12. LlamaIndex Documentation, "Enterprise RAG Architecture"
  13. Gartner, "Predicts 2025: AI Will Transform 80% of SI Coding Tasks by 2028"
  14. IDC Korea, "Korea IT Services Market Forecast 2025-2029"
  15. KOSA (Korea Software Industry Association), "2025 Software Industry Survey"
  16. Deloitte, "2025 Global AI Transformation Survey"
  17. Accenture, "Total Enterprise Reinvention with AI"
  18. Forbes, "How Korean Tech Giants Are Leading Asia's AI Transformation"