Prompt Engineering 2025 실전 가이드: GPT-4o와 Claude 3.5를 최대한 활용하는 법

모델 능력 × 프롬프트 품질 = 출력 품질

# 나쁜 시스템 프롬프트 (대부분의 사람들이 이렇게 시작)
bad_prompt = "You are a helpful assistant."
# 문제: 너무 모호해서 모델이 무엇을 해야 하는지 모름

# COSTAR 프레임워크를 적용한 좋은 시스템 프롬프트
good_prompt = """
## Role (역할)
당신은 TechCorp의 시니어 한국어 고객 서비스 전문가입니다.

## Context (맥락)
TechCorp는 HR 관리를 위한 B2B SaaS 소프트웨어를 판매합니다.
고객은 주로 100-5,000명 규모 회사의 HR 매니저입니다.

## Objective (목표)
고객의 문제를 해결하고 제품 관련 질문에 답합니다.
결제 관련 문제는 finance@techcorp.com으로 에스컬레이션하세요.

## Style (스타일)
- 격식 있지만 따뜻한 한국어 (존댓말 사용)
- 답변은 200자 이내로 유지
- 항상 후속 질문으로 마무리

## Tone (톤)
전문적, 공감적, 해결 지향적

## Audience (대상)
한국의 HR 매니저, 보통 비기술적 사용자

## Response Format (형식)
1. 문제 인지 ("네, [문제]에 대해 도움드리겠습니다")
2. 해결책 제시 (필요시 단계별로)
3. 마무리: "이 외에 도움이 필요한 부분이 있으신가요?"
"""

# Zero-shot (예시 없음)
zero_shot = """
리뷰 감정을 분류하세요: '배송이 너무 느려요'
"""
# 결과: 분류는 하지만 일관성이 없을 수 있음

# Few-shot (예시 포함)
few_shot = """
리뷰 감정을 긍정적 / 부정적 / 중립으로 분류하세요.

리뷰: "정말 좋은 제품이에요!" → 긍정적
리뷰: "배송이 조금 늦었지만 제품은 만족해요" → 중립
리뷰: "완전 불량품이에요 환불하고 싶어요" → 부정적
리뷰: "가격 대비 그냥 그래요" → 중립

리뷰: "배송이 너무 느려요" → """
# 결과: 부정적 (훨씬 일관성 높음)

# CoT 없음 (나쁜 결과)
no_cot = """
기차가 2시간 동안 120km를 이동하고, 이후 3시간 동안 180km를 이동했습니다.
평균 속도는 얼마인가요?
"""
# LLM이 (120/2 + 180/3) / 2 = 60으로 잘못 계산할 수 있음 (틀린 방법)

# CoT 적용 (올바른 결과)
with_cot = """
기차가 2시간 동안 120km를 이동하고, 이후 3시간 동안 180km를 이동했습니다.
평균 속도는 얼마인가요?

단계별로 생각해봅시다:
"""
# LLM: "총 거리 = 120 + 180 = 300km
#        총 시간 = 2 + 3 = 5시간
#        평균 속도 = 300 / 5 = 60 km/h"
# 정확한 답!

# Zero-shot CoT (가장 단순한 형태)
zero_shot_cot = """
문제: [복잡한 수학 문제]
풀이: 단계별로 생각해봅시다.
"""

import json
from openai import OpenAI
from pydantic import BaseModel

client = OpenAI()

# 방법 1: JSON Mode (간단한 경우)
response = client.chat.completions.create(
    model="gpt-4o",
    response_format={"type": "json_object"},
    messages=[{
        "role": "user",
        "content": """
        다음 텍스트에서 제품 정보를 추출하고 JSON으로 반환하세요:
        "아이폰 15 프로 맥스, 256GB, 스페이스 블랙, 정가 1,850,000원"

        반환 형식: {"name": ..., "storage": ..., "color": ..., "price_krw": ...}
        """
    }]
)
data = json.loads(response.choices[0].message.content)

# 방법 2: Structured Outputs (타입 안전, 더 안정적)
class ProductInfo(BaseModel):
    name: str
    storage: str
    color: str
    price_krw: int

response = client.beta.chat.completions.parse(
    model="gpt-4o-2024-08-06",
    messages=[{
        "role": "user",
        "content": "아이폰 15 프로 맥스, 256GB, 스페이스 블랙, 정가 1,850,000원"
    }],
    response_format=ProductInfo
)
product = response.choices[0].message.parsed
print(product.price_krw)  # 1850000 (int 타입으로 보장)

# Claude API 사용 예시
import anthropic

client = anthropic.Anthropic()

prompt = """
<task>
다음 문서를 요약하세요.
</task>

<document>
[긴 문서 내용 여기에]
</document>

<constraints>
- 최대 3개의 불릿 포인트
- 각 불릿: 1-2문장
- 실행 가능한 항목에 집중
- 전문 용어는 쉬운 말로 바꿀 것
</constraints>

<output_format>
다음 JSON 형식으로 반환하세요:
{
  "summary_bullets": ["...", "...", "..."],
  "key_action": "가장 중요한 실행 항목 1개"
}
</output_format>
"""

response = client.messages.create(
    model="claude-3-5-sonnet-20241022",
    max_tokens=1024,
    messages=[{"role": "user", "content": prompt}]
)

def create_production_prompt(
    role: str,
    context: str,
    task: str,
    constraints: list[str],
    output_format: str
) -> str:
    constraints_text = "\n".join(f"- {c}" for c in constraints)
    return f"""# Role
{role}

# Context
{context}

# Task
{task}

# Constraints
{constraints_text}

# Output Format
{output_format}"""

# 실제 사용 예시
prompt = create_production_prompt(
    role="당신은 10년 경력의 한국어 카피라이터입니다. MZ 세대를 타겟으로 합니다.",
    context="클라이언트: 스타트업 커피 브랜드 'BREW'. 신제품 콜드브루 출시.",
    task="Instagram 캡션 3가지 버전을 작성하세요.",
    constraints=[
        "각 캡션은 50자 이내",
        "이모지 1-2개 포함",
        "가격이나 프로모션 언급 금지",
        "해시태그 포함하지 말 것"
    ],
    output_format="JSON 배열로 반환: ['캡션1', '캡션2', '캡션3']"
)

# 나쁜 방법: 코드에 하드코딩
def summarize(text):
    prompt = f"Summarize: {text}"  # 버전 관리 불가
    return call_llm(prompt)

# 좋은 방법: 프롬프트를 별도 파일/DB로 관리
# prompts/summarize_v2.txt
"""
당신은 전문 비즈니스 분석가입니다.

다음 텍스트를 3줄 이내로 요약하세요.
핵심 수치와 의사결정 사항을 강조하세요.

텍스트: {text}
"""

class PromptManager:
    def __init__(self):
        self.prompts = {}
        self.active_versions = {}

    def register(self, name: str, version: str, template: str):
        key = f"{name}_v{version}"
        self.prompts[key] = template

    def get(self, name: str, version: str = None) -> str:
        version = version or self.active_versions.get(name, "1")
        return self.prompts[f"{name}_v{version}"]

    def set_active(self, name: str, version: str):
        self.active_versions[name] = version
        # A/B 테스트: 50% 확률로 새 버전 사용
        # self.active_versions[name] = random.choice(["1", "2"])

pm = PromptManager()
pm.register("summarize", "1", "Summarize: {text}")
pm.register("summarize", "2", "당신은 전문 분석가... {text}")
pm.set_active("summarize", "2")

GPT-4o:
- 명확한 지시사항 선호
- Markdown 형식을 잘 따름
- "당신은 [역할]입니다" 스타일에 잘 반응

Claude 3.5/3.7:
- XML 태그 구조에 특히 잘 반응
- 긴 시스템 프롬프트를 잘 소화
- "반드시 ~해야 합니다" 같은 강한 제약에 순응적

Gemini:
- 멀티모달 컨텍스트에 강함
- 검색 증강(grounding)을 내장 지원

오픈소스 (Llama, Mistral 등):
- 각 모델의 특정 채팅 템플릿을 반드시 사용
- 상업적 모델보다 지시사항 따르기가 약할 수 있음
- 더 명시적이고 구체적인 지시가 필요

1. 온도(Temperature)를 0으로 설정
   → 재현 가능한 결과 확보

2. 지시사항을 더 구체적으로
   → "좋게 써줘" → "전문적이고 직접적인 어조로, 능동태 사용, 50자 이내로 써줘"

3. 원하는 출력 예시 추가 (Few-shot)
   → 말로 설명하는 것보다 예시가 효과적

4. 제약사항 명시
   → "하지 말아야 할 것"을 명시하면 네거티브 케이스 감소

5. Chain-of-thought 추가
   → "단계별로 생각해봅시다" 한 마디가 복잡한 추론 정확도를 크게 높임

6. 프롬프트 길이 최적화
   → 길다고 꼭 좋은 게 아님. 필요 없는 내용 제거