自宅でAIスーパーコンピュータ：NVIDIA DGX SparkでLLMを学び、ComfyUIでコンテンツを作る

# Ollama インストール
curl -fsSL https://ollama.com/install.sh | sh

# サービス開始
systemctl start ollama

# バージョン確認
ollama --version

# 小型モデル（7B） - 即座に実行可能
ollama run llama3.1:7b

# 中型モデル（70B） - DGX Sparkの真価を発揮
ollama run llama3.1:70b

# 大型モデル（200B級） - FP4量子化で128GBに収まる
ollama run deepseek-r1:671b-q2_K

# コーディング特化モデル
ollama run qwen2.5-coder:32b

# 日本語特化モデル
ollama run elyza:70b

# TensorRT-LLMでモデルを最適化（例：Llama 3.1 70B）
# DGX OSにはtrtllmが事前インストール済み

# モデルのダウンロードと変換
python3 -m tensorrt_llm.commands.build \
  --model_dir ./llama-3.1-70b \
  --output_dir ./llama-3.1-70b-trt \
  --dtype float16 \
  --use_fp8_context_fmha enable

# 最適化モデルで推論実行
python3 -m tensorrt_llm.commands.run \
  --engine_dir ./llama-3.1-70b-trt \
  --max_output_len 512 \
  --input_text "日本の首都について教えてください"

# NIMコンテナでLlama 3.1 70Bを起動
docker run -d --gpus all \
  -p 8000:8000 \
  -e NIM_MODEL_NAME=meta/llama-3.1-70b-instruct \
  nvcr.io/nim/meta/llama-3.1-70b-instruct:latest

# OpenAI互換APIでリクエスト
curl -X POST http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta/llama-3.1-70b-instruct",
    "messages": [
      {"role": "user", "content": "DGX Sparkの特徴を教えてください"}
    ],
    "max_tokens": 512
  }'

# Linux（DGX OS含む）でのコマンドラインインストール
# 公式リポジトリからクローン
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI

# 仮想環境の作成
python3 -m venv venv
source venv/bin/activate

# 依存関係のインストール（NVIDIA GPU用）
pip install torch torchvision torchaudio \
  --index-url https://download.pytorch.org/whl/cu124
pip install -r requirements.txt

# 起動
python main.py --listen 0.0.0.0 --port 8188

Load Checkpoint → CLIP Text Encode (正) → KSampler → VAE Decode → Save Image
                → CLIP Text Encode (負) ↗
                → Empty Latent Image ↗

# ComfyUI Managerのインストール
cd ComfyUI/custom_nodes
git clone https://github.com/ltdrdata/ComfyUI-Manager.git

# ComfyUIを再起動後、Manager UIからワンクリックインストール可能

# 1. システムアップデート
sudo apt update && sudo apt upgrade -y

# 2. Python仮想環境の準備
sudo apt install python3.11-venv
python3 -m venv ~/comfyui-env
source ~/comfyui-env/bin/activate

# 3. ComfyUIのクローン
git clone https://github.com/comfyanonymous/ComfyUI.git ~/ComfyUI
cd ~/ComfyUI

# 4. PyTorch（CUDA対応版）のインストール
pip install torch torchvision torchaudio \
  --index-url https://download.pytorch.org/whl/cu124

# 5. ComfyUIの依存関係インストール
pip install -r requirements.txt

# 6. ComfyUI Managerのインストール
cd custom_nodes
git clone https://github.com/ltdrdata/ComfyUI-Manager.git
cd ..

# 7. モデルディレクトリの準備
mkdir -p models/checkpoints
mkdir -p models/loras
mkdir -p models/controlnet
mkdir -p models/clip
mkdir -p models/vae

# Hugging Face CLIのインストール
pip install huggingface_hub

# SDXL 1.0 ベースモデル
huggingface-cli download stabilityai/stable-diffusion-xl-base-1.0 \
  sd_xl_base_1.0.safetensors \
  --local-dir ~/ComfyUI/models/checkpoints

# FLUX.1 Schnell（高速生成）
huggingface-cli download black-forest-labs/FLUX.1-schnell \
  flux1-schnell.safetensors \
  --local-dir ~/ComfyUI/models/checkpoints

# FLUX.1 Dev（高品質生成）
huggingface-cli download black-forest-labs/FLUX.1-dev \
  flux1-dev.safetensors \
  --local-dir ~/ComfyUI/models/checkpoints

# FLUX用CLIPモデル
huggingface-cli download comfyanonymous/flux_text_encoders \
  t5xxl_fp16.safetensors \
  --local-dir ~/ComfyUI/models/clip

huggingface-cli download comfyanonymous/flux_text_encoders \
  clip_l.safetensors \
  --local-dir ~/ComfyUI/models/clip

# FLUX用VAE
huggingface-cli download black-forest-labs/FLUX.1-schnell \
  ae.safetensors \
  --local-dir ~/ComfyUI/models/vae

# ComfyUIをGPU最適化モードで起動
python main.py \
  --listen 0.0.0.0 \
  --port 8188 \
  --cuda-device 0 \
  --force-fp16 \
  --preview-method auto \
  --output-directory ~/ComfyUI/output

# 大規模モデル実行時（メモリ最適化）
python main.py \
  --listen 0.0.0.0 \
  --port 8188 \
  --lowvram \
  --cuda-device 0

# xformersのインストール（メモリ効率の改善）
pip install xformers

# ComfyUIをxformers有効で起動
python main.py --listen 0.0.0.0 --port 8188 --use-pytorch-cross-attention

import requests
import json
import time
import base64

# === 設定 ===
OLLAMA_URL = "http://localhost:11434"
COMFYUI_URL = "http://localhost:8188"
LLM_MODEL = "llama3.1:70b"

def generate_prompt_with_llm(description: str) -> str:
    """LLMを使って画像生成プロンプトを生成する"""
    system_prompt = """あなたは画像生成AIのプロンプトエンジニアです。
    ユーザーの日本語の説明を受け取り、FLUX/Stable Diffusion用の
    英語プロンプトを生成してください。

    ルール:
    - 英語で出力
    - 具体的なビジュアル要素を含める
    - スタイル、ライティング、構図を指定
    - 品質タグを含める（masterpiece, best quality等）
    - 200語以内
    """

    response = requests.post(
        f"{OLLAMA_URL}/api/generate",
        json={
            "model": LLM_MODEL,
            "prompt": f"{description}",
            "system": system_prompt,
            "stream": False
        }
    )
    return response.json()["response"]


def generate_image_with_comfyui(prompt: str, negative: str = "") -> str:
    """ComfyUI APIを使って画像を生成する"""
    workflow = {
        "3": {
            "class_type": "KSampler",
            "inputs": {
                "seed": 42,
                "steps": 4,
                "cfg": 1.0,
                "sampler_name": "euler",
                "scheduler": "simple",
                "denoise": 1.0,
                "model": ["4", 0],
                "positive": ["6", 0],
                "negative": ["7", 0],
                "latent_image": ["5", 0]
            }
        },
        "4": {
            "class_type": "CheckpointLoaderSimple",
            "inputs": {
                "ckpt_name": "flux1-schnell.safetensors"
            }
        },
        "5": {
            "class_type": "EmptyLatentImage",
            "inputs": {
                "width": 1024,
                "height": 1024,
                "batch_size": 1
            }
        },
        "6": {
            "class_type": "CLIPTextEncode",
            "inputs": {
                "text": prompt,
                "clip": ["4", 1]
            }
        },
        "7": {
            "class_type": "CLIPTextEncode",
            "inputs": {
                "text": negative,
                "clip": ["4", 1]
            }
        },
        "8": {
            "class_type": "VAEDecode",
            "inputs": {
                "samples": ["3", 0],
                "vae": ["4", 2]
            }
        },
        "9": {
            "class_type": "SaveImage",
            "inputs": {
                "filename_prefix": "llm_generated",
                "images": ["8", 0]
            }
        }
    }

    # キューにワークフローを投入
    response = requests.post(
        f"{COMFYUI_URL}/prompt",
        json={"prompt": workflow}
    )
    prompt_id = response.json()["prompt_id"]

    # 生成完了を待機
    while True:
        history = requests.get(
            f"{COMFYUI_URL}/history/{prompt_id}"
        ).json()
        if prompt_id in history:
            return history[prompt_id]["outputs"]["9"]["images"][0]["filename"]
        time.sleep(1)


def text_to_image_pipeline(description: str) -> dict:
    """日本語テキストから画像を生成する統合パイプライン"""
    print(f"[1/3] LLMでプロンプト生成中...")
    prompt = generate_prompt_with_llm(description)
    print(f"[2/3] 生成されたプロンプト: {prompt[:100]}...")

    print(f"[3/3] ComfyUIで画像生成中...")
    filename = generate_image_with_comfyui(prompt)

    return {
        "original_description": description,
        "generated_prompt": prompt,
        "output_image": filename
    }


# === 実行例 ===
if __name__ == "__main__":
    result = text_to_image_pipeline(
        "桜が満開の東京タワー、夕暮れ時、写真のようにリアルに"
    )
    print(f"生成完了: {result['output_image']}")

import asyncio
from concurrent.futures import ThreadPoolExecutor

# ブログ記事用の画像リスト
blog_images = [
    "AIサーバールームのイメージ、青い光が輝くラック",
    "プログラマーがデュアルモニターでコードを書いている風景",
    "ニューラルネットワークの抽象的なビジュアライゼーション",
    "東京の夜景とデジタルオーバーレイ",
    "ロボットと人間が握手するシーン"
]

def batch_generate(descriptions: list) -> list:
    """複数の画像を順次生成する"""
    results = []
    for i, desc in enumerate(descriptions):
        print(f"\n--- 画像 {i+1}/{len(descriptions)} ---")
        result = text_to_image_pipeline(desc)
        results.append(result)
    return results

if __name__ == "__main__":
    results = batch_generate(blog_images)
    for r in results:
        print(f"  {r['original_description'][:30]}... -> {r['output_image']}")

def generate_blog_thumbnail(article_title: str, article_summary: str) -> str:
    """ブログ記事のサムネイルを自動生成する"""
    prompt = generate_prompt_with_llm(
        f"ブログ記事のサムネイル画像を生成してください。\n"
        f"タイトル: {article_title}\n"
        f"要約: {article_summary}\n"
        f"スタイル: プロフェッショナル、テック系ブログ、16:9比率"
    )
    return generate_image_with_comfyui(prompt)

def generate_seo_content(topic: str) -> dict:
    """SEO最適化されたブログコンテンツを生成する"""
    response = requests.post(
        f"{OLLAMA_URL}/api/generate",
        json={
            "model": LLM_MODEL,
            "system": "あなたはSEO専門家です。検索エンジン最適化を考慮した日本語ブログ記事を書いてください。",
            "prompt": f"トピック: {topic}\n\nメタディスクリプション、H2見出し5つ、各セクション200文字の本文を生成してください。",
            "stream": False
        }
    )
    return response.json()["response"]

def generate_video_content(topic: str) -> dict:
    """YouTube動画のスクリプトとビジュアルを同時生成"""
    # スクリプト生成
    script = requests.post(
        f"{OLLAMA_URL}/api/generate",
        json={
            "model": LLM_MODEL,
            "system": "YouTubeの解説動画のスクリプトを書いてください。",
            "prompt": f"トピック: {topic}\n8分間の動画用。導入、本編3セクション、まとめの構成で。",
            "stream": False
        }
    ).json()["response"]

    # 各セクション用のビジュアル生成
    sections = script.split("\n\n")
    visuals = []
    for section in sections[:5]:
        img_prompt = generate_prompt_with_llm(
            f"この動画セクションの背景画像: {section[:200]}"
        )
        img = generate_image_with_comfyui(img_prompt)
        visuals.append(img)

    return {"script": script, "visuals": visuals}

def generate_carousel_post(topic: str, slide_count: int = 5) -> list:
    """Instagramカルーセル用の画像セットを生成"""
    # LLMでスライド内容を企画
    plan = requests.post(
        f"{OLLAMA_URL}/api/generate",
        json={
            "model": LLM_MODEL,
            "system": "Instagramのカルーセル投稿を企画してください。",
            "prompt": f"トピック: {topic}\n{slide_count}枚のスライド構成で。各スライドの画像説明を出力。",
            "stream": False
        }
    ).json()["response"]

    # 各スライドの画像を生成
    slides = []
    for i, desc in enumerate(plan.split("\n")[:slide_count]):
        img = generate_image_with_comfyui(
            generate_prompt_with_llm(desc + " Instagram風、1080x1080、鮮やかな色彩")
        )
        slides.append(img)

    return slides

月間節約額 = クラウドAPI費用 - ローカルランニングコスト
           = 12,000円 - 2,700円
           = 9,300円/月

損益分岐点 = 初期投資 / 月間節約額
           = 980,000円 / 9,300円
           = 約105ヶ月（約8.8年）