Knowledge Base/Applied
-
OpenAI Python SDK Version Compatibility GuideKnowledge Base/Applied 2026. 1. 24. 12:56
SDK Version TimelineVersionRelease DateMilestone1.0.02023-11Chat Completions API (v1 rewrite)1.66.02025-03-11Responses API + Built-in Tools 도입2.0.02025-09-30Breaking: output type 변경2.7.22025-11-10Python 3.8 지원 중단2.9.02025-12-04Agents SDK 호환 최소 버전2.11.02025-12-11GPT-5.2 지원2.15.02026-01-09Latest stableAPI Capability Matrix기능Chat CompletionsResponses APIAgents SDKEndpoint/v1/chat/completions/v1/res..
-
LangGraph 스트리밍 패턴 심화 가이드Knowledge Base/Applied 2026. 1. 9. 23:05
Chat 서비스의 SSE 스트리밍 구현을 위한 LangGraph 스트리밍 패턴 정리작성일: 2026-01-09참고: LangGraph Streaming1. 스트리밍 모드 비교LangGraph는 세 가지 스트리밍 모드를 제공합니다.1.1 stream_mode 옵션모드설명사용 케이스values전체 State 스트리밍디버깅, 전체 상태 추적updatesState 변경분만 스트리밍노드별 결과 추적custom노드 내부 커스텀 이벤트토큰 스트리밍, 진행 상황1.2 Chat 서비스 요구사항필요한 이벤트 타입:├── progress: 단계 진행 상황 (vision, rag, answer 시작/완료)├── delta: LLM 토큰 스트리밍 (실시간 타이핑 효과)└── done: 파이프라인 완료결론: stream_mode..
-
LangGraph 레퍼런스 가이드Knowledge Base/Applied 2026. 1. 9. 23:02
작성일: 2026-01-09적용 서비스: apps/chat참고 문서: LangGraph 공식 문서LangGraph 핵심 개념, API, 그리고 Chat 서비스 마이그레이션에 적용할 패턴 정리1. LangGraph 개요LangGraph는 복잡한 생성형 AI 워크플로우를 구축하기 위한 그래프 기반 오케스트레이션 프레임워크입니다.1.1 핵심 특징특징설명명시적 상태 모델링노드별 입력/출력 정의로 흐름 추적 및 디버깅 용이조건부 분기/루프상태 간 조건 분기와 재귀적 루프 설정 가능LLM 통합 추상화OpenAI, Anthropic, Gemini 등 다양한 LLM 지원내장 Persistence체크포인트 기반 상태 저장/복원스트리밍 지원노드별 이벤트 및 토큰 스트리밍1.2 Workflow vs AgentWorkflow..
-
Stateless Reducer Pattern for AI AgentsKnowledge Base/Applied 2026. 1. 5. 07:21
"Make your agent a stateless reducer"에이전트를 상태를 직접 관리하지 않는 순수 함수로 설계하여 테스트 용이성, 재현성, 확장성을 확보하는 패턴1. 개요1.1 전통적인 Stateful Agent의 문제점# ❌ Anti-pattern: Stateful Agentclass StatefulAgent: def __init__(self): self.messages = [] # 내부 상태 self.current_step = "start" # 내부 상태 self.results = {} # 내부 상태 self.llm = OpenAI() def run(self, user_input: str):..
-
LangGraph : 상태관리, SSE, 오케스트레이션, 비동기 태스크Knowledge Base/Applied 2026. 1. 5. 06:50
LangGraph의 핵심 기능을 심층 분석하고, 기존 인프라(Redis Streams, RabbitMQ, SSE Gateway)와의 호환성을 검토합니다.참고: LangGraph 공식 문서, LangGraph Concepts목차LangGraph 개요상태 관리 (State Management)그래프 오케스트레이션 (Graph Orchestration)스트리밍 (Streaming & SSE)비동기 태스크 (Async Tasks)체크포인트 & 지속성 (Persistence)Human-in-the-Loop기존 인프라와의 호환성 분석1. LangGraph 개요1.1 LangGraph란?LangGraph는 LangChain 팀이 개발한 상태 기반 멀티액터 오케스트레이션 프레임워크입니다.에이전트 워크플로우를 Direc..
-
Dependency Injection for LLMKnowledge Base/Applied 2026. 1. 5. 06:31
LLM 모델을 함수의 파라미터로 전달하여 에이전트 로직과 모델 선택을 분리하는 설계 패턴용어 정의⚠️ Note: 이 문서에서 설명하는 패턴은 공식적인 명칭이 없습니다.기존 소프트웨어 설계 패턴(Dependency Injection, Strategy Pattern)을 LLM 컨텍스트에 적용한 것입니다. 이 패턴을 설명하는 다양한 표현Dependency Injection for LLM - DI 패턴의 LLM 적용Strategy Pattern for Model Selection - 전략 패턴 관점Provider Abstraction - 프로바이더 추상화Pluggable LLM Backend - 교체 가능한 LLM 백엔드Model as Configuration - 모델을 설정으로 취급실제 구현 사례Cursor ..
-
LLM Gateway & Unified Interface PatternKnowledge Base/Applied 2026. 1. 5. 06:16
AI 에이전트 시스템에서 LLM 모델 선택을 에이전트 로직과 분리하는 아키텍처 패턴용어 정의⚠️ Note: 이 문서에서 다루는 개념들은 업계에서 다양한 명칭으로 불립니다.공식적으로 통일된 명칭은 없으며, 아래와 같은 용어들이 실제로 사용됩니다.실제 사용 용어사용처설명LLM Gateway / AI GatewayCloudflare, Kong, AWSLLM 요청을 중앙에서 관리하는 게이트웨이LLM Router당근, Martian모델별로 요청을 라우팅하는 컴포넌트Unified LLM InterfaceLiteLLM, OpenRouter여러 Provider를 하나의 API로 통합Multi-Provider SupportLangChain, LiteLLM다중 LLM Provider 지원Model Abstraction L..
-
Karpenter: Kubernetes Node AutoscalingKnowledge Base/Applied 2025. 12. 26. 20:42
참고: Karpenter Documentation, AWS Karpenter GitHub, CNCF Karpenter들어가며Kubernetes에서 Pod 스케일링(HPA, KEDA)은 잘 작동하지만, 노드 리소스가 부족하면 Pod는 Pending 상태에 머문다. 기존 Cluster Autoscaler는 ASG(Auto Scaling Group)에 의존하여 스케일업이 느리고 인스턴스 타입 선택이 제한적이다.┌─────────────────────────────────────────────────────────────┐│ 노드 스케일링의 필요성 │├───────────────────────────────────────────────────..