Claude Code x20 Max Usage를 모두 소진하고 잡담

이번주 Claude Code x20 MAX 사용량 초과

이코에코 에이전트는 추가할 기능이 많았고 뻗어나갈 DAG가 유연했던 만큼 새로운 앱을 개발하는 기분이었다.
아버지 간병을 마치고 서울로 복귀한 뒤 쭉 달렸다. x20 Usage를 금방 소모한 걸 보니 제대로 몰입했나 싶어 뿌듯하다.
Model Usage가 돌아오는 22일 PM 11시까지 개발은 중단하고 12월 2일부터 중단했던 서류 지원을 다시 재개할 예정이다.
 

멀티턴 + 날씨 검색 + Event별 UI 전환 + 도메인 지식 주입 + 실시간 토큰 스트리밍

 
Chat Multi-Agent 고도화는 기능-오케스트레이션 면에서 목표한 지점까지 온 듯하나 FE-BE E2E 연동이 아직 불안정하다.
Integration Layer인 Event Bus Layer를 LLM Async 큐잉 용도로 재사용했다. LangGraph가 asyncio를 네이티브로 지원하기에 Consumer를 asyncio 네이티브인 Taskiq를 사용하고 기존 Event Router와 SSE Gateway에서 Chat의 이벤트 또한 Streaming, Pub/Sub 할 수 있도록 Chat event 스키마를 추가 구성했다. 이벤트 필터링은 E2E를 거치며 seq -> timestamp -> chat:state:seq로 변화했다. 모든 서브에이전트는 Send API에서 병렬 실행(asyncio, userspace thread)이 되는 만큼 각 에이전트별 state/event 분리 없이 단순히 chat:event_id로 관리할 경우 weather와 같은 Enrichment가 유실되곤 했다. 그러다 timestamp를 도입하기도 했지만 실시간으로 수십-수천 K의 토큰이 스트리밍 되는 상황에서 timestamp는 오히려 유실 혹은 충돌을 일으키는 경우가 많았다. 결국 서브에이전트별로 이벤트-하위 상태를 나눠 충돌을 해결했다. (etc. chat:token:seq_id) 서버의 경우 Event Streaming을 수신하는 Event Router와 이를 구독하는 SSE-GW 피쳐의 로그를 살피며 이벤트가 유실되는 지점을 파악 중이다. FE가 어떤 Event들을 수신하는지 여부는 개발자 도구의 console에서 확인할 수 있다.

이벤트에 따라 '날씨 정보 검색 중', '정보 정리 중', '캐릭터 정보 검색 중'처럼 UI로 노출하도록 구성했기에 사용자 입장에서도 Multi Intent - Dynamic Router를 거쳐 어떤 Agent들이 선택되는지, 어떤 절차를 거쳐 Context가 병합되는지를 투명하게 확인 가능하다. 이런 방식의 UI는 ChatGPT, Cursor, Claude Code 모두 공유하는 방향이라 기존 에이전트 툴 사용자들에게 익숙할 거라 생각한다. 
지금 해결하고 있는 쪽은 Chat-persistence-worker(일괄 Batch Write, 5초 간격)에서 Postgres에 정보를 넣기 전까지 생기는 공백동안 FE의 채팅 데이터를 유지하는 방법이다. Chat을 응답받으면 Optimistic Update로 우선 사용자의 로컬 캐시(IndextedDB)에 저장을 해두고, Chat API cursor 기반 엔드포인트로 주기적으로 데이터를 조회해 Reconcile(병합)하는 구조로 구성했다. 설계, 구현, 검증 과정 FE-BE 트러블슈팅에서 확인할 수 있다.

https://rooftopsnow.tistory.com/217

데모 영상을 뽑을 정도는 도달했지만 session_id(에이전트)를 옮기며 확인할 경우, 답변을 생성하는 동안 다른 세션 창에 UI가 섞여 들어가는 경우가 발생한다. 이를 해결할 방안으로 FE의 IndexedDB 구조를 session_id까지 포함시켜 관리하는 방안을 구상 중이다. 백엔드는 user -> session -> message로 계층화된 스키마가 적용된 상태다. FE에서 간헐적으로 토큰 스트리밍을 받지 못하는 이슈도 있어 Chat Agent FE-BE 연동은 손을 볼 구간이 많다. (24일 기준으로 PG Connection Pool 초과가 주원인으로 관측돼 살펴보는 중이다.)
Agent 오케스트레이션을 거친 LLM의 답변은 매번 정상적으로 생성되고 Persistence에 축적이 되는 중이다. 답변 스트리밍이 작동하지 않으면 다른 창으로 나갔다 들어올 경우 채팅 메시지가 복구되니 혹시라도 이코에코 에이전트를 사용하는 분이 있다면 참고해 주면 감사하겠다. Opus 4.5 Usage가 돌아오기 전까지 개발은 멈추고 Resume와 포트폴리오에 디벨롭한 기능들을 반영하고 있다. 전환형 인턴 말곤 별다른 자리가 없어 보이는 상황이 좀 아이러니하긴 하다. 한국계들도 너무 늦지 않게 에이전트 제품화에 뛰어들거라 기대한다.
클라우드 플랫폼 개발처럼 지배적인 비즈니스 모델이라도 한국에서 씨가 마르는 시점이 되면 온갖 부트캠프, 학부 졸업생으로 밀어도 벌어진 격차를 따라잡을 수 없다. 산업이 소외되면서 생기는 반동은 후세대가 겪어야 한다.
그래도 그리 늦지 않은 시기에 모델, 에이전트 면에서 시도하는 움직임이 있으니 Cursor와 Claude Code처럼 수익화가 잡혀 지속 가능한 생태계가 되길 바란다. 두 회사는 이미 에이전트 매출로 $1B에 도달한 상황이다. 전직장에 있을 때도 느꼈지만 SW는 한국을 벗어나면 매출의 단위가 바뀌는 듯싶다. 그러니 '이게 돈이 되냐'는 말은 금지-!!
 
https://github.com/vercel-labs/agent-skills

GitHub - vercel-labs/agent-skills

Vercel에서 낸 FE Skill이 있다길래 살펴보는 중이다. FE 파트의 남은 작업은 이걸로 진행해도 좋겠다.