Software Engineer · AI Engineer (Agent · Platform · AX)

허윤제품 AI 에이전트와 사내 AI 플랫폼(Eval · MCP · 지식 파이프라인)을 만들고 운영합니다.

Summary

2026. 09. 24 · D+0

가설마다 에이전트 버전을 만들어 루브릭으로 비교하는 개선 루프를 짧게 만들려고 사내 Eval Platform을 설계·구축했습니다. 제품 에이전트는 기존 버전과 결과를 비교하는 eval을 기준으로 V1→V3까지 전환했습니다.

인프라를 직접 운영해 왔기 때문에 AI 기능을 어디에 어떻게 붙여야 비용과 운영이 맞는지 판단합니다. Terraform IaC 도입, Swarm→EKS 전환, 월 $685 비용 절감을 이끌었고, SOC2 Type II에서는 개발 영역 통제를 맡았습니다.

문제를 먼저 찾아 제안합니다. 사내 MCP 허브와 AI 활용 확산(AX), 인프라 비용 최적화도 직접 제안해 시작했습니다.

Experience

총 6년 8개월

2021. 08 ~

재직 중5년 2개월

Software Engineer

Adriel
  • 광고 데이터 대시보드 SaaS 스타트업. 영어 협업 환경에서 백엔드로 시작해 인프라, AI 에이전트·플랫폼까지 역할을 넓힘
  • Agent
  • leadAgent(제품 AI 에이전트) V1→V3 전환 — 기존 버전과 결과를 비교하는 eval을 통과 기준으로 삼아 교체. 위젯 생성 19초→2.1초
  • Adri(사내 Slack AI 봇) 인수 후 재구축 — 실행을 동기 HTTP에서 큐 + KEDA ScaledJob으로 바꾸고 대기 간격을 조정해 멘션→응답 약 27초→11~16초(staging 실측). 도구 설명을 A/B eval로 다듬어 토큰 −41.6%, 비용 −40.8%
  • Platform
  • AI Eval Platform 설계·구축(2026-09 prod) — 가설마다 에이전트·프롬프트·모델 조합을 버전으로 만들어 같은 데이터셋에서 루브릭으로 채점하고 비용까지 비교. 실행기는 KEDA ScaledJob으로 채점 단위마다 pod를 격리해 병렬 실행
  • SSOT 지식 파이프라인 구축(2026-04) — 코드·문서·정책을 자동 문서화해 벡터 DB에 적재, 사내 MCP 검색으로 팀 전체에 제공하고 2026-08부터 제품 에이전트의 고객 문의 답변 근거로도 사용
  • AX
  • 사내 MCP를 claude.ai 커넥터로 연결해 비개발자도 설정 없이 사내 데이터·도구를 쓰게 함 — OAuth 2.1 인증, 토큰별 사용 로그로 이상 사용 추적, BackOffice 계정 폐쇄로 퇴사자 즉시 차단
  • AI 코딩 에이전트(Claude Code·Cursor 등) 지침을 Ruler로 한 곳에서 관리하고 에이전트별 설정을 자동 생성
  • Infra
  • Docker Swarm→EKS 전환 주도(2025-06~09) — Karpenter 노드 오토스케일, 큐 길이 기반 KEDA 워커 오토스케일, ArgoCD GitOps 배포 도입
  • Terraform IaC 도입(2026-06~) — 운영 중인 AWS 리소스를 import해 plan diff 0·pod 재시작 0으로 코드화(환경별 레이어 11개)
  • 인프라 비용 월 약 $685(연 약 $8,220) 절감 — S3 요청비 −86%, EFS+백업 −68%
  • Express graceful shutdown 표준화 — 502 에러 −60%, 배포 시 강제 종료로 끊기던 요청 −78%
  • 서버 부팅 최적화 — 역할별로 필요한 코드만 로드해 초기화 11.12초→0.98초, 메모리 −77%
  • 컨테이너 이미지 경량화 — 이미지 크기 −60%, cold pull 시간 −55%
  • Security
  • SOC2 Type II 취득(감사 기간 2025-12~2026-03) — 개발 영역 통제 담당, DAST(ZAP)·SAST 스캐너 도입, 외부 침투 테스트 대응
  • Backend
  • BI 속도 개선(2024 Q4) — 광고 데이터 대시보드 로딩 p95 6.8초→1.2초(−82%)
  • Cloudflare Argo Smart Routing·엣지 캐시 도입 — origin 응답 547→263ms(−52%), API 외 origin 요청 −80%
  • 위젯 캐시 Redis 값 압축(snappy) — 값 크기 약 1/10, Redis ping timeout 에러율 2%→0.5%
  • AdGen 배너 생성 서버 이전·최적화 — 생성 15~16초→3~4초, 동시 처리 4장→약 40장, 에러율 50%→1%
  • Datastream을 AWS Glue 서버리스 ETL로 전환 제안·구축(2024~2025) — 배포 자동화, 자체 Python 라이브러리, 실행 상태 추적
  • Stripe 결제 리팩토링(2023) — Usage Based Billing, 크레딧, Trial
  • 네이버 검색광고 커넥터 재작성(2023) — 신규 커넥터 커밋 60건 중 59건 직접 작성, 대형 고객 계약 대응
  • DataSourceCache 축적 시스템 구축 주도(2023)

2020. 02 ~ 2021. 07

1년 6개월

Software Engineer Team Lead

RS Team
  • IoT 및 SI 중심의 소규모 조직에서 백엔드 팀 리드 역할 수행
  • RSTeam CMS 개발과 NestJS 도입을 주도하며 백엔드 프로젝트 리딩
  • 쇼핑몰 결제, 관제 시뮬레이터, 예약 플랫폼 등 다양한 SI 프로젝트 개발 및 운영
  • AWS 인프라와 데이터베이스 운영 및 유지보수 담당

Stack

AI Systems

LangChain / LangGraphOpenAI Responses APILangSmith (Eval)MCP (OAuth 2.1)QdrantClaude Code / Ruler

Backend

Node.jsTypeScriptExpress.jsBullMQPostgreSQL / AuroraRedis / ValkeyStripe

Platform & Infra

AWS (EKS, Fargate, RDS, Glue, S3, IAM Identity Center)TerraformKubernetes / HelmArgoCDKarpenter / KEDAGitHub ActionsDockerCloudflareTraefikElastic APM

Security & Compliance

SOC2 Type IIZAP (DAST) / SASTGuardDuty / InspectorSprinto

Etc

Python (Glue ETL)English (업무 소통)

PRESENTATION

2026. 04

Adriel Knowledge MCP

사내 개발팀 발표
  • SSOT 지식 파이프라인과 사내 Knowledge MCP 검색 구조 소개

2026. 03

Let's Use AI

사내 개발팀 발표
  • AI 활용의 핵심은 연동과 context — MCP로 사내 도구를 연결해 업무에 쓰는 방법

EDUCATION

2017. 03 ~ 2020. 02

한밭대학교

도시공학과 (중퇴)