LLM / AI Systems
LLM을 단순히 호출하는 데 그치지 않고, 평가 가능하고 운영 가능한 AI 시스템으로 구현합니다.
LLM 기반 코드 생성과 퍼징부터 LangGraph Agentic AI, RAG, 비동기 스트리밍, 모델 벤치마크까지 경험했습니다. 모델의 응답 품질을 정량적으로 평가하고, 에이전트·백엔드·데이터 계층을 분리하여 실제 서비스에서 유지보수할 수 있는 구조를 설계합니다.
Featured Projects
LLM을 이용한 Fuzzing Harness 생성 자동화
Rust · Multi-LLM · Structured Outputs · AFL++
C/C++ 라이브러리의 헤더와 문서를 LLM 컨텍스트로 주입하여 API 메모리 소유권과 라이브러리별 보일러플레이트를 구조화했습니다. 그 결과 유효 하니스 생성률을 최대 4.5배 높이고, cJSON 브랜치 커버리지를 78.37%에서 87.38%로 개선했습니다.
논술 AI 학습 플랫폼
LangGraph · FastAPI · SQLModel · DeepEval · React
LangGraph 기반 채점 파이프라인과 FastAPI 백엔드 사이의 결합도를 낮추고, 3개 Replica 병렬 채점 및 중위값 집계 엔진을 구축했습니다. DeepEval 기반 8개 모델 벤치마크를 통해 지연 시간 91.3% 단축과 채점 오차 MAE 22.5% 개선을 검증했습니다.
게임 서비스센터 Agentic AI
LangGraph 1.x · LlamaIndex · FastAPI · SSE · Docker
LangGraph Checkpoint와 Interrupt를 활용한 HITL 멀티 에이전트 워크플로우를 설계했습니다. FastAPI의 비동기 SSE 스트리밍으로 LLM 토큰과 툴 실행 이벤트를 실시간 전달하고, LlamaIndex Vector Store 영속화와 유저 검증 툴을 구현했습니다.
LLM Engineering Highlights
- LangGraph 기반 StateGraph, HITL, 멀티 에이전트 워크플로우 설계
- 문서·코드베이스 기반 Context Engineering 및 Structured Outputs 적용
- RAG Vector Store 영속화와 도메인 검증 툴 구현
- DeepEval 기반 모델 품질·지연 시간 벤치마크
- FastAPI 비동기 SSE/JSONL 스트리밍과 백엔드 계층 분리
- SQLModel, PydanticJSON, Protocol/Facade 기반 구조화된 데이터 계층 설계