About

가장 도전적이었던 경험은 KT 대화형 AI Agent 플랫폼에서 유선 상품 가입 여정 전체를 대화만으로 완결하는 에이전트를 구축하며, 비선형 대화 흐름에서 세션 상태가 무너지는 문제를 해결한 것입니다. 멀티 에이전트 플랫폼 특성상 사용자는 가입 도중 요금·지식 등 다른 에이전트로 이탈했다가 복귀하고, 단계를 건너뛰거나 미래 단계 정보를 앞질러 말합니다. 초기 구조에서는 이때마다 진행 맥락이 소실되고 같은 정보를 다시 입력받는 문제가 반복되어, 가입 여정이 중단되는 상태였습니다.

근본 원인은 LLM이 이전 대화를 기억하지 못하는 무상태(stateless) 구조라는 점이었습니다. 저는 대화 진행에 필요한 모든 정보 (현재 단계, 가입 입력값, 직전 의도 분석 결과, 경유 에이전트 이력) 를 단일 JSON 상태 객체로 정의하고, 매 턴 '상태 복원 → 입력 반영 → 다음 단계 결정'의 사이클을 수행하는 구조로 재설계했습니다. 단계 순서를 코드에 고정하지 않고 슬롯 값 유무만으로 흐름을 재구성해 건너뛰기와 복귀를 동일 로직으로 처리했고, 앞질러 발화된 정보는 임시 버퍼(Look-ahead Buffer)에 적재했다가 해당 단계에서 소비하도록 했습니다.

이 과정에서 개인정보 보호라는 제약도 함께 풀어야 했습니다. 실제 주문 데이터는 상태 객체 내 별도 영역에 보관하고 LLM에는 단계 완료 여부 슬롯만 전달하는 PII Isolation 구조로, 세션 연속성과 보안 요건을 동시에 충족시켰습니다. 또한 멀티턴이 누적될수록 API 응답이 컨텍스트를 압박하는 문제는 JSON을 경량 표 형식(TOON)으로 변환하는 파서를 개발해 대화당 입력 토큰을 76.59k에서 27.97k로 63.4% 절감하며 해결했습니다.

그 결과 이탈·복귀·건너뛰기가 섞인 비선형 입력에서도 맥락이 무손실유지되는 완결형 가입 여정을 구현했고, KT 기획 테스트셋 기준 답변 성공률을 1차 검증 결과 78%에서 2차시 98% 이상으로 끌어올려 상용 오픈과 운영 이관까지 완수했습니다. 이 경험을 통해 AI 에이전트에서 가장 어려운 문제는 프롬프트나 모델이 아니라, 사용자의 예측 불가능한 행동을 견디는 상태 설계와 아키텍처라는 것을 체감했습니다. 이후로는 기능 구현 이전에 상태 흐름과 예외 경로를 먼저 설계하는 관점을 갖게 되었습니다.

에듀테크 스타트업의 초기 멤버로 참여하며, 기획·개발·디자인 조직 간 소통 구조와 의사결정 방식 자체를 데이터 중심으로 재정비한 경험이 있습니다. 초기 조직은 빠른 기능 개발과 일정 대응을 우선시하는 분위기였고, 각 조직은 자신의 관점에서 기능 단위로 요구사항을 전달하는 방식으로 협업이 이루어지고 있었습니다. 이로 인해 동일한 기능에 대해서도 조직마다 기대하는 목적과 활용 방식이 달랐고, 분석 결과 역시 “어디에, 어떤 의사결정에 쓰이는지”가 명확히 공유되지 않아 의사결정이 반복적으로 지연되는 문제가 발생했습니다.

특히 데이터 분석 결과가 기획·마케팅·서비스 개선 논의로 이어지는 과정에서, 숫자나 지표는 공유되었지만 그 지표가 의미하는 바와 실제 행동으로 연결되는 기준이 정리되지 않아 논의가 추상적인 방향으로 흐르는 경우가 많았습니다. 이로 인해 개발 일정이 반복적으로 변경되거나, 이미 구현된 기능이 다시 수정되는 비효율이 발생했습니다.

이 상황을 해결하기 위해 저는 기능 단위의 논의를 중단하고, 데이터 흐름과 의사결정 지점을 중심으로 한 공통 문서 체계 구축을 제안하고 주도했습니다. 기능 정의서, 플로우차트, 와이어프레임을 활용해 단순히 “무엇을 만든다”가 아니라, 어떤 데이터가 수집되고 → 어떻게 처리되며 → 어떤 분석을 거쳐 → 어떤 의사결정에 활용되는지를 하나의 흐름으로 정리했습니다. 이를 통해 각 조직이 자신의 역할을 기능이 아닌, 데이터 흐름 내 위치로 이해하도록 조정했습니다.

또한 회의 과정에서도 개별 기능의 구현 여부를 논의하기보다, 해당 기능이 어떤 의사결정 포인트를 개선하기 위한 것인지, 그리고 그 판단 기준이 어떤 데이터에 의해 결정되는지를 먼저 명확히 하도록 기준을 세웠습니다. 이 방식은 기획 단계에서 불필요한 기능 논의를 줄이고, 개발·디자인 조직이 동일한 목표를 기준으로 작업 우선순위를 설정하는 데 도움이 되었습니다.

그 결과 팀 내 의사결정 속도와 정확도가 눈에 띄게 개선되었고, 데이터 분석 결과가 실제 서비스 개선과 사업 방향 설정에 바로 활용되는 구조가 자리 잡았습니다. 또한 이러한 데이터 중심 커뮤니케이션 방식은 외부 협력사 및 투자자와의 논의에서도 효과적으로 작동했습니다. 기술적 구현 내용이나 분석 결과를 단순히 나열하는 것이 아니라, 데이터가 어떻게 사업적 판단으로 이어지는지를 구조적으로 설명할 수 있었고, 이는 서비스 출시와 투자 유치 과정에서 신뢰를 확보하는 데 기여했습니다.

이러한 협업 구조 개선 경험은 서비스 정식 출시와 투자 유치, 중소벤처기업부 장관상 수상이라는 성과로 이어졌으며, 이후에도 조직 내에서 데이터 기반 의사결정과 명확한 소통 구조를 유지하는 기준으로 활용되었습니다. 이 경험을 통해 저는 분석 결과 자체보다, 그 결과가 조직 내에서 어떻게 공유되고 의사결정으로 연결되는지가 서비스 성과에 직접적인 영향을 미친다는 점을 실무적으로 증명할 수 있었습니다.

① AI를 [기능 구현]이 아닌 [의사결정 정확도]의 문제로 바라보게 된 배경
데이터 기반 서비스와 AI 에이전트를 프로덕션 환경에서 직접 구현·운영하며, AI 기술이 단순히 새로운 기능을 추가하거나 자동화를 도입하는 수준에 머무를 경우 비즈니스 임팩트로 이어지기 어렵다는 점을 경험했습니다. 초기에는 모델 자체의 벤치마크 성능이나 기능 구현에 초점을 맞췄으나, 실제 서비스 환경을 거치며 AI의 판단 결과가 '어떤 데이터 구조와 컨텍스트를 기반으로 도출되는지'에 따라 비즈니스 의사결정의 정확도와 신뢰도가 완전히 달라진다는 점을 깨달았습니다.
이 과정에서 정형·비정형 데이터를 다루며, 동일한 LLM 백본을 사용하더라도 청킹(Chunking) 전략, 의미 단위 기준, 데이터 전처리 파이프라인에 따라 다운스트림 태스크의 품질이 크게 좌우되는 상황을 확인했습니다. 이러한 실무적 경험을 통해 AI 시스템의 핵심은 모델 자체보다 판단에 이르기까지의 '데이터 흐름(Data Flow)과 파이프라인의 견고함'에 있음을 통찰했습니다. 이후 시스템을 설계할 때는 구현 가능한 기능을 나열하기보다 데이터의 도메인 맥락을 먼저 분석하는 방식으로 접근하고 있으며, 이는 실제 엔터프라이즈 환경에서 서비스 품질을 좌우하는 핵심 요소라고 생각합니다.

② 데이터 품질과 구조가 시스템 판단에 영향을 미친다는 경험을 통해 확장된 관점
이러한 관점은 KT 유선가입 에이전트를 운영하며 검증되었습니다. 동일한 모델과 파이프라인을 사용하더라도 결과의 안정성과 신뢰도가 일정하지 않은 문제를 반복적으로 마주했고, 생성 결과를 점검해 보니 원인은 모델 설정이 아니라 검색과 판단의 입력이 되는 데이터와 그 구조화 방식에 있었습니다. 지식 검색에서는 모호한 질의를 검색에 적합한 형태로 재정의하는 쿼리 전처리를, 상품 데이터에서는 API 응답을 필요 필드만 남긴 경량 구조로 재정의하는 작업을 거친 뒤에야 응답 일관성이 확보되었습니다. 결과를 생성 단계에서 보정하기보다 입력 단계에서부터 오류 가능성을 줄이는 구조 개선이 판단 품질을 결정한다는 것을 확인한 경험이었습니다.
현재 수행 중인 KT Enterprise AI Agent 프로젝트에서는 이 문제를 더 큰 규모로 마주하고 있습니다. 상품 카탈로그, 규정 문서, 마스터 데이터 등 정형화되지 않은 문서로 멀티 RAG를 구축하는 과정에서 문서 레이아웃 차이, 출처·기준일 누락, 전처리 기준 불일치가 발생하면 동일한 질문에도 서로 다른 문서가 검색되어 판단 일관성이 흔들리기 때문입니다. 이에 문서 유형별 기준과 메타데이터(출처·기준일·카테고리) 정리 방식을 정의하고, 문서 수집부터 구조화, 전처리, 검색으로 이어지는 처리 흐름을 표준화하는 데 집중하고 있습니다. 이러한 경험을 거치며 데이터는 단순한 입력값이 아니라, 시스템이 안정적인 판단을 수행하기 위해 갖춰져야 할 핵심 인프라라는 확신을 갖게 되었습니다.

③ 모델 이전에 [구조와 기준]에 대한 인식
이러한 일련의 경험을 통해 두 가지 확고한 기준을 갖게 되었습니다. 하나는 모든 판단을 모델에 맡기는 것이 아니라, 자동화가 효과적인 영역과 규칙·사람의 검증이 필요한 영역을 구분해야 한다는 것입니다. 유선가입 에이전트에서 LLM의 추론 책임을 의도 분류로 한정하고 조건 비교와 유효성 검증은 비즈니스 로직 계층에, 운영 사고로 직결되는 케이스는 가드레일 규칙에 맡긴 것도 이 기준에 따른 설계였습니다. 다른 하나는 성공적인 AI 시스템에는 프레임워크나 모델의 지명도보다 데이터 아키텍처와 트레이드오프를 고려한 검색·판단 전략이 결합되어야 한다는 것입니다. Vector RAG, GraphRAG, Knowledge Graph 등의 기술을 꾸준히 내재화해 온 것 역시, 다양한 사용자 질의와 비즈니스 맥락 속에서 흔들리지 않는 판단 구조를 설계하기 위함이었습니다.
결국 AI 서비스는 예측할 수 없는 질문과 맥락 속에서도 안정적으로 동작해야 하며, 이를 결정하는 것은 기능 구현이 아니라 그 이전에 설계되는 검색 파이프라인과 판단 구조라고 생각합니다. 저는 단순히 주어진 모델을 호출하는 개발자가 아니라, 데이터 흐름부터 백엔드 아키텍처, 에이전트 오케스트레이션까지 전 주기를 유기적으로 연결하며 이를 상용 서비스의 성과로 증명해왔습니다.

④ 향후 기여 방향 및 역량 확장 목표
단기적으로는 도메인 데이터 구조와 기술 파이프라인을 신속히 파악하여, 설계부터 상용 오픈과 운영 이관까지 완수해 본 경험을 바탕으로 안정적으로 동작하는 에이전트 아키텍처 구축에 즉시 기여하겠습니다. 온디바이스의 극단적 자원 제약부터 엔터프라이즈 규모의 트래픽 환경까지, 서로 다른 제약 조건 아래에서 서비스를 완성해 온 경험은 어떤 환경에서도 빠르게 적응하는 기반이 될 것입니다.
중기적으로는 대화 상태 관리, 멀티 에이전트 오케스트레이션, 멀티 RAG 설계 역량을 바탕으로, 다양한 사용자 시나리오와 비즈니스 맥락에서도 판단이 흔들리지 않는 확장 가능한 에이전트 플랫폼 표준을 수립하는 데 주도적인 역할을 수행하겠습니다. 이 과정에서 단순히 지표상의 성능 개선에 머무르지 않고, 대화당 입력 토큰 63.4% 절감과 답변 성공률 98% 달성처럼 실험 결과와 성능 이슈를 정량적으로 구조화하여 가시적인 비즈니스 임팩트로 연결하는 방식을 견지하겠습니다.
장기적으로는 데이터 지식화 파이프라인부터 에이전트 아키텍처, 운영 비용 최적화까지 아우르는 AI Agent Architect로서 신뢰성 있고 확장 가능한 아키텍처를 구축하는 데 핵심적으로 기여하겠습니다. 이론에 갇히지 않고, 비즈니스 성과와 실무 엔지니어링을 강력하게 연결하는 인재가 되겠습니다.