LangChain으로 구현한 KT 에이블스쿨 QnA RAG 챗봇 개발기
·
머신러닝 & 딥러닝 & AI 맛보며 친해지기
이번 실습에서는 미래의 KT 에이블러를 위한 FAQ 챗봇을 직접 구축을 진행하였다. (해당 프로젝트는 openai의 api가 필요하다) 핵심 목표는 LangChain 프레임워크, OpenAI의 GPT-4o-mini 그리고 VectorDB중 하나인 FAISS 를 활용해 RAG(Retrieval-Augmented Generation) 기반의 파이프라인을 구현하는 것이었다.해당 실습를 통해 다양한 컴포넌트를 직접 설계하고 연동해보면서, RAG 구조의 흐름과 구성 요소 간의 상호작용에 대한 깊은 이해를 얻을 수 있었다. 이 글에서는 구축 과정에서 마주한 시행착오와 함께, 얻은 인사이트를 정리하고자한다.LangChain이란 무엇일까?LangChain은 LLM을 기반으로 한 애플리케이션을 효율적으로 구성할 수 있..
RAG(Retrieval-Augmented Generation)와 Vector DB 란?
·
머신러닝 & 딥러닝 & AI 맛보며 친해지기
KT 에이블스쿨을 통해 다양한 기술 주제를 학습하던 중, 오랫동안 관심을 가져온 분야와 맞닿아 있는 한 가지 주제에 대해 깊이 있는 리서치를 진행하고자 한다. 이 주제는 과거 SK AI Summit에서 SKT의 발표를 통해 처음 접하게 되었고, 이후 여러 기업의 합격했던 실무 면접에서도 내가 프레젠테이션 과제로 다룰 만큼 개인적으로도 의미 있는 분야이다. 오늘날 대부분의 기업은 방대한 양의 정보를 PDF나 워드 문서와 같은 파일 형태로 관리하고 있다. 인사 기록, 시설 보안 자료, 운영 매뉴얼, 고객 응대 이력, 그리고 제품 설명서나 수리 매뉴얼까지 이 모든 문서들은 잘 정리되어 축적되어 있지만, 실제 업무에서는 검색과 접근이 어렵고, 결과적으로 '죽은 데이터'로 남는 경우가 많다. 예를 들어, 제품 ..