Teach AI to Answer Questions Based on Your Documents
문서 기반 AI는 더 흔해졌지만, 동시에 더 헷갈리는 주제가 되었습니다.
2023년에 썼던 첫 튜토리얼은 Azure AI Search와 Azure OpenAI로 문서 QA를 구현하는 데 집중했습니다. 당시에는 retrieval, indexing, embedding, answer generation을 실제 Azure workflow 안에서 보여주는 것이 좋은 출발점이었습니다.
2026년에 시작한 이 시리즈는 그보다 앞선 판단에서 출발합니다. 도구를 고르기 전에 먼저 물어야 할 질문이 있습니다. 언제 RAG가 맞는 선택인가? 언제 managed Azure stack이 적절한가? 언제 open-source component가 더 나은가? Fine-tuning은 실제로 어디에 있어야 하는가?
첫 글은 이 architecture conversation을 다시 정리하기 위한 글입니다. 문서 기반 AI는 prompt pattern만의 문제가 아닙니다. Source document, retrieval quality, evaluation, operation, managed/self-managed infrastructure 사이의 trade-off를 함께 보는 system design 문제입니다.
이 시리즈의 기준은 단순합니다. Stack을 고르기 전에 architecture를 먼저 골라야 합니다.
GitHub에서 전체 글 읽기: