Teaching ChatGPT to Answer Questions with Azure AI Search

이 글은 제 공개 AI 글쓰기의 시작점이었습니다.

질문은 분명했습니다. Language model이 PDF 내용을 기반으로 답하게 하려면 어떻게 해야 할까? 이 글은 Azure AI Search, Azure OpenAI, Blob Storage, embedding, indexing, retrieval, LangChain을 함께 사용해 그 경로를 구체적으로 보여줬습니다.

당시에는 주로 실용적인 튜토리얼로 생각했습니다. 돌아보면 지금도 계속 반복해서 다루는 주제가 이미 들어 있었습니다. 유용한 AI 시스템에는 grounding, retrieval, structure, 그리고 개발자가 inspect할 수 있는 workflow가 필요하다는 생각입니다.

그 첫 RAG 글은 이후 더 큰 architecture 질문으로 이어졌습니다. 언제 managed Azure service가 맞는가? 언제 open-source retrieval stack이 더 많은 제어권을 주는가? 언제 fine-tuning은 잘못된 답인가? 실제 문제는 freshness, traceability, retrieval quality일 수도 있기 때문입니다.

이 글에서 지금도 가져가는 교훈은 문서 기반 AI가 신뢰의 문제에서 출발한다는 점입니다. 시스템은 그럴듯한 답을 만드는 것뿐 아니라, 답이 어디에서 왔는지도 보여줘야 합니다.

원문 읽기:

Teach ChatGPT to Answer Questions: Using Azure AI Search & Azure OpenAI