Build a chatbot service to ensure safe conversations: Using Azure Content Safety & Azure OpenAI

챗봇 서비스를 만들 때는 답변 생성과 함께 유해한 콘텐츠를 어떻게 다룰지도 정해야 합니다. 대화 흐름의 어느 지점에서 콘텐츠를 검사할지 설계하는 작업이 필요합니다.

이 튜토리얼에서는 Azure OpenAI, Azure Content Safety, Azure Cosmos DB를 연결해 챗봇 애플리케이션을 만듭니다. 모델 호출을 둘러싼 서비스에 콘텐츠 검사를 넣고, 실제 대화 처리 과정에서 함께 동작하도록 구성합니다.

콘텐츠 검사를 구현해 보는 출발점으로 작성한 글입니다. 운영 환경에서는 서비스에 들어올 대화 유형을 기준으로 검사 결과를 평가해야 합니다.

원문 읽기:

댓글