신뢰할 수 있는 정보에 기반해 질문에 답변하는 Q&A 챗봇(이하 RAG 봇)을 소개합니다. 
RAG bot은 무엇인가요?
RAG(Retrieval-Augmented Generation) 봇은 신뢰할 수 있는 지식 문서를 기반으로 질문에 답변하는 챗봇입니다. 일반적인 챗봇은 답변할 수 없는 전문적인 도메인 지식, 회사 내에서만 공유되는 내부 정보에 대한 질문에 대해서도 답변할 수 있습니다.
비교
기어드의 RAG 챗봇 vs. 일반적인 챗봇: 제약 실험에 대한 질문을 한 경우
기어드의 RAG bot
연구원의 질문에 ICH(국제의약품규제조화위원회)의 공식 문서를 기반으로 답변 한다. ICH 문서의 원문 근거 조항을 알려주고 번역까지 제공함.
일반적인 챗봇
답변이 나오긴 하지만, 구체적인 근거를 들지 못하므로 답변을 신뢰할 수 없다.
Key features
•
신뢰할 수 있는 자료: 챗봇이 참고할 자료를 직접 설정할 수 있습니다. 각종 법률, 여러분의 조직 내부에만 적용되는 취업 규칙 등을 직접 업로드하여 챗봇을 학습시킬 수 있습니다
•
커스터마이징: 챗봇의 답변 형식이나 톤앤 매너를 조정할 수 있습니다.
•
공유: 다른 구성원들이 같은 챗봇을 사용하도록 초대할 수 있습니다.
주의: 현재는 자료로 PDF 파일만을 업로드할 수 있습니다. 다른 형태의 문서도 2~3일 내로 지원가능 하니 추가 지원을 원하시면 연락해 주세요!Geared RAG 봇의 장점
일반적인 챗봇을 이용하면 다음과 같은 문제점이 있습니다:
•
구현하고 공유하기 어렵다.
•
허위 정보를 제공한다.
•
신뢰할 수 없는 출처로부터 응답을 생성한다.
•
전문적인 기술이나 최신의 자료보다는 일반적인 정보나 오래된 정보에 기반해 답변한다.
Geared의 RAG bot은 이러한 한계를 넘어, 다음과 같은 장점을 제공합니다.
•
쉬운 구현
◦
여러분은 챗봇이 참고할 자료만 제공하시면 됩니다.
◦
이메일만 알려주시면 다른 구성원이 챗봇을 쓰게 할 수 있습니다
•
신뢰
◦
RAG 봇은 답변시 정보의 출처를 제공합니다. 추가 정보가 필요하다면 원본 문서를 직접 찾아볼 수 있습니다.
동작 방식
기어드의 RAG 봇은 RAG(Retrieval-Augmented Generation) 기술에 기반해 만들어졌습니다.
RAG는 일반적인 LLM(ChatGPT와 같은 대규모 언어 모델)과 같은 지능형 챗봇이 신뢰할 수 있는 지식 소스를 참조하여 질문에 답변할 수 있게 만든 것입니다. 일반적으로 접근할 수 있는 LLM은 대중에게 공개된 지식을 주로 학습합니다. 따라서 이들은 보편적인 질문에는 답변을 할 수 있으나 , 외부에 공개되지 않은 정보나 특수한 전공 분야에 대한 정보는 알 수 없어 관련 질문에는 답변을 하지 않거나 신뢰할 수 없는 답을 내곤 합니다.
기어드의 RAG 봇은 이러한 문제를 해결하기 위해 인공지능에게 신뢰할 수 있는 정보를 제공하고, 챗봇이 이를 기반으로 질문에 답변하게 만들어 유저가 신뢰할 수 있는 정보를 제공합니다.
기어드의 RAG 봇은 구체적으로 다음과 같이 작동합니다:
<봇 구성 1-1>
Step#1
유저는 챗봇이 참고할 자료를 업로드합니다.
질문이 들어오면 기어드의 서버는 업로드된 자료에서 질문과 연관된 문서를 찾아, LLM에게 제공합니다.
<봇 구성 1-2>
Step#2
LLM은 지시에 따라 기어드의 서버가 제공한 문서에 기반하여 질문에 답변합니다.
*예제<봇 구성 1-2>에서는 LLM 중 Claude3 Opus 모델을 사용했습니다. 다른 모델을 사용하는 것도 가능합니다.
사용 문의
궁금한 점이 있거나, 사용을 원하시는 분은 아래의 주소로 연락해 주세요!
담당자 연락처: tod@aisahub.com
<봇 구성 1-1>
