rag2 [SimChat] 챗봇 <-> 사용자 간의 대화 내용 기억하기 " data-ke-type="html">HTML 삽입미리보기할 수 없는 소스 안녕하세요 왕곰입니다! 사용자의 대화를 기억하고 대화를 진행하는 기능을 강화했습니다. GPT에서 너무 당연하게 사용하고 있는 기능이라 이 부분을 제외하고서는 도저히 완성되었다고 하기가 어려웠습니다. 해당 기술은 단순 RAG기술에서 사용자의 대화를 InMemory로 key값으로 저장하는 기능을 포함합니다. 이전에 했던 대화 내용을 기억 못하는 챗봇이 이제는 당연하지가 않은 것 같아요. 뭐랄까.... 방금전에 헀던 얘기를 까먹어 버리니 바보같이 느껴진달까.... 주어진 문서 및 자료를 통해 챗봇과 자유롭게 대화를 나눌 수 있어야 의미가 잇다고 생각합니다. 그런 의미에서 해당 기능을 추가하였습니다. 아래는 테스트 챗봇을 제작하여.. 2024. 11. 18. SimChat + RAG(OPENAI Embedding + Retrieve) 오랜만입니다. 근근히 일하다가 시간날 때마다 계속해서 챗봇 기능을 더 업데이트 해야된다고 생각했습니다. 그리고 가장 관심있었던 RAG기능. https://aws.amazon.com/ko/what-is/retrieval-augmented-generation/ RAG란? - 검색 증강 생성 AI 설명 - AWS시맨틱 검색은 방대한 외부 지식 소스를 LLM 애플리케이션에 추가하려는 조직의 RAG 결과를 향상시킵니다. 오늘날의 기업은 매뉴얼, FAQ, 연구 보고서, 고객 서비스 가이드, 인사 관리 문서 리포지aws.amazon.com 이걸 꼭 넣어야겠다 생각을 했었습니다. 그러나 오픈소스 모델인 Llama를 사용하려면 높은 사양의 GPU서버가 필요했기 때문에 Bert 모델을 통한 질문 유사도 측정 기능만을 .. 2024. 10. 14. 이전 1 다음
