GPT4 [SimChat] 챗봇 <-> 사용자 간의 대화 내용 기억하기 " data-ke-type="html">HTML 삽입미리보기할 수 없는 소스 안녕하세요 왕곰입니다! 사용자의 대화를 기억하고 대화를 진행하는 기능을 강화했습니다. GPT에서 너무 당연하게 사용하고 있는 기능이라 이 부분을 제외하고서는 도저히 완성되었다고 하기가 어려웠습니다. 해당 기술은 단순 RAG기술에서 사용자의 대화를 InMemory로 key값으로 저장하는 기능을 포함합니다. 이전에 했던 대화 내용을 기억 못하는 챗봇이 이제는 당연하지가 않은 것 같아요. 뭐랄까.... 방금전에 헀던 얘기를 까먹어 버리니 바보같이 느껴진달까.... 주어진 문서 및 자료를 통해 챗봇과 자유롭게 대화를 나눌 수 있어야 의미가 잇다고 생각합니다. 그런 의미에서 해당 기능을 추가하였습니다. 아래는 테스트 챗봇을 제작하여.. 2024. 11. 18. SIMCHAT 챗봇 메신져 리액트로 제작완료! 안녕하세요! 왕곰입니다. SIMCHAT에 대략적인 기능 제작이 끝나고 나니사용자가 보는 화면 쪽에서 고민이 들었습니다. 지인에게 소개해주니뭔가 요즘 어플리케이션 화면 같지 않다는 피드백.... 나름 신경써서 만들었다고 생각하였으나,역시나 느껴지는 웹페이지의 느낌때문에 올드하다는 느낌이...... 그렇게 해서 해당 페이지만 리액트로 제작하자고 시작하게 되었습니다. 간단하게 끝날 줄 알았으나, 온갖 Props 상속과 상태값 관리가 어려웠네요.... 일단 제작하면서 추가하고 싶었던 기능이나 좀 개선하고 싶었던 부분을 개선하고 나니 그럴 듯 하게 나온 것 같습니다. 사실 이것 뿐만 아니라 네이버 티스토리 블로그, 스마트스토어 등에서 FloatingAction Button식으로 구현되는 챗봇 링크를 제작하.. 2024. 11. 13. SimChat + RAG(OPENAI Embedding + Retrieve) 오랜만입니다. 근근히 일하다가 시간날 때마다 계속해서 챗봇 기능을 더 업데이트 해야된다고 생각했습니다. 그리고 가장 관심있었던 RAG기능. https://aws.amazon.com/ko/what-is/retrieval-augmented-generation/ RAG란? - 검색 증강 생성 AI 설명 - AWS시맨틱 검색은 방대한 외부 지식 소스를 LLM 애플리케이션에 추가하려는 조직의 RAG 결과를 향상시킵니다. 오늘날의 기업은 매뉴얼, FAQ, 연구 보고서, 고객 서비스 가이드, 인사 관리 문서 리포지aws.amazon.com 이걸 꼭 넣어야겠다 생각을 했었습니다. 그러나 오픈소스 모델인 Llama를 사용하려면 높은 사양의 GPU서버가 필요했기 때문에 Bert 모델을 통한 질문 유사도 측정 기능만을 .. 2024. 10. 14. 챗봇 메신져 제작기 24.07.15 금년도 토이프로젝트로 제작했던 챗봇이 어느정도 제작 완료된 것 같습니다! 일전에 올리기는 헀지만 제작한 챗봇의 개요는 아래와 같습니다! 이전에 이직은 준비해볼까 하던 중, 포트폴리오 자료 및 경력, 이력 및 예상 질문과 답변을 준비하던 중...' 아 귀찮다 ! 내 경력을 누가 대답해줬으면 좋겠다 ! '라는 생각이 들어 만들었습니다. 대략적인 특이사항은 밑에.... 1. PHP 라라벨에 제트스트림을 통해 로그인관련 모듈을 제공받고livewire를 통해 UI 컴포넌트를 서버사이드로 렌더링하도록 했습니다. 2. 내부의 자연어처리모델은 Bert모델을 사용했습니다.이를 위해서 python + Flask서버를 Gunicorn을 통해 열어둡니다. Model로드할 때 서버 메모리가 바로 바사삭 되긴 합니다만 Model.. 2024. 7. 16. 이전 1 다음
