728x90 LLM3 Langchain with OpenAI, weaviate, RAG 1. RAG 를 동작단계, 문의사항이 prompt 기반에 바로 LLM 모델로 흘러가는 것이 아니라 아래 그램처럼 Retrieve 단계를 걸쳐, Augment 된 내역을 기반으로 Generate 됨 > 줄여서 RAG (궁극적인 목표는 문의내역을 LLM 모델이 잘 인식할 수 있도록 변환해 주는 역할! by reducing hallucinations) 2. 궁극적으로 Retrieve 을 어떻게 만드냐에 따라 결과는 달라질 수 있음 - 외부 소스로 부터 질문에 대한 컨텍스르를 검색하고, 임베딩 모델을 이용하여 추가 컨텍스트가 저장된 Vector DB에 저장. 유사도 검색을 통해 Vector DB(weaviate 등) 에서 가장 유사한 상위 n개의 Data 를 반환 - 개발자는 가장 유.. 2024. 12. 29. LangChain 처음 시작하기 LangChain을 연동 해서 사용하려면 우선 2가지 언어 중 한가지를 선택해야한다.그중 한가지가 Python, 그리고 나머지한가지는 Javascript(일부 JAVA도 지원하지만... 사용화버전까지는 다소 시간이 걸릴 듯 하다.) 여긴 Javascript를 기반으로 한 내역을 작성해보도록 하겠다(빠르게 서비스전환을 위해) Setup 은 간단하다. 왜? 설치만 하고 세팅하면 끝yarn add langchain 같이 설치 되는 packages 구조에 대해 관심이 있는 사람이 있을 수 있다는 판단에 관련자료도 첨부!!요약하면- langchain-core (늘 그렇듯) : 중심이 되어 추상화 계체를 각 영역별로 지원하고 package 의 흐름을 관리한다 (core version 중요!)- langc.. 2024. 8. 29. LangChain 기초 2019년 부터 2022년 까지는 한참 DT와 MSA 전환이 핫한 화두였다면, 작년(2023년) 부터 지금까지는 LLM이 핫한 화두라고 생각한다.기업 한 두곳이 아닌 기술력을 보유한 거의 대부분의 기업에서 LLM AI, prompt eng.를 채용하고 자체 챗봇이나, 자동문서관리와 같은 서비스를 POC 또는 정식서비스로 개발 및 업데이트를 하고 있다. LLM 에 대해서는 LLM 카테고리에서 별도로 다루도록 하고 여기서는 Lang Chain 에 대해서 다룰려고한다.그럼 과연 Lang Chain이 무엇일까? 간단하게 소개할 수 있다.Lang Chain 은 여러 빅테크에서 개발한 LLM을 중간에서 추상화를 지원해주는 하나의 툴이다!(물론 Lang Chain 없이 직접 연결해서 사용해도된다.) 그럼 어떤 이점이.. 2024. 8. 23. 이전 1 다음 728x90
