본문 바로가기
LLM/LangChain

LangChain 기초

by Bill Lab 2024. 8. 23.
728x90

2019년 부터 2022년 까지는 한참 DT와 MSA 전환이 핫한 화두였다면,

 

작년(2023년) 부터 지금까지는 LLM이 핫한 화두라고 생각한다.

기업 한 두곳이 아닌 기술력을 보유한 거의 대부분의 기업에서 LLM AI, prompt eng.를 채용하고 

자체 챗봇이나, 자동문서관리와 같은 서비스를 POC 또는 정식서비스로 개발 및 업데이트를 하고 있다.

 

LLM 에 대해서는 LLM 카테고리에서 별도로 다루도록 하고 여기서는 Lang Chain 에 대해서 다룰려고한다.

그럼 과연 Lang Chain이 무엇일까?

 

간단하게 소개할 수 있다.

Lang Chain 은 여러 빅테크에서 개발한 LLM을 중간에서 추상화를 지원해주는 하나의 툴이다!

(물론 Lang Chain 없이 직접 연결해서 사용해도된다.)

 

그럼 어떤 이점이 있을까?

우리가 Java 에서 JPA를 왜 썼는지를 생각하면 쉽게 와닿을 것이다.

 

만약 Google 의 Gemini 를 LLM engine으로 사용중에 있다가 GPT로 변환을 하고싶을때?

Lang Chain 없이 개발하게 되면 사실상 처음부터 재개발의 영역으로 돌입한다.

추상화 계층이 전혀 없이 다이렉트로 직접 참조 했기 때문이다.

(API 문서도 다름)

 

하지만 Lang Chain 을 사용하게된다면, 환경변수로 잡아놓은 api key, engine 종류 값 등만 바꿔주면 

쉽게 전환이 가능하다.

여러서비스일 때도 서비스A에선 Vertex를 서비스 B에서는 ChatGPT를 사용하고 싶을때에도 코드 재사용이

가능하다.

코드 재사용이 가능하다는 말은 개발비용과 기간을 단축시킬 수 있다는 있다는 말이다!!

 

다만, 한가지 아쉬운점은 공식적인 안정화버전 지원은 Python 과 Javascript 코드만 재공한다는 것이다.

(제공해준 Java코드는 좀... Kotlin은 전혀없고... 닷넷은?)

 

다음 글에서는 LangChain의 주요 특징에 대해 다뤄보겠다.

728x90

'LLM > LangChain' 카테고리의 다른 글

LangChain 처음 시작하기  (1) 2024.08.29