[삼성 SDS] 랭체인(LangChain)이란 무엇인가

https://www.samsungsds.com/kr/insights/what-is-langchain.html

랭체인(LangChain)이란 무엇인가? | 인사이트리포트 | 삼성SDS

 

 

 

 

 

---

 

 

 

 

랭체인(LangChain)

노출하여 대규모 언어 모델과 애플리케이션의 통합을 간소화하는 SDK (Software development kit)

LLM(대규모 언어 모델)과 함께 중요성이 커지고 있다.

 

 

 

 

 

LLM(Large Language Model)

대형(대규모) 언어 모델이라는 뜻으로 언어모델(LM)을 확장한 개념으로 인간의 언어를 이해하고 생성하도록 훈련된 인공지능을 통칭한다.

 

LLM은 상태를 저장하지 않으므로 대화의 이전 메세지를 기억하지 못하기 때문에 이 기록을 유지하고 LLM에 컨텍스트를 제공하는 것은 개발자의 책임이다.

 

 

 

 

 

LLM 앱을 구축하기 위한 통합 API 레이어

 

랭체인은 LLM과 애플리케이션의 통합을 간소화하도록 설계된 SDK로서 LLM처리하는 문제를 해결할 수 있다. 랭체인은 ODBC, 또는 표준 SQL문에 집중하게 함으로써 백엔드 데이터베이스의 구현 세부 정보를 요약하는 JDBC드라이버와 비슷하다고 할 수 있다. 랭체인은 간단하고 통합된 API를 노출하여 기본 LLM의 구현 세부 사항을 요약하는데, 이 API를 통해 개발자들은 코드를 크게 변경하지 않고 모델을 쉽게 교체하거나 대체할 수 있다.

 

 

 

 

 

 

랭체인이 어떻게 LLM에서 원하는 결과를 얻어낼까

 

 

1. 데이터 소스

랭체인은 서로 다른 소스에서 데이터에 액세스하고 검색할 수 있는 모듈과 원활하게 통합된다.

 

2. 단어 임베딩

선택한 LLM을 기반으로 최적의 임베딩 모델을 선택한다.

 

3. 벡터 데이터베이스

메모리 내 배열부터 파인콘(Pinecone)과 같은 호스팅 벡터 데이터베이스에 이르기가지 다양한 소스에서 벡터를 쉽게 저장하고 검색할 수 있도록 지원한다.

 

4. 언어 모델(LLM)

주류 LLM과 허깅페이스에서 제공되는 오픈소스 LLM을 지원한다.

지원하는 모델과 API 엔드포인트 목록은 빠르게 증가한다.

 

 

 

 

 

https://www.ciokorea.com/news/305341

 

 

 

 

Agents

일종의 동적 체인. Agents의 기본 일련의 동작을 선택하기 위해 LLM을 사용하는 것이다. 동작의 순서는 체인(코드)으로 하드 코딩된다. 언어 모델은 Agents 내에서 추론 엔진으로 사용되어 어떤 순서로 어떤 동작을 취할지 결정한다.

 

 

Memory

랭체인의 메모리 모듈은 모델에 단기 및 장기 메모리를 쉽게 추가할 수 있도록 도와준다.

 

 

Callbacks

개발자에게 LLM 애플리케이션의 다양한 단계에 연결할 수 있는 콜백 시스템을 제공한다.

 

 

Data Connection

랭체인에서 가장 중요한 구성요소.

외부문서 로드 -> 일괄적 단어 임베딩으로 변환 -> 임베딩을 벡터 베이스에 저장 -> 쿼리를 통해 검색

 

 

Chains

랭체인의 체인은 구성 요소와 LLM을 활용하여 예상되는 응답을 얻는 효율적인 파이프라인을 구축하도록 설계되었다.

 

 

Model I/O

모델에서 보낸 응답을 애플리케이션에서 사용할 수 있는 원하는 형식으로 해석하는 작업을 돕는다.

 

 

 

 

 

 

---

 

 

ChatGPT등과 같은 생성형 AI에 대한 관심이 커지면서 LLM과 랭체인에 관련한 기술 글들이 많이 보이는 것 같다.

위의 삼성 SDS와 IDG의 기사도 있지만 이글루 코퍼레이션의 기사도 찾아보면 좋을 듯하다.

 

https://www.igloo.co.kr/security-information/%EB%9E%AD%EC%B2%B4%EC%9D%B8langchain-%EA%B7%B8%EA%B2%83%EC%9D%B4-%EC%95%8C%EA%B3%A0-%EC%8B%B6%EB%8B%A4/

랭체인(LangChain), 그것이 알고 싶다