Langchain은 언어모델 애플리케이션을 구축하는데 사용할 수 있는 모듈을 제공한다.
구성요소들을 연결할 때는 LangChain Expression Language(LCEL)이라는 자체 문법에 의해서 체인처럼 연결된다.
체인의 구성요소는 다음과 같다.
- LLM/ChatModel: 여기서 언어 모델은 GPT와 같은 핵심 추론 엔진이다.
- LLM은 문자열을 입력으로 사용하고 문자열을 반환하는 방식이고,
- ChatModel은 메시지 목록을 입력으로 사용하고 메시지를 반환한다. 주로 채팅형식을 사용하기 때문에 LLM보다는 ChatModel을 사용하는 경우가 많다. 이 경우 서로 다른 역할을 구분해서 메시지를 작성한다.
- System Message: 시스템에서 오는 메시지이다. 미리 시스템에게 설정하는 메시지이다.
- AIMessage: LLM 모델로부터 오는 메시지이다.
- HumanMessage: 사용자로부터 오는 메시지이다.
- Prompt Template: 언어 모델에 대한 지침을 제공합니다. 이는 언어 모델의 출력을 제어하므로 프롬프트와 다양한 프롬프트 전략을 구성하는 방법을 이해하는 것이 중요합니다.
- OutputParsers: 언어 모델의 원시 응답을 보다 실행 가능한 형식으로 변환하여 출력 다운스트림을 쉽게 사용할 수 있도록 합니다.
먼저, LLM 이나 ChatModel을 가져오려면, 다음과 같이 입력한다.
from langchain.llms import OpenAI
from langchain.chat_models import ChatOpenAI
llm = OpenAI()
chat_model = ChatOpenAI()
'인공지능 > Langchain' 카테고리의 다른 글
Langchain 이란? (1) | 2023.11.19 |
---|