Multi Agent System 만들기-1

### 멀티 에이전트 시스템

원래 멀티 에이전트에 대한 아이디어는 Chat Dev로부터 얻었다. Chat Dev는 칭화대 연구자들이 발표한 논문인데 CEO, CTO, 개발자, 디자이너, 테스터가 함께 논의하면서 소프트웨어를 개발하는 팀을 만든 것이다. 각각의 역할을 가진 에이전트들이 자신의 역할을 수행하고, 다른 에이전트와 논의하면서 의사결정을 해나간다.

 

• CEO 에이전트: 프로젝트 목표 설정 및 의사결정

• CTO 에이전트: 기술 전략 수립 및 기술 선택

• 개발자 에이전트: 코드 작성 및 테스트

• 디자이너 에이전트: 사용자 인터페이스 설계

• 테스터 에이전트: 기능 테스트 및 버그 수정

 

(나는 Solopreneur 를 꿈꾸고 있는데다 자동화를 좋아하기 때문에 멀티 에이전트 시스템은 딱 필요한 것이라고 느꼈다.)

 

### LangChain

 

LLM을 통해 RAG를 구축하기 위해서는, 기존에는 랭체인을 이용했다. 랭체인은 자연어 처리(NLP) 모델을 쉽게 구축하고 운영할 수 있도록 돕는 프레임워크이다. Hugging Face, spaCy 등의 다양한 NLP 라이브러리와 통합되어 모델 관리, 파이프라인 구축, 데이터 처리 등을 지원한다. 주요 특징으로는 다양한 모델과의 호환성, 손쉬운 배포, 그리고 성능 모니터링 등이 있다. 랭체인은 NLP 워크플로우를 단순화하고, 모델 개발과 유지보수를 쉽게 해준다.

 

RAG는 LLM이 훈련한 데이터 외의 외부 DB와 문서에서 관련 정보를 검색해서 답변을 생성하기 위해 정보검색과 생성 모델을 결합한 접근 방식이다. 이것은 더욱 정확하고 풍부한 응답을 받을 수 있도록 해준다. 

 

기존에 랭체인을 기반으로 RAG를 하기 위해서는 주피터노트북에서 문서를 load하고, 그것을 청킹하고, 임베드하여 벡터 스토어에 저장했다. 그 후, 검색기와 생성기를 결합하여 RAG를 구성하고, 사용자가 입력한 질의에 대해 문서에서 관련 정보를 검색하고 응답을 생성했다.

 

이제는 이런 작업을 더 쉽게 할 수 있는 툴이 있다. Langflow, Flowise, Crew AI로 컴포넌트들 간의 연결을 통해 멀티 에이전트 시스템을 쉽게 만들 수 있고, 에이전트들이 RAG를 이용하도록 설계할 수 있다. 문제는 어떤 도메인으로 할 것인가이다.