본문 바로가기
최신IT 정보

[SuperAgent]챗GPT와 같은 제품 간단하게 운영에 배포하기

by cool21th 2023. 5. 30.
728x90

SuperAgent 소개 : https://github.com/homanp/superagent

챗GPT, Bard를 비롯해서 LLM(Large Language Model) 기반의 생성 AI 모델들이 계속해서 출시되고 있습니다.
서비스 출시를 위해서는 LLM 모델 뿐만 아니라, API, 시나리오, DB 등의 조화롭게 연결되어야 합니다. 전체적으로 적용하기 어려운 상황에서 SuperAgent 오픈소스는 LLM Agent 구성과 운영 배포를 간소화 방법을 제공하고 있습니다. SuperAgent를 구성하고 있는 Framework은 총 5가지입니다. 각 Framework에 대한 설명은 다음과 같습니다.

  • FastAPI: Python으로 API를 구축하기 위한 Framework로 고성능, 모던아키텍쳐를 지원하는 검증된 솔루션입니다.
  • Supabase: 확장 가능한 애플리케이션을 구축하기 위한 Frmework로 Firebase의 대안이 되는 오픈 소스입니다.
  • LangChain: LLM에 적합한 시나리오에 적용가능한 Python 라이브러리입니다.
  • Prisma: 데이터베이스 액세스 및 관리를 간소화하는 최신 데이터베이스 툴킷입니다.
  • Pinecone: 빠른 유사도 검색 및 검색을 가능하게 하는 벡터 데이터베이스.


SuperAgent를 이용하면 보다 손쉽게 ChatGPT와 비슷한 대화형 AI가 가능하며, 내장 메모리 지원을 통해 컨텍스트 및 히스토리 저장도 가능합니다. FastAPI를 통해 RestA API 가 가능하며, 여러 LLM을 같이 사용할 수 있습니다. 자체 보유하고 있는 데이터 연결을 통해 QA 및 검색 추출도 가능합니다

반응형