LLM1 [LiteLLM] OpenAI format 커스텀 LLM Agent 만들기 안녕하세요? 오늘은 LiteLLM을 사용해서 OpenAI format의 커스텀 LLM Agent를 만들어 보겠습니다. LiteLLM? LiteLLM은 이미 존재하는 100+ 이상의 LLM들에 대한 Client 패키지와 Proxy를 지원해주는 패키지 입니다. LiteLLM을 사용하게 되면 쉽게 다양한 LLM들을 사용할 수 있습니다. 저는 UI에서 다양한 LLM 이외에도, 자체적으로 개발한 Custom LLM을 연결하는 Proxy 기능으로 활용을 하게 됐습니다. https://litellm.vercel.app/ LiteLLM - Getting Started | liteLLM https://github.com/BerriAI/litellm litellm.vercel.app Custom OpenAI Proxy L.. 2024. 4. 17. 이전 1 다음