⭐개발/⭐홈서버
집에서도 ChatGPT처럼 LLM을 사용해보기 with Ollama + OpenWebUi + Llama 3
최근에 Meta에서 오픈소스로 풀은 Llama3가 나오면서집에서도 LLM을 편히 사용할 수 있을꺼같아 시도해보았다.1. 구성프론트엔드는 OpenWebUi백엔드는 Ollama 라는 것을 사용하면된다.Ollama는 Docker처럼 모델들을 다운로드하고 실행시킬 수 있게 하는 프로그램이고OpenWebUi는 그것을 ChatGPT처럼 웹에서 사용 할 수있게하는 껍데기 같은 역할이다.유저의 입력 → OpenWebUi → Ollama 쉽게말하자면 Ollama만 설치해도 바로 사용 할 수 있지만터미널을 켜서 집 컴퓨터에 접속하여 검은창으로 사용하기 불편하다.집에 서버용 컴퓨터(Ubuntu)와GPU용 메인 컴퓨터(Window)가 따로 있기에프론트 엔드와 백엔드를 서로 다른 컴퓨터로 구성하게 되었다.2. O..
