ollama + ollama_webui 간편 설치 및 실행 script

실행환경 : ubuntu linux (22.04+)

필요사항 : docker 가 미리 설치되어있어야 합니다.

 

1. run_ollama.sh 작성 

#!/usr/bin/env bash

if [ "$1" == "install" ]
then
    docker pull ollama/ollama
    docker pull ghcr.io/ollama-webui/ollama-webui
fi

docker stop ollama-webui 
docker stop ollama

docker rm ollama-webui
docker rm ollama

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v ollama-webui:/app/backend/data --name ollama-webui --restart always ghcr.io/ollama-webui/ollama-webui:main

echo "Please use this address -> http://localhost:3000"

 

 

2. (최초 1회) docker image 설치 및 권한 부여

# sh script가 실행이 가능하도록 권한 부여
chmod +x ./run_ollama.sh

# docker image 설치
./run_ollama.sh install

 

 

3. 실행

./run_ollama.sh

 

 

4. 웹브라우저에서 web ui 접속

- http://localhost:3000 입력

- settings -> Models 에서 언어 모델 설치. (언어 Model 이름은 링크에서 확인가능)