얕고 넓게

[AI] Docker + Open-webui 본문

IT/AI.ML

[AI] Docker + Open-webui

블랙오닉스 2025. 3. 8. 13:53

2025.03.08

Python에 설치한 open-webui로 설정 변경이 쉽지 않아 docker를 사용해본다.

일단 윈도우에 docker설치

https://mz-moonzoo.tistory.com/40

 

[Docker]Windows 11 Pro에서 Docker 설치(Docker Desktop)

Docker? Docker는 애플리케이션을 개발, 배포 및 실행하기 위한 플랫폼 및 도구 모음입니다. 주요 목적은 소프트웨어를 컨테이너라고 불리는 표준화된 유닛 내에서 패키징하여, 코드가 일관된 환경

mz-moonzoo.tistory.com

 

다운 받고 설치

끝나고 실행해도 반응이 없다.

리부팅

실행된다. 설정 중간에 가상화 설정이 필요하다고 하고 종료됨

BIOS->가상화 켬


뇌피셜 용어 정리

Docker = VMWare

container = VM

docker run = VM create, start

docker start = VM start

docker stop = VM stop

docker rm = VM rm

 

다른 블로그 내용대로 실행

docker run -d -p 3000:8080 --gpus=all --name open-webui --restart always --env-file ./.env ghcr.io/open-webui/open-webui:cuda

자동으로 이미지가 다운되고 실행된다. (8GB)

localhost:3000으로 접속하고 하는데 접속이 안된다.

:8080도 안된다.

1분 정도 지난 후 localhost:3000으로 접속된다.

호스트에 만들어 논 .env 내용이 반영된다.

(테스트를 위해 CHUNK_SIZE=999로 설정)


문제는 설정을 중간에 바꾸면서 테스트가 안된다.

로컬에서 만들어 컨테이너 내부로 복사

docker cp ~/open-webui/.env open-webui:/app/.env

restart 해봐도 반영안됨.

 

'IT > AI.ML' 카테고리의 다른 글

[AI] Open-WebUI @ Python Virtual Env 정리  (0) 2025.03.08
[AI] Open-WebUI @Linux  (0) 2025.03.08
[AI] Ollama + Vector DB  (0) 2025.02.28
[AI] Ollama, Docker 등 자료  (0) 2025.02.12
[AI] Ollama + Dual GPU  (0) 2025.02.10