IT/AI.ML
[AI] Docker + Open-webui
블랙오닉스
2025. 3. 8. 13:53
2025.03.08
Python에 설치한 open-webui로 설정 변경이 쉽지 않아 docker를 사용해본다.
일단 윈도우에 docker설치
https://mz-moonzoo.tistory.com/40
[Docker]Windows 11 Pro에서 Docker 설치(Docker Desktop)
Docker? Docker는 애플리케이션을 개발, 배포 및 실행하기 위한 플랫폼 및 도구 모음입니다. 주요 목적은 소프트웨어를 컨테이너라고 불리는 표준화된 유닛 내에서 패키징하여, 코드가 일관된 환경
mz-moonzoo.tistory.com
다운 받고 설치
끝나고 실행해도 반응이 없다.
리부팅
실행된다. 설정 중간에 가상화 설정이 필요하다고 하고 종료됨
BIOS->가상화 켬
뇌피셜 용어 정리
Docker = VMWare
container = VM
docker run = VM create, start
docker start = VM start
docker stop = VM stop
docker rm = VM rm
다른 블로그 내용대로 실행
docker run -d -p 3000:8080 --gpus=all --name open-webui --restart always --env-file ./.env ghcr.io/open-webui/open-webui:cuda
자동으로 이미지가 다운되고 실행된다. (8GB)
localhost:3000으로 접속하고 하는데 접속이 안된다.
:8080도 안된다.
1분 정도 지난 후 localhost:3000으로 접속된다.
호스트에 만들어 논 .env 내용이 반영된다.
(테스트를 위해 CHUNK_SIZE=999로 설정)
문제는 설정을 중간에 바꾸면서 테스트가 안된다.
로컬에서 만들어 컨테이너 내부로 복사
docker cp ~/open-webui/.env open-webui:/app/.env
restart 해봐도 반영안됨.