얕고 넓게

[AI] LLamaFactory 설치 @Windows 본문

IT/AI.ML

[AI] LLamaFactory 설치 @Windows

블랙오닉스 2026. 3. 13. 22:00

2026.03.13

리눅스 서버를 만들 장비도 부족하고 해서 그냥 윈도우에 설치

검색

되는 것처럼 되어 있지만 결국 WSL

WSL, Ubuntu 앱 차이도 공부


좋은 질문이에요! WSL과 MS Store에서 설치하는 Ubuntu의 관계를 이해하면 훨씬 명확해집니다.

🧩 관계 정리

  • WSL (Windows Subsystem for Linux)
    → 윈도우 안에서 리눅스 실행을 가능하게 해주는 플랫폼/기능입니다.
    → 즉, "리눅스를 돌릴 수 있는 엔진"이라고 생각하면 됩니다.
  • MS Store의 Ubuntu
    → WSL 위에서 실행되는 **리눅스 배포판(운영체제)**입니다.
    → Ubuntu, Debian, Kali 등 다양한 배포판을 선택할 수 있고, 이들은 WSL이 제공하는 엔진을 통해 실행됩니다.

🚗 비유로 설명

  • WSL = 자동차 엔진
  • Ubuntu (MS Store에서 설치) = 엔진 위에 올려서 실제로 운전하는 자동차 모델

즉, WSL을 설치하지 않으면 Ubuntu를 실행할 수 없고, Ubuntu를 설치하지 않으면 WSL은 "빈 엔진" 상태라서 쓸모가 없습니다.

📌 설치 순서의 의미

  1. WSL 설치 → 리눅스를 실행할 수 있는 환경 준비
  2. MS Store에서 Ubuntu 설치 → 실제 사용할 리눅스 운영체제 선택
  3. Ubuntu 실행 → WSL이 엔진 역할을 하면서 Ubuntu가 구동됨

✅ 요약

  • WSL = 리눅스 실행 엔진
  • Ubuntu (MS Store) = 그 엔진 위에서 돌아가는 실제 리눅스 OS
  • 둘은 필수적으로 함께 있어야 하고, WSL이 기반, Ubuntu가 내용물입니다.

WSL설치

#관리자 권한으로 실행
wsl --install
wsl --set-default-version 2
wsl --list --verbose

앱도 설치


Conda 설치

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
bash Miniconda3-latest-Linux-x86_64.sh
conda --version

창을 닫고 다시 열어서 진행

Llama Factory 다운로드

git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory

 

Conda 가상환경

conda create -n llama_factory python=3.10
conda activate llama_factory
cd ~/LLaMA-Factory
pip install -r requirements.txt

requirments.txt 없다 에러

pip install -e .

 

버전 문제로 에러 발생

가상환경 버전을 3.11로

conda deactivate
conda create -n llama_factory_py311 python=3.11
conda activate llama_factory_py311

다시 Llama Factory 설치

cd ~/LLaMA-Factory
pip install -e .
pip install bitsandbytes>=0.39.0

Web UI 실행

cd ~/LLaMA-Factory
python src/webui.py
...
Visit http://ip:port for Web UI, e.g., http://127.0.0.1:7860
* Running on local URL:  http://0.0.0.0:7860
* To create a public link, set `share=True` in `launch()`.
gio: http://localhost:7860/: Operation not supported

윈도우즈에서 접속


그래픽 카드 2개 인식도 잘되는 것 같다

채팅탭에서 모델 로드하면 된다?

 

모델은 2개의 GPU로 올라간다. 채팅할 때 GPU가 1개만 사용된다??

 

'IT > AI.ML' 카테고리의 다른 글

[AI.ML] MediaPipe Pose  (0) 2026.05.07
[AI] ComfyUI: Face Swap  (0) 2026.04.21
[AI] Hailo 8L @Windows 11  (0) 2026.03.12
[AI] LLamaFactory 설치 및 FT 성공 정리  (0) 2026.03.01
[AI] ComfyUI 4/2 @Windows11  (0) 2025.10.02