목록2025/04/11 (1)

얕고 넓게

[AI] text-generation-webui @Ubuntu

2025.04.11ChatGPT에서 학습된 모델을 사용할 수 있는 방법을 물어봤더니,Docker로 하는 방법과 text-generation-webui를 이야기 한다.Docker는 질려서 두번째 방법으로.일단 llama 파인 튜닝을 위해서 만들어 논 가상환경으로 들어가서 진행conda activate llamagit clone https://github.com/oobabooga/text-generation-webui.gitcd text-generation-webuipip install -r requirements.txt#text-generation-webui 안에 models, loras 에 모델 디렉토리를 넣는다# 실행python server.py --model llama3.1-8B --lora chec..
IT/AI.ML 2025. 4. 11. 19:13
이전 Prev 1 Next 다음