얕고 넓게

2025.04.24어제 까지 XTU로 Boost 전력이나, 시간 조정해도 큰 차이가 없었는데,오늘 다시 테스트하니 6441까지 올랐다.XTU를 안돌려서 그런가?XTU 프로파일을 다시 로드?재현 안됨.HWMonitor도 끄고?

2025.04.16리퀴드메탈에 가능성 있어보여 구매https://www.coupang.com/vp/products/6903032458?vendorItemId=87236487766&sourceType=MyCoupang_my_orders_list_product_title&isAddedCart= Thermal Grizzly (Thermal Grizzly) Conductonaut 1g /쿨러/튜닝 - CPU쿨러 | 쿠팡쿠팡에서 Thermal Grizzly (Thermal Grizzly) Conductonaut 1g /쿨러/튜닝 구매하고 더 많은 혜택을 받으세요! 지금 할인중인 다른 CPU쿨러 제품도 바로 쿠팡에서 확인할 수 있습니다.www.coupang.comCPU에 바르고 6259점!, 최고 온도도 낮다. 롤..

2025.04.15Python이나 text-generation-webui에서 LLama3.3을 로딩하면 GPU RAM부족등으로 문제가 생기는데,Ollama로 다운받은 Llama3.3은 잘 돌아간다.Ollama에서 Web Search를 막는 방법 찾다가 좋은 블로그를 발견https://recording-it.tistory.com/115 Ollama - 01. 설치 및 기본 사용Ollama란?https://ollama.com/ ollama는 대규모 언어 모델(Large Language Models, LLMs)을 로컬 환경에서 쉽게 실행할 수 있게 해주는 오픈소스 프레임워크입니다. 이 도구는 복잡한 AI 모델을 개인용 컴퓨터나recording-it.tistory.com>>> /show info Model ..

2025.04.11ChatGPT에서 학습된 모델을 사용할 수 있는 방법을 물어봤더니,Docker로 하는 방법과 text-generation-webui를 이야기 한다.Docker는 질려서 두번째 방법으로.일단 llama 파인 튜닝을 위해서 만들어 논 가상환경으로 들어가서 진행conda activate llamagit clone https://github.com/oobabooga/text-generation-webui.gitcd text-generation-webuipip install -r requirements.txt#text-generation-webui 안에 models, loras 에 모델 디렉토리를 넣는다# 실행python server.py --model llama3.1-8B --lora chec..

2025.04.10Copilot, ChatGPT 말해준 코드로 진행하다가 포기결국 지난번 따라했던 아래를 참조하여 진행https://jjaegii.tistory.com/35 KoAlpaca 데이터셋을 활용한 Llama 3.1 LoRA 기반 PEFTLlama 3.1 모델을 LoRA(Low-Rank Adaptation) 기법을 사용해 한국어 데이터셋인 KoAlpaca를 기반으로 Parameter Efficient Fine-Tuning 하는 과정을 다룬다.LoRA는 대규모 언어 모델을 적은 자원으로도 효율적으로 학습jjaegii.tistory.com일단 학습데이터를 txt에서 json으로 변환부터 했다.쭉 진행하다가 tokenizer 가 문제가 있어 일단 제외하고 학습 완료그런데 결과가 *.safetensor..

2025.04.09curl -fsSL https://ollama.com/install.sh | shsudo apt install vimsudo apt install python3-pipsudo apt install python3.12-venvpython3 -m venv venv_openwebuisource venv_openwebui/bin/activatepip install open-webuiopen-webui servesource venv_openwebui/bin/activatepip install huggingface_hubhuggingface-cli loginhuggingface-cli whoamihuggingface-cli download meta-llama/Meta-Llama-3-8B --loc..