얕고 넓게

2025.01.24코파일럿을 통해 파인튜닝에 나오는 용어를 공부했다.익숙한 영상처리와 비교영상NLP(LLM, SLM)Pixel, Block토큰(Token): 텍스트를 작은 단위로 나눈 것. 보통 단어 단위 또는 서브워드 단위로 나누어서 처리CNN, RNN트랜스포머(Transformer): 현재 많이 사용되는 인공지능 모델 구조로, 순차적으로 처리하는 RNN과 달리 병렬 처리로 성능을 극대화 파이프라인(Pipeline): 데이터 처리의 여러 단계를 일련의 과정으로 묶은 것. 예를 들어, 데이터 전처리, 모델 학습, 예측 등을 하나의 연속된 과정으로 처리  Llama, GPT (Generative Pre-training Transformer) 시리즈나 BERT (Bidirectional Encoder Rep..

2025.01.23 https://unfinishedgod.netlify.app/2024/05/24/python/ [Python] Llama3를 파인튜닝을 통해 나만의 데이터로 학습 및 Huggingface에 적재해보자. - 미완성의신파인튜닝을 통해 나만의 데이터를 학습 시켜 보자. 그전에 파인튜닝에 대해 알아 봐야 하는데, 아주 간단하게 알아보자. 파인튜닝에 대한 이론들은 아직도 많은 연구가 진행되고 있기 때문에 추unfinishedgod.netlify.app1. 파이썬 라이브러리 설치2. 허깅페이스 계정 만들고 토큰 받기. IP/Password 대신에 토큰으로 접속한다3. 모델 파일을 설정 또는 다운받는 것부터 막혔다일단 여러가지 검색하다가 확인한 내용1. 파인튜닝전에 Llama 한국어를 학습시킨 모..

2025.01.22어제 당근한 로보티스 키트를 정리당근할때는 올로AI라고 되어 있어지만 부품에 써 있는 로보티스를 검색https://www.robotis.com/shop/ 로보티즈자율주행로봇 전문기업, 서비스로봇 하드웨어 및 소프트웨어 솔루션 공급, ROBOTIS 집개미&일개미, DYNAMIXEL, 터틀봇3www.robotis.com제품이섞여 있는것 같다.일단 부품에 코드명으로 검색CM-200, CM0-150https://emanual.robotis.com/docs/kr/edu/dream/dream1-1/ 개요 emanual.robotis.com로보티스 올로, 드림, 스마트 시리즈로 보인다.제어기 CM-200 (STM32L151C8)https://emanual.robotis.com/docs/kr/part..

2025.01.19무슨 차이가 있느지 모르겠지만 일단 다운 받고 정보를 확인맥>ollama listNAME ID SIZE MODIFIED llama3.2-vision:11b 085a1fdae525 7.9 GB 4 hours ago llama3.2:latest a80c4f17acd5 2.0 GB 4 hours ago llama3.1:8b 46e0c10c039e 4.9 GB 5 hours ago llama3:text 870a5d02cfaf 4.7 GB 35 hours ago llama3:latest ..

2025.01.18롤을 하면서 성능측정모니터 75Hz롤 설정- 80 FPS- 화질 중간 게임 내에서 76~80 프레임을 유지 한다.성능만 보면 아직 여유가 있어 보임.PC 결과 여기도 충분하지만 중간에 끊김이 있다.80 FPS, 화질 높음

2025.01.17그냥 무작정 따라해 본다.https://jjaegii.tistory.com/35 KoAlpaca 데이터셋을 활용한 Llama 3.1 LoRA 기반 PEFTLlama 3.1 모델을 LoRA(Low-Rank Adaptation) 기법을 사용해 한국어 데이터셋인 KoAlpaca를 기반으로 Parameter Efficient Fine-Tuning 하는 과정을 다룬다.LoRA는 대규모 언어 모델을 적은 자원으로도 효율적으로 학습jjaegii.tistory.comcommand 실행하고 위의 내용대로 python 라이브러리 설치pip install accelerateCollecting accelerate Downloading accelerate-1.2.1-py3-none-any.whl.metada..