로이팩토리

1. 둘 다 무엇을 위한 도구인가?Streamlit: 데이터 대시보드, 인터랙티브 분석, 사용자 지정 웹 앱을 빠르게 생성Gradio: 머신러닝 모델 감상과 데모에 최적화, 이미지·오디오·LLM 챗봇 등에 특화2. 주요 기능 & 비교항목StreamlitGradio개발 용도대시보드, 데이터 분석 앱, BI 툴 등ML 모델 데모, 이미지/음성/텍스트 인터랙션사용 코드 예시st.title(), st.line_chart(), st.sidebar() 등gr.Interface(fn, inputs="image", outputs="label")커스터마이징레이아웃·테마·컴포넌트 다양, 라우팅 가능입력/출력 컴포넌트 미리 제공, 커스터마이징은 제한적시각화 지원Matplotlib, Plotly, Altair 등과 자연스러운..

1. 파인튜닝이란?파인튜닝(fine-tuning)은 사전학습(pretrained)된 Transformer 모델을 내 데이터에 맞게 미세 조정하는 과정입니다.처음부터 학습하는 것보다 적은 데이터와 자원으로 원하는 작업 성능을 얻을 수 있습니다2. 전체 워크플로우 요약데이터셋 로드 및 전처리모델 로드 및 분류 헤드 구성TrainingArguments 설정Trainer 인스턴스 생성trainer.train() 실행(선택) Hub에 모델 업로드3. 실습: IMDB 영화 리뷰 감정 분석3‑1) 라이브러리 설치pip install transformers datasets evaluate3‑2) 데이터 로드 및 토크나이징from datasets import load_datasetfrom transformers impo..

1. Hugging Face란?Hugging Face는 모델 허브(Model Hub), Transformers 라이브러리, Datasets, Spaces(앱 공유 플랫폼) 등을 제공하는 오픈소스 AI 플랫폼입니다.즉, 모델 탐색 → 코드에서 불러오기 → 커스터마이징 → 웹으로 배포까지 가능한 AI 개발자 효자 도구입니다2. 주요 기능 & 장점• Model Hub170만 개 이상의 모델과 40만 개 이상의 데이터셋이 공개되어 있습니다.필요한 모델을 코드 몇 줄로 바로 가져올 수 있습니다.• Transformers 라이브러리NLP는 물론, 이미지·오디오·멀티모달 모델까지 지원.pipeline, Trainer 같은 고수준 API로 몇 줄 코드로 추론이나 학습 가능.• Datasets다양한 도메인의 데이터셋을 ..

LoRA란?대형 언어모델을 가볍게 fine-tuning 할 수 있는 효율적인 기법최근 들어 LLM(대형 언어 모델)을 개인화하거나 특정 도메인에 맞게 조정하는 수요가 많아졌습니다. 그러나 기존 방식은 많은 GPU 메모리와 계산량이 요구되어 일반 사용자나 소규모 프로젝트에 부담이 되었습니다.이런 문제를 해결하기 위해 등장한 것이 바로 LoRA (Low-Rank Adaptation) 입니다.왜 LoRA가 필요한가요?기존의 Fine-Tuning 방식은 모델의 모든 파라미터를 업데이트합니다. 하지만:수억 개의 파라미터를 매번 학습하기엔 너무 무겁고저장 공간도 많이 필요하며전이 학습(transfer learning)의 효율도 떨어집니다.LoRA는 이 문제를 해결하면서도 성능은 유지할 수 있는 놀라운 아이디어를 제..

SFTTrainer란?Hugging Face trl 라이브러리를 활용한 LLM(대형 언어 모델) 미세 조정 방법최근 들어 ChatGPT나 LLaMA처럼 사전 학습된 언어 모델을 우리의 데이터에 맞게 미세 조정(fine-tuning) 하고자 하는 수요가 증가하고 있습니다.이때 활용할 수 있는 것이 바로 Hugging Face의 trl 라이브러리에서 제공하는 SFTTrainer입니다.SFT(Supervised Fine-Tuning)란?SFT는 정답(label) 이 있는 데이터를 가지고 모델을 학습시키는 방식입니다. 예를 들어, 다음과 같은 데이터가 있다고 가정해보겠습니다.{ "prompt": "고양이는 왜 낮잠을 자나요?", "response": "고양이는 야행성 동물이기 때문에 낮에 에너지를 충전하기 ..