gemma-mud-colab-starter/run_instructions.md

실행 순서

1. 코랩 열기

• notebooks/Gemma4_MUD_QLoRA_Colab_Notebook.ipynb 파일을 Google Colab에서 연다.

2. GPU 켜기

• 상단 메뉴에서 런타임 → 런타임 유형 변경
• 하드웨어 가속기를 GPU로 바꾼다.

3. dataset 파일 업로드

• 왼쪽 파일 패널을 연다.
• dataset/gemma4_mud_alpaca_100.jsonl 파일을 업로드한다.
• 가장 쉬운 업로드 위치는 /content/ 이다.

4. 노트북 설정 셀 확인

• 기본 모델 이름 (unsloth/gemma-4-E2B-it)
• 데이터 파일 경로
• 출력 폴더
• 시퀀스 길이
• LOAD_IN_4BIT 여부

처음에는 기본값 그대로 두는 편이 안전하다.

5. 셀을 위에서부터 실행

• 설치 셀
• 버전 확인 셀 출력 확인
• 선택 로그인 셀
• 환경 확인 셀
• 설정 셀
• dataset 경로 확인 셀
• 모델 로드 셀
• LoRA 설정 셀
• 데이터셋 로드/채팅 포맷 변환 셀
• 학습 셀
• 저장 셀
• 추론 테스트 셀

중간 셀을 건너뛰지 않는다. 설치 셀 뒤에 import 오류가 이미 났다면 런타임 재시작 후 2번 선택 로그인 셀부터 다시 이어간다.

6. Hugging Face 토큰 입력

• Hub 업로드가 필요할 때만 로그인 셀 주석을 풀어 실행한다.
• 토큰은 문서나 코드에 저장하지 않는다.

7. 학습 시작

• trainer.train() 셀을 실행한다.
• 로그가 나오면 정상이다.

8. 저장 폴더 확인

• 학습이 끝나면 /content/output/gemma_mud_lora_out 폴더를 확인한다.

9. Drive 백업 또는 다운로드

• 노트북 마지막 근처의 Drive 예시 셀을 사용하거나
• Colab 파일 패널에서 결과를 직접 내려받는다.

10. 첫 테스트

• 기본 테스트 프롬프트는 talk oracle
• 출력이 짧고 분위기 있고 세계관 안에 머무르면 우선 합격이다.