분류 미세 튜닝 준비

글을 이어 쓰는 GPT를 스팸 문자 분류기로 바꾸기 전에 필요한 준비입니다. 미세 튜닝의 두 갈래를 보고, 스팸 문자를 다듬어 묶고, 훈련을 마친 가중치로 모델을 시작합니다. 8편으로 나눠 따라갑니다.

1. 1이어 쓰는 모델이 스팸을 가려낼까?미세 튜닝이 필요한 이유
2. 2말로 시킬까, 답을 정해 둘까지시 미세 튜닝과 분류 미세 튜닝
3. 3정답이 붙은 문자 5,572통스팸 문자 데이터셋과 균형 맞추기
4. 4왜 세 묶음으로 나눌까?훈련 · 검증 · 테스트 세트
5. 5짧은 문자와 긴 문자를 한 표에토큰 번호와 패딩
6. 6여덟 통씩 꺼낸다배치와 데이터 로더
7. 7백지 대신 배운 모델로사전 훈련된 가중치로 시작하기
8. 8지금 스팸을 물어보면?미세 튜닝 전 확인과 정리

예제 문자와 수치는 Sebastian Raschka의 《Build a Large Language Model (From Scratch)》 6장을 따랐습니다.