LoRA 미세 튜닝

모델의 숫자를 전부 고치는 대신, 원래 숫자는 얼려 두고 옆에 붙인 작은 표 두 개만 훈련하는 방법입니다. 훈련할 숫자가 얼마나 줄어드는지 세어 보고, 10강과 11강의 스팸 분류기를 이 방법으로 다시 만듭니다. 과목의 마지막 강이고, 8편으로 나눠 따라갑니다.

  1. 11억 2,444만 개를 전부 고쳐야 할까?전부 고치는 미세 튜닝의 부담
  2. 2얼려 둔 표 옆에 샛길을 낸다LoRA의 생각 · W는 얼리고 A와 B만 훈련
  3. 3작은 표 두 개로 큰 표를 만든다곱셈표와 랭크
  4. 41억 2,444만 개가 267만 개로훈련할 숫자 세기
  5. 5재료는 10강 그대로스팸 분류 데이터와 모델 준비
  6. 6붙인 직후에는 달라지지 않는다LoRA 붙이기와 시작 값
  7. 72%만 훈련한 결과LoRA로 미세 튜닝한 결과
  8. 8작은 표만 남긴다보관, 15강 정리, 과목 마무리

예제와 수치는 Sebastian Raschka의 《Build a Large Language Model (From Scratch)》 부록 E를 따랐습니다.