전부 고치는 미세 튜닝의 부담
스팸 문자를 가려내려고 숫자 1억 2,444만 개를 전부 고쳐야 할까요?
화면을 누르면 다음 장으로 넘어갑니다
되짚기
미세 튜닝은 모델 속 숫자를 고치는 일입니다
모델 안에 든 숫자를 가중치라고 합니다. 이미 훈련된 모델의 가중치를 새 일에 맞게 조금 더 고치는 것이 미세 튜닝입니다.
가중치를 한 번 고치는 것을 훈련 한 걸음이라고 부릅니다. 10강과 11강에서는 GPT-2를 이렇게 고쳐 스팸 문자 분류기로 만들었습니다. 그림의 숫자는 예시 값입니다.
전부 고치려면
고칠 숫자가 124,441,346개입니다
스팸 분류용으로 바꾼 GPT-2에 든 가중치의 수입니다. 전부 고치려면 걸음마다 이 숫자 하나하나를 어느 쪽으로 얼마나 옮길지 계산해야 합니다.
11강에서 센 값입니다. 약 1억 2,444만 개입니다.
부담 ①
모델이 클수록 계산이 무거워집니다
고칠 숫자마다 계산과 기억 공간이 듭니다. 가장 큰 GPT-2는 우리가 쓰는 가장 작은 것의 12배가 넘습니다.
10강에서 본 GPT-2의 네 가지 크기입니다. 블록은 GPT 안에 되풀이해 쌓는 부품입니다. 블록 12개짜리가 앞 장의 1억 2,444만 개짜리 모델이고, 이 장의 숫자는 공개된 이름에 붙은 어림수라 조금 다릅니다.
부담 ②
할 일마다 모델이 통째로 한 벌씩 생깁니다
가중치를 전부 고친 모델은 원본과 다른 모델입니다. 할 일이 셋이면 같은 크기의 모델 세 벌을 따로 보관해야 합니다.
번역용과 상담용은 설명을 위해 든 예시입니다.
11강에서는
뒤쪽 세 곳만 훈련해서 줄였습니다
나머지는 얼리고, 답이 나오는 쪽에 가까운 세 곳만 훈련했습니다. 얼린다는 것은 훈련해도 값이 바뀌지 않게 잠근다는 뜻입니다.
그림은 GPT를 아래에서 위로 쌓은 모습입니다. 글이 아래로 들어가 맨 위에서 답의 점수가 나옵니다. 훈련한 가중치는 7,090,946개로 전체의 5.7%였습니다.
또 다른 길
원래 숫자는 전부 얼리고, 옆에 작은 표를 붙입니다
여기서 작은 표는 숫자를 줄과 칸으로 늘어놓은 것입니다. 이 표만 훈련하는 방법의 이름이 LoRA(로라)입니다. 이번 강에서는 LoRA로 같은 스팸 분류기를 다시 만듭니다.
그림의 노란 조각 하나는 블록 하나에 붙는 여러 개를 묶어 그린 것입니다. LoRA라는 이름의 뜻은 3편에서 풉니다.
다음 편