지금까지

우리 모델이 할 줄 아는 것은 이어 쓰기입니다

앞 강까지 만든 GPT는 글을 받아 다음 토큰을 하나씩 붙입니다. 이 연습을 많은 글로 시킨 것이 사전 훈련이었습니다.

토큰은 글을 잘게 나눈 조각입니다. 그림의 문장은 원본 실습에서 실제로 나온 글입니다.

하고 싶은 일

문자를 보고 둘 중 하나를 고르게 하고 싶습니다

광고나 사기 문자는 스팸, 나머지는 정상입니다. 이렇게 정해 둔 답 가운데 하나를 고르는 일을 분류라고 합니다.

그림의 문자는 설명을 위해 만든 예시입니다.

두 일의 차이

고르는 범위가 다릅니다

이어 쓰기는 토큰 50,257가지 가운데 다음에 올 하나를 고릅니다. 분류는 스팸과 정상, 2가지 가운데 하나를 고릅니다.

50,257은 GPT가 아는 토큰의 가짓수입니다. 왼쪽 표는 그 일부만 그렸습니다.

방법

처음부터 다시 만들지 않고 조금 더 훈련합니다

이미 훈련한 모델을 할 일에 맞춰 더 훈련하는 것을 미세 튜닝이라고 합니다. 언어는 이미 배웠으니 가려내는 법만 익히면 됩니다.

이번 강의 순서

훈련하기 전에 준비할 것이 세 가지입니다

이번 강은 준비까지입니다. 실제 훈련은 다음 강에서 합니다.

가중치는 모델 안에 든 숫자입니다. 훈련하면서 이 숫자가 조금씩 고쳐집니다.