지금까지

GPT의 조립은 끝났습니다

7강까지 부품을 모두 끼웠습니다. 하지만 모델 안의 숫자는 아직 아무렇게나 채운 값입니다.

모델 안에 든 숫자를 파라미터라고 합니다. 훈련하면서 고쳐지는 값이고, 이 모델에는 1억 개가 넘게 들어 있습니다.

시켜 보면

이런 글이 나옵니다

'Every effort moves you'(모든 노력은 당신을 움직인다) 뒤를 잇게 했더니 뜻 없는 조각 10개가 붙었습니다.

토큰은 글을 잘게 자른 조각입니다. GPT는 글을 토큰 단위로 읽고 씁니다.

글을 쓰는 방식

후보마다 확률을 매기고 하나를 고릅니다

확률은 그 토큰이 다음에 올 가능성을 0과 1 사이의 숫자로 나타낸 것입니다. GPT는 후보 50,257개에 확률을 하나씩 매기고 가장 높은 것을 고릅니다.

왜 엉망인가

훈련 전에는 확률이 거의 평평합니다

무작위 숫자로 계산한 확률은 글의 뜻과 상관이 없습니다. 후보 대부분이 0.00002쯤으로 비슷하고, 그중 근소하게 높은 것이 뽑힙니다.

0.00002는 1을 후보 수 50,257로 나눈 값입니다. 막대 높이는 모양만 보인 것입니다.

훈련이 할 일

정답 쪽 확률을 끌어올립니다

훈련은 파라미터를 조금씩 고쳐서, 실제 글에서 다음에 온 토큰의 확률이 높아지게 하는 일입니다.

많은 글로 다음 토큰 맞히기를 시키는 이 훈련을 사전 훈련이라고 합니다.

그런데

나아졌는지 어떻게 알까요?

훈련은 '고치고 확인하기'를 수없이 되풀이합니다. 그때마다 사람이 글을 읽어 볼 수는 없습니다. 틀린 정도를 숫자 하나로 재야 합니다.

이번 강의의 작은 훈련에서도 90번을 되풀이합니다.