이유 ①

속을 알아야 언제 틀리는지 압니다

쓰기만 해서는 왜 그런 답이 나왔는지 알기 어렵습니다. 부품을 하나씩 만들어 보면 LLM이 잘하는 일과 못하는 일을 가늠할 수 있습니다.

이유 ②

내 모델을 가질 수 있습니다

모델을 직접 다룰 줄 알면 데이터를 밖으로 보내지 않아도 되고, 작은 모델을 노트북이나 휴대폰에서 돌릴 수 있고, 필요할 때 고칠 수 있습니다.

금융이나 의료처럼 한 분야에 맞춘 모델이, 여러 일을 두루 하는 큰 모델보다 그 분야에서 잘하는 경우도 있습니다.

계획 · 지금은 1강

세 단계로 만듭니다

지금 보고 있는 것이 1강이고, 2강부터 만들기 시작합니다. 모델을 조립하고, 훈련해서 파운데이션 모델로 만들고, 쓰임새에 맞춥니다. 4편과 5편에서 본 순서입니다.

현실적인 방법

훈련은 작게, 숫자는 받아서 씁니다

구조만 만든 모델은 안의 숫자가 무작위라서 뜻 없는 글을 냅니다. 이 강의에서는 작은 데이터로 훈련을 직접 해 보고, 공개된 가중치도 받아서 넣습니다.

가중치는 3편에서 본 파라미터입니다. 받아서 쓰면 수십억 원짜리 훈련을 건너뛸 수 있습니다.

1강 정리

여기까지 온 길