실험

말로 물어봤습니다

스팸 문자 앞에 질문을 붙여 넣었습니다. '다음 글은 스팸입니까? yes나 no로 답하세요'라는 뜻입니다. 기다리는 답은 yes입니다.

결과

답 대신 질문을 되풀이합니다

모델은 yes도 no도 쓰지 않았습니다. 받은 질문을 거의 그대로 다시 썼습니다.

원본 실습에서 실제로 나온 글입니다.

이유

배운 것이 이어 쓰기뿐이기 때문입니다

이 모델은 사전 훈련만 거쳤습니다. 그래서 질문을 받아도 답할 글이 아니라 이어 쓸 글의 앞부분으로 봅니다.

그래서

미세 튜닝이 필요합니다

상자 아래쪽의 색 띠가 모델에서 답을 고르는 끝부분입니다. 다음 강에서는 이 끝부분을 50,257가지짜리에서 2가지짜리로 바꾸고, 준비한 문자로 훈련합니다.

10강 정리

준비가 끝났습니다

정답이 붙은 문자, 길이를 맞춘 묶음, 언어를 아는 모델이 갖춰졌습니다.