번역과 옛 방식의 한계
단어만 하나씩 바꾸면 번역이 될까?
화면을 누르면 다음 장으로 넘어갑니다
해 보면
이렇게 됩니다
단어는 다 맞는데 문장이 되지 않습니다.
이유
언어마다 단어의 순서가 다릅니다
동사가 한국어는 맨 끝에, 영어는 주어 바로 뒤에 옵니다. 문장을 끝까지 봐야 순서를 정할 수 있습니다.
그래서
번역 모델을 둘로 나눴습니다
문제
넘겨주는 것이 메모 한 장뿐이었습니다
벡터는 숫자 여러 개를 한 줄로 묶은 것입니다. 예전 방식인 RNN(순환 신경망)은 원문 전체를 이 벡터 하나에 눌러 담았습니다.
한계
문장이 길어져도 메모지는 그대로입니다
뒤로 갈수록 앞에서 읽은 내용이 흐려집니다.
다음 편