번역과 옛 방식의 한계

단어만 하나씩 바꾸면 번역이 될까?

화면을 누르면 다음 장으로 넘어갑니다

해 보면

이렇게 됩니다

단어는 다 맞는데 문장이 되지 않습니다.

이유

언어마다 단어의 순서가 다릅니다

동사가 한국어는 맨 끝에, 영어는 주어 바로 뒤에 옵니다. 문장을 끝까지 봐야 순서를 정할 수 있습니다.

그래서

번역 모델을 둘로 나눴습니다

문제

넘겨주는 것이 메모 한 장뿐이었습니다

벡터는 숫자 여러 개를 한 줄로 묶은 것입니다. 예전 방식인 RNN(순환 신경망)은 원문 전체를 이 벡터 하나에 눌러 담았습니다.

한계

문장이 길어져도 메모지는 그대로입니다

뒤로 갈수록 앞에서 읽은 내용이 흐려집니다.

다음 편

메모 한 장 대신 원문을 다시 볼 수 있다면?

2편필요한 곳을 다시 본다 4강 목록