기존의 자연어 처리 기술인 RNN과 LSTM은 순차적 처리 방식으로 인해 긴 문장에서 앞부분의 정보를 잊어버려 정확도가 떨어지는 문제가 있었다. 하지만 본 논문에서 제시한 트랜스포머 모델은 Self-Attention이라는 새로운 기법을 도입하여 이 문제를 해결했다.Self-Attention은 문장 내 모든 단어 간의 관계를 동시에 고려하여 문맥을 더욱 정확하게 파악할 수 있게 됐으며, Multi-Head Attention을 통해 모든 단어끼리의 조합을 동시에 확인하여 더욱 또한, Self-Attention을 기반으로 한 병렬 연산이 가능해짐에 따라, 순차적 처리의 한계를 극복하고 훨씬 빠른 학습이 가능해졌다.이로 인해 트랜스포머 모델은 NLP 분야에서 새로운 패러다임을 제시한 혁신적인 논문으로 평가된다...
