Transformer模型引入了自注意力机制，解决了RNN在长距离依赖问题上的不足。