블로그

• [LLM] Transformer 아키텍쳐 기본 개념 정리 Transformer의 정의 sequential 데이터의 맥락을 이해하고 새로운 데이터를 생성하는데 특화된 신경망 구조 RNN이나 convolution 없이 self-attention만을 Encoder-Decoder 구조 Encoder 입력 처리 과정 입력 문장의 각 단어를 임베딩(embedding)으로 변환 위치 정보(positional encoding)를 추가하여 blog.naver.com · 2024.12.31