Transformer Attention 이해하기: Q, K, V의 역할과 동작 원리

 

LLM하면 transformer를 빼먹을 수 없고, 그 핵심 중 하나는 바로 어텐션 메커니즘인데요, 이 메커니즘을 이해하면 트랜스포머가 어떻게 단어들 간의 관계를 학습하고 문맥을 파악하는지 알 수 있어요. 특히, 트랜스포머에서 사용되는 Query (Q), Key (K), Value (V)는 어텐션이 어떻게 작동하는지 이해하는 데 아주 중요한 역할을 해요.

 

오늘은 이 세 가지 요소가 어떻게 서로 작용하는지, 그리고 트랜스포머의 인코더와 디코더에서 각각 어떻게 사용되는지에 대해 설명해 볼거예요.

 

---

📌 Q, K, V 개념 살펴보기

 

Transformer Attention에서의 Query (Q), Key (K), Value (V)는 단어 간의 연관성을 파악하고, 중요한 정보를 뽑아내는 역할을 해요. 각 단어는 문장 속 다른 단어들과의 관계를 계산하여 전체 문맥을 이해하게 되죠.

• Query (Q): "어떤 정보를 찾아야 할까?"를 결정하는 역할이에요. 현재 처리 중인 단어 입장에서, 다른 단어들로부터 어떤 정보를 얻고 싶은지를 나타내죠. 예를 들어 "cat"이 다른 단어와 어떤 관계가 있는지 알고 싶다면, "cat"이 Query가 됩니다.
• Key (K): 각 단어가 가진 특징을 압축한 값이에요. 모든 단어는 고유한 Key를 가지고 있어서 Query가 어떤 단어와 연관이 있는지를 평가할 때 사용됩니다. 즉, "The", "sat", "mat" 같은 단어들이 각각의 Key를 가지고 있어 "cat"이 어떤 단어와 관련 있는지 판단할 수 있게 돕죠.
• Value (V): 실제 정보를 담고 있는 값이에요. Query와 Key를 통해 주목해야 할 단어가 결정되면, 그 단어에 담긴 정보가 Value에서 전달돼요. 예를 들어, "cat"이 "sat"과 연결되면, "sat"의 정보를 가진 Value가 선택돼 "cat"과의 관계를 더 잘 이해하게 됩니다.

 

Q, K, V 예시

"The cat sat on the mat."

이 문장에서 "cat"을 중심으로 중요한 정보를 찾는다고 가정해요.

1. Query (Q): "cat"이 Query로서 시작해요. "cat"은 문장 속에서 자신과 관련된 정보를 찾고자 합니다.
2. Key (K): "The", "sat", "on", "mat" 등 문장에 있는 모든 단어는 각자의 Key를 가지고 있어서, "cat"이 이 Key들을 비교하며 관계를 평가해요.
3. Value (V): 각 단어의 실제 정보가 담긴 값이에요. Query가 연관된 Key를 찾아내면, 그 단어의 Value 정보가 강조됩니다.

 

📌 Attention 연산

1. Q, K, V 벡터 생성

우리는 먼저 입력된 문장에서 각 단어를 임베딩(embedding) 하여 고차원 벡터로 변환해요. 그리고 이 벡터들을 이용해 Query (Q), Key (K), Value (V) 벡터를 생성합니다. 이 벡터들은 각각 다음과 같은 연산을 거쳐 구해집니다.

2. Query와 Key의 유사도 계산

Q와 K는 벡터이기 때문에 내적(dot product) 연산을 통해 유사도를 계산해요. 내적은 두 벡터가 얼마나 비슷한지를 나타내는 수치로, 이 수치를 통해 얼마나 관련이 있는지를 알 수 있습니다.

• 각 Query 벡터는 문장 내 모든 Key 벡터와 비교돼요.
• 예를 들어, Query인 "cat"은 문장 속의 "sat", "on", "mat" 등의 단어들과의 관계를 계산합니다.

3. 스케일링 (Scaling)

내적을 계산한 후에는 스케일링을 해줍니다. 내적 값이 너무 커지지 않도록, 벡터 차원 수의 제곱근으로 나누어요. 이 과정은 안정적인 학습을 위해 중요해요. 예를 들어, Query와 Key가 64차원이라면, 내적 값은 64=8\sqrt{64} = 864​=8로 나누어지게 됩니다. 이렇게 함으로써 값의 범위가 지나치게 커지지 않도록 조정할 수 있어요.

4. Softmax 함수 적용

스케일링된 값은 여전히 큰 값과 작은 값이 있을 수 있기 때문에, Softmax 함수를 적용해서 각 단어가 얼마나 중요한지를 확률적으로 바꿔요. Softmax는 각 값이 0과 1 사이의 값으로 변환되도록 해주며, 총합은 1이 되게 합니다. 이 과정은 각 Query와 Key 간의 유사도가 얼마나 중요한지를 반영합니다.

• Softmax 적용 후, 값이 높은 부분은 더 강조되고, 값이 낮은 부분은 덜 강조됩니다.
• 이 과정은 가중치처럼 작용하게 돼요.

5. 가중치와 Value의 결합

이제, Softmax에서 나온 확률적 가중치를 각 Value 벡터에 곱해요. 이 가중치는 Query와 Key의 유사도에 따라 다르므로, 더 중요한 단어의 Value가 더 강조됩니다.

• 예를 들어, "cat"이라는 Query가 "sat"과 높은 유사도를 가질 경우, "sat"의 Value는 더 많은 가중치를 받게 됩니다.
• 이 가중치를 각 Value 벡터에 곱한 후, 모든 Value 벡터를 더해서 최종 출력값을 만들어요.

6. 최종 출력 

이렇게 계산된 가중치가 적용된 Value 벡터들은 최종 출력을 생성하는 데 사용됩니다. 출력값은 문장의 각 단어에 대한 맥락화된 표현이 됩니다. 이 출력은 후속 레이어에서 더 복잡한 연산을 거쳐 모델의 예측 결과로 이어지죠.

 

Attention 연산의 의미

• Query와 Key의 유사도 측정: "cat"은 각 단어의 Key와 비교하며 관련성을 따집니다. 예를 들어 "sat"의 Key가 "cat"의 Query와 높은 유사도를 가진다면, "sat"과 "cat"은 관련이 깊은 단어로 판단됩니다.
• 유사도에 따라 가중치 부여: Query와 유사도가 높을수록 더 큰 가중치가 부여돼요. 이 경우 "sat"이 "cat"과 관련성이 크므로 "on"이나 "the"보다 높은 가중치를 받겠죠.
• Value의 정보를 조합: 이렇게 계산된 가중치를 바탕으로 "sat"의 Value가 강조되면서 "cat"과 연결됩니다. 이를 통해 모델은 "cat"이 단순히 등장하는 것이 아니라, "sat"과 행동적인 관계가 있다고 이해하게 돼요.

 

📌 인코더와 디코더에서의 Q, K, V 사용

인코더 (Encoder)에서의 Q, K, V

• 인코더에서는 Self-Attention을 사용해요.
• 여기서 Q, K, V는 모두 같은 입력에서 생성되는데, 인코더는 입력 시퀀스의 각 단어에 대해, 그 단어가 다른 단어들과 어떤 관계를 가질지 알아보기 위해 Q, K, V를 만들어요.
• 이렇게 생성된 Self-Attention을 통해 인코더는 입력 시퀀스 전체의 맥락을 고려해 각 단어의 의미를 더욱 잘 이해하고 강화할 수 있어요.

 

디코더 (Decoder)에서의 Q, K, V

디코더에서는 Attention이 두 가지 방식으로 나뉘어요.

1. Self-Attention
   • 디코더의 Self-Attention은 Q, K, V가 모두 디코더의 이전 출력에서 생성돼요.
   • 즉, 현재 디코더에서 처리 중인 위치의 Query가 이전에 생성된 단어들의 Key와 Value와 상호작용하면서 중요한 정보를 추출해요.
   • 이렇게 해서 디코더는 현재 단어를 예측할 때, 이전 단어들에 대한 정보를 참고할 수 있게 돼요.
2. 인코더-디코더 Attention (Cross-Attention)
   • 디코더가 입력 시퀀스의 정보를 활용해 다음 단어를 예측하는 방식이에요.
   • 여기서 Query는 디코더의 출력에서 생성되고, Key와 Value는 인코더의 출력에서 생성돼요.
   • 이렇게 디코더의 Query가 인코더의 Key와 Value를 참조하면서, 더 정확하게 다음 단어를 예측할 수 있게 돼요.

 

KV 캐싱이란?

KV 캐싱 (Key-Value Caching)은 디코더에서의 Self-Attention과 Cross-Attention 단계에서 사용하는 기법이에요. 이게 왜 필요한지 간단히 말하면, 디코더가 새로운 단어를 예측할 때마다 이전 단어들에 대해 Key와 Value를 다시 계산하는 게 비효율적이기 때문이에요. 그래서 이전에 계산한 Key와 Value를 저장해두고, 반복적인 계산을 줄이는 방법이에요.

 

• 디코더가 한 번의 Forward Pass에서 각 단어에 대해 Key와 Value를 계산하면, 그 값들을 캐시에 저장해요.
• 이후 새로운 단어를 예측할 때는, 이미 저장된 Key와 Value를 가져와서 사용해요.
• 이렇게 하면 새로운 Query만 계산하고, 저장된 Key와 Value를 바탕으로 Attention 연산을 하게 돼요.

KV 캐싱의 장점

• 계산 비용 절감: 매번 모든 단어에 대해 Key와 Value를 새로 계산하는 대신, 저장된 값을 재사용하기 때문에 훨씬 빠르고 효율적이에요.
• 메모리 최적화: 한 번 계산된 값만 저장하고 재사용하기 때문에, 메모리 사용도 줄어들어요.

---

 

Query, Key, Value는 트랜스포머의 어텐션 메커니즘에서 중요한 정보를 추출하는 핵심 요소예요. 이 세 가지는 트랜스포머 모델이 입력 시퀀스의 중요한 관계를 파악하고, 각 단어가 문장에서 어떤 역할을 하는지 이해하는 데 필수적이에요. 인코더는 입력 시퀀스의 Self-Attention을 통해 Q, K, V를 생성하고, 디코더는 Self-Attention과 Cross-Attention을 활용하여 이전 출력 시퀀스와 입력 시퀀스를 결합하죠. 이런 과정은 모델이 문맥을 제대로 이해하고 예측할 수 있도록 돕는 중요한 부분이에요. 또, KV 캐싱 기법을 통해 디코더는 반복적인 계산을 줄여 효율성을 크게 향상시킬 수 있어요. 이렇게 Q, K, V를 이해하면 트랜스포머 모델이 어떻게 텍스트의 복잡한 관계를 다루는지, 그리고 효율적으로 계산을 수행하는지에 대해 더 깊이 이해할 수 있게 돼요.

 

🤔 그래도 잘 이해가 안된다면!?

• 트랜스포머에서 어텐션은 입력 시퀀스 내에서 각 단어가 다른 단어들과 얼마나 관련이 있는지 파악하는 방법!
• Q와 K의 유사도를 계산해서 집중할 단어를 찾고, 그 단어의 V 정보를 강조하면서 문맥을 이해하는 것!
• 이 과정 덕분에 트랜스포머는 단어들 간의 관계를 잘 파악하고, 텍스트를 잘 처리할 수 있게 돼요!

요 정도만 이해하자!