AR (Autoregressive) 모델이란?
1. 핵심 개념: 꼬리에 꼬리를 무는 이어쓰기
AR 모델은 이전에 나온 단어들을 토대로 '다음에 올 가장 확률 높은 단어'를 하나씩 예측해 나갑니다.
나는
→
나는 학교에
→
나는 학교에 간다
*자신이 출력한 단어를 다시 입력으로 사용하여 다음 단어를 만듭니다.
2. 수리적 원리: 확률의 게임
"오늘 날씨가 너무" 다음에 올 단어를 AI는 어떻게 결정할까요?
| 단어 후보 | 선택 확률 | 결과 |
|---|---|---|
| 좋다 | 75% | 당첨 |
| 덥다 | 20% | - |
| 슬프다 | 5% | - |
3. 모델 비교: 디퓨전 vs AR
디퓨전 (이미지 중심)
조각가 방식: 노이즈 덩어리를 깎아내어 전체적인 형상을 한꺼번에 구체화함.
AR 모델 (텍스트 중심)
서예가 방식: 한 글자씩 순서대로 써 내려가며 문맥을 완성함.
요약: AR 모델은 과거의 데이터를 먹고 미래의 한 점을 찍는 과정을 반복합니다.
