트랜스포머 모델을 이용한 텍스트 생성 (이미지 출처: HuggingFace)

최근 몇 년간 AI 기술의 급속한 발전으로 GPT, BERT, LLaMA와 같은 트랜스포머 기반 언어 모델이 다양한 분야에서 활용되고 있습니다. 이러한 모델들은 텍스트를 생성할 때 놀라울 정도로 자연스러운 결과물을 만들어 내지만, 단순히 모델을 사용하는 것만으로는 최적의 결과를 얻기 어렵습니다. 텍스트 생성의 품질과 특성은 다양한 파라미터에 의해 크게 영향을 받기 때문입니다.

이 글에서는 트랜스포머 모델에서 텍스트 생성을 제어하는 핵심 파라미터들을 상세히 살펴보고, 이들이 생성된 텍스트의 품질에 어떤 영향을 미치는지, 그리고 다양한 응용 분야에 맞게 어떻게 조정할 수 있는지 알아보겠습니다.

1. 텍스트 생성의 기본 원리

트랜스포머 모델은 텍스트를 생성할 때 자동회귀(autoregressive) 방식을 사용합니다. 이는 이전에 생성된 토큰들을 기반으로 다음 토큰을 예측하는 방식입니다. 예를 들어, “나는 학교에”라는 문장이 주어지면 모델은 다음에 올 수 있는 단어들의 확률 분포를 계산하고, 이 분포에서 “간다”, “갔다”, “다닌다” 등의 후보 중 하나를 선택합니다.

핵심적으로 이해해야 할 점은 모델이 단순히 ‘하나의 다음 단어’를 생성하는 것이 아니라, 모든 가능한 다음 단어들에 대한 확률 분포를 생성한다는 것입니다. 이 확률 분포를 어떻게 활용하느냐에 따라 생성되는 텍스트의 특성이 크게 달라집니다.

2. 핵심 텍스트 생성 파라미터 이해하기

Temperature (온도)

Temperature는 확률 분포의 ‘날카로움’을 조절하는 파라미터입니다. 낮은 temperature(1.0 미만)는 확률 분포를 더 날카롭게 만들어, 높은 확률을 가진 토큰은 더 높게, 낮은 확률을 가진 토큰은 더 낮게 만듭니다. 반대로 높은 temperature(1.0 초과)는 확률 분포를 더 평평하게 만들어, 낮은 확률의 토큰도 선택될 가능성을 높입니다.

 Temperature 파라미터가 확률 분포에 미치는 영향 (이미지 출처: Medium)

• 낮은 temperature(예: 0.2~0.5): 더 일관되고 예측 가능한 텍스트 생성, 반복적 표현이 나타날 수 있음
• 기본 temperature(1.0): 모델의 원래 확률 분포 그대로 유지
• 높은 temperature(예: 1.5~2.0): 더 다양하고 창의적인 텍스트 생성, 때로는 비논리적인 결과가 나올 수 있음

예를 들어, “인공지능의 미래는”이라는 프롬프트에 대해:

Temperature: 0.2
생성된 텍스트:
인공지능의 미래는 불확실합니다. 인공지능의 미래는 불확실합니다.
인공지능의 미래는 불확실합니다. 인공지능의 미래는 불확실합니다.
인공지능의 미래는 불확실합니다...

Temperature: 1.0
생성된 텍스트:
인공지능의 미래는 아직 명확하지 않습니다. "우리가 컴퓨터 비전을 통해 여러 지점에서 
사람을 바라보는 프로세스가 여러 지점에서 사람을 보지 않아서 발생하는 지능 손실 없이 
가능한가요?" 리처드가 물었습니다. "또한 저는 이 연구를 하는 사람들이 다양한 시점에서 
인간을 볼 수 있다는 점에서 매우 흥미롭다고 생각합니다..."

낮은 temperature에서는 반복적인 패턴이 자주 나타나는 반면, 적절한 temperature에서는 더 다양하고 자연스러운 텍스트가 생성됩니다.

Top-K 샘플링

Top-K 샘플링은 확률 분포에서 가장 높은 확률을 가진 K개의 토큰만 선택하고, 나머지는 무시하는 방법입니다. 이후 이 K개의 토큰 사이에서 확률을 재분배하고, 이 재분배된 확률을 기반으로 다음 토큰을 선택합니다.

 Top-K 샘플링의 작동 방식 (이미지 출처: Hugging Face)

• 낮은 K 값(예: 5~10): 더 안전하고 일관된 텍스트 생성, 단 다양성 제한
• 중간 K 값(예: 40~50): 균형 잡힌 일관성과 다양성
• 높은 K 값(예: 100 이상): 더 다양한 텍스트 생성, 때로는 부적절한 토큰 포함 가능

예를 들어, “프로그래밍을 배우는 가장 좋은 방법은”이라는 프롬프트에 대해:

Top-K = 5
생성된 텍스트:
프로그래밍을 배우는 가장 좋은 방법은 아주 짧은 시간에 기초를 배워서 효과적이고 빠르게 
사용하는 법을 배우는 것입니다. 이런 방식으로 성공적인 프로그래머가 되기 위해서는, 위의 
비디오에서 프로그래밍 기초를 배우는 기법을 사용해야 합니다. 더 효과적으로 코딩하는 법을 
배우기 위해서는, 다음을 통해 더 많은 경험 있는 프로그래머를 만날 수 있습니다...

Top-K = 50
생성된 텍스트:
프로그래밍을 배우는 가장 좋은 방법은 언어와 소프트웨어에 익숙해지는 것입니다. 
프로그래밍의 가장 일반적인 형태 중 하나는 코드를 만들고, 수정하고, 배포하는 것입니다. 
그러나 우리가 필요로 하는 모든 것을 제공할 수 있는 프로그래밍 라이브러리는 거의 없습니다. 
다음 샘플 프로그래밍 프로그램은 위의 일부를 사용하지만, 프로그래밍을 배우는 최선의 방법을 
보여주지는 않습니다...

Top-K 값에 따라 생성된 텍스트의 다양성이 달라지는 것을 확인할 수 있습니다.

Top-P(핵클리어스) 샘플링

Top-P 샘플링은 누적 확률이 P를 초과하는 가장 작은 토큰 집합을 선택하는 방법입니다. 이는 확률 분포의 형태에 따라 동적으로 토큰 수를 조절할 수 있다는 장점이 있습니다.

 Top-P 샘플링의 작동 방식 (이미지 출처: Hugging Face)

• 낮은 P 값(예: 0.5): 더 일관된 텍스트 생성, 상위 확률 토큰에 집중
• 중간 P 값(예: 0.7~0.9): 균형 잡힌 일관성과 다양성
• 높은 P 값(예: 0.95 이상): 더 다양한 텍스트 생성, 낮은 확률 토큰도 포함 가능

예를 들어, 같은 프롬프트에 대해:

Top-P = 0.5
생성된 텍스트:
프로그래밍을 배우는 가장 좋은 방법은 당신을 위한 도구를 만들 수 있는 것입니다. 
그것이 제가 하는 일입니다. 그래서 오늘 제가 여기 있습니다. 저는 프로그래밍의 기초에 
대해 이야기하고 프로그래밍을 배우는 방법을 알려드리겠습니다. 저는 프로그래밍을 배우는 
것에 대해 이야기하러 왔습니다...

Top-P = 0.9
생성된 텍스트:
프로그래밍을 배우는 가장 좋은 방법은 좋은 해커가 되는 것입니다. 어떤 프로그래밍 도구도 
사용하지 마세요. 그냥 평범한 인터넷 사용자, 간헐적인 코딩 학습자가 되어 계속하세요.
— 빅토리아 E. 니콜스

Top-P 값에 따라 다양한 결과를 확인할 수 있습니다.

Repetition Penalty (반복 페널티)

반복 페널티는 이미 생성된 텍스트에 등장한 토큰들의 확률을 낮추어, 같은 표현이 반복되는 것을 방지하는 파라미터입니다.

• 낮은 페널티(1.0): 반복 제한 없음
• 중간 페널티(1.2~1.5): 적당한 반복 제한
• 높은 페널티(2.0 이상): 강한 반복 제한, 때때로 비자연스러운 텍스트 생성 가능

예를 들어, “옛날 옛적에, 한 번”이라는 프롬프트에 대해:

Repetition penalty: 1.0
생성된 텍스트:
옛날 옛적에, 한 번 무슨 일이 일어나고 있는지에 대한 많은 혼란이 있었습니다. 
가장 먼저 떠오른 것은 정부가 이미 오랫동안 존재해 왔다는 사실이었고, 정부가 오랫동안 
존재해 왔다는 것이었습니다. 그리고 정부가 오랫동안 존재해 왔다는 것은 분명했습니다. 
그리고 정부가 오랫동안 존재해 왔다는 것은 분명했습니다...

Repetition penalty: 1.5
생성된 텍스트:
옛날 옛적에, 한 번 하나님의 부르심을 받은 사람이 있었습니다. 그는 와서 말했습니다: 
"저는 예루살렘에서 온 사도입니다." 그리고 그는 큰 기쁨으로 그에게 대답했습니다, 
이 생에서 예수 그리스도를 우리의 주로 받아들이지 않고는 지금 제가 살 수 없다고 
말했습니다; 하지만 저는 오직 그분을 통해서만 구원받을 것입니다...

반복 페널티가 높아질수록 반복이 줄어드는 것을 확인할 수 있습니다.

3. 생성 전략: Greedy vs Sampling

텍스트 생성에서는 크게 두 가지 방식이 사용됩니다:

Greedy Decoding (탐욕적 디코딩)

탐욕적 디코딩은 매 단계에서 가장 높은 확률을 가진 토큰만을 선택하는 방법입니다. 이는 가장 간단한 방법이지만, 최적의 시퀀스를 놓칠 수 있습니다.

 Greedy 디코딩의 작동 방식 (이미지 출처: Hugging Face)

# do_sample=False로 설정하면 greedy decoding 사용
output = model.generate(
    input_ids,
    max_length=50,
    do_sample=False
)

Sampling (샘플링)

샘플링은 확률 분포에 따라 다음 토큰을 무작위로 선택하는 방법입니다. 위에서 설명한 Temperature, Top-K, Top-P 파라미터들은 이 샘플링 과정을 제어합니다.

# do_sample=True로 설정하면 sampling 사용
output = model.generate(
    input_ids,
    max_length=50,
    do_sample=True,
    temperature=0.7,
    top_k=50,
    top_p=0.9
)

Greedy 디코딩은 항상 같은 결과를 생성하는 반면, 샘플링은 매번 다른 결과를 생성할 수 있습니다. 일반적으로 창의적인 텍스트 생성에는 샘플링이 더 적합합니다.

4. Beam Search와 다중 시퀀스 생성

Beam Search는 그리디 방식의 한계를 보완하기 위한 전략으로, 매 단계마다 가장 가능성 높은 여러 후보 시퀀스(빔)를 유지하면서 탐색하는 방법입니다.

 Beam Search의 작동 방식 (이미지 출처: Hugging Face)

# Beam Search 설정
output = model.generate(
    input_ids,
    max_length=50,
    num_beams=5,              # 빔 수
    early_stopping=True,      # 모든 빔이 완료되면 중지
    no_repeat_ngram_size=2,   # n-gram 반복 방지
    num_return_sequences=3    # 반환할 시퀀스 수
)

Beam Search는 특히 번역이나 요약과 같이 출력 길이가 예측 가능한 태스크에서 효과적입니다. 하지만 오픈 엔드 생성에서는 반복 생성이나 다양성 부족 등의 문제가 있을 수 있습니다.

5. 응용 분야별 최적 파라미터 설정

사실적 정보 생성

신뢰성과 정확성이 중요한 경우:

• Temperature: 0.2~0.4 (낮게)
• Top-P: 0.8~0.9 (중간)
• Repetition Penalty: 1.2~1.5 (높게)

창의적 글쓰기

다양성과 창의성이 중요한 경우:

• Temperature: 1.0~1.3 (높게)
• Top-P: 0.9~0.95 (높게)
• Repetition Penalty: 1.0~1.1 (낮게)

코드 생성

정확성과 구문적 정확성이 중요한 경우:

• Temperature: 0.1~0.3 (매우 낮게)
• Top-P: 0.7~0.8 (중간)
• Repetition Penalty: 1.3~1.5 (높게)

대화 생성

자연스러움과 응답성이 중요한 경우:

• Temperature: 0.6~0.8 (중간)
• Top-P: 0.9 (중간-높게)
• Repetition Penalty: 1.2 (중간)

6. 실제 코드로 보는 파라미터 조정

다음은 Hugging Face의 transformers 라이브러리를 사용하여 다양한 파라미터를 조정하는 예제입니다:

import torch
from transformers import GPT2LMHeadModel, GPT2Tokenizer

# 모델과 토크나이저 로드
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("gpt2")

# 입력 텍스트 토큰화
prompt = "인공지능 기술은 우리의 미래를"
input_ids = tokenizer.encode(prompt, return_tensors="pt")

# 다양한 설정으로 텍스트 생성

# 1. 기본 생성 (Greedy)
greedy_output = model.generate(
    input_ids,
    max_length=100,
    do_sample=False
)

# 2. 온도 조절 샘플링
temp_output = model.generate(
    input_ids,
    max_length=100,
    do_sample=True,
    temperature=0.7,
    top_k=0
)

# 3. Top-K 샘플링
topk_output = model.generate(
    input_ids,
    max_length=100,
    do_sample=True,
    temperature=1.0,
    top_k=50
)

# 4. Top-P 샘플링
topp_output = model.generate(
    input_ids,
    max_length=100,
    do_sample=True,
    temperature=1.0,
    top_p=0.9,
    top_k=0
)

# 5. 반복 페널티 적용
rep_output = model.generate(
    input_ids,
    max_length=100,
    do_sample=True,
    temperature=1.0,
    top_k=50,
    repetition_penalty=1.3
)

# 6. Beam Search
beam_output = model.generate(
    input_ids,
    max_length=100,
    num_beams=5,
    early_stopping=True,
    no_repeat_ngram_size=2
)

# 7. Beam Search + 다중 시퀀스
multi_beam_output = model.generate(
    input_ids,
    max_length=100,
    num_beams=5,
    early_stopping=True,
    no_repeat_ngram_size=2,
    num_return_sequences=3
)

# 결과 출력
print(tokenizer.decode(greedy_output[0], skip_special_tokens=True))

각 설정에 따라 생성되는 텍스트의 특성이 어떻게 달라지는지 확인하고, 원하는 결과에 맞게 파라미터를 조정하는 것이 중요합니다.

7. 결론 및 실용적 팁

트랜스포머 모델의 텍스트 생성 파라미터를 이해하고 조정하는 것은 고품질 텍스트 생성을 위한 핵심 요소입니다. 여기 몇 가지 추가 팁을 소개합니다:

1. 실험과 반복: 최적의 파라미터는 태스크와 모델에 따라 다르므로, 다양한 설정을 시도해보세요.
2. 파라미터 조합: 단일 파라미터보다 여러 파라미터의 조합이 더 좋은 결과를 가져올 수 있습니다.
3. 모델 크기 고려: 더 큰 모델은 일반적으로 더 높은 temperature와 더 낮은 Top-K/Top-P 값에서 잘 작동합니다.
4. Context 길이 최적화: 입력 프롬프트의 길이와 구체성이 출력 품질에 큰 영향을 줍니다.
5. 용도에 맞는 설정: 범용 설정보다는 특정 응용 분야에 맞춘 파라미터 설정을 사용하세요.

이러한 파라미터들을 이해하고 적절히 조정함으로써, 트랜스포머 모델의 텍스트 생성 능력을 최대한 활용할 수 있습니다. 사실적 정보 제공부터 창의적 글쓰기, 코드 생성까지 다양한 응용 분야에 맞게 최적화된 결과를 얻을 수 있습니다.

참고자료:

• Understanding Text Generation Parameters in Transformers
• How to generate text: using different decoding methods for language generation with Transformers
• Setting Top-K, Top-P and Temperature in LLMs