Part1. LLM 소개

1. LLM

트랜스포머

2017년 Google Brain팀에서 다양한 자연어 처리(NLP) 작업을 다루는 AI 딥러닝 모델을 소개하였다. 이는 추후 BERT를 이용해 유저의 쿼리를 좀 더 잘 이해하는 방향으로 검색 엔진을 향상시켰으며 우리가 은연 중에 많이 사용하였을 것이다.

이러한 트랜스포머는 OpenAi와 Microsoft가 협력하여 깃허브의 Copilot과 같은 애플리케이션에서도 단순한 주석, 코드 조각으로만 완전한 소스코드를 생성하는 방향으로 발전해나가기도 하였다.

```
from transformers import pipeline

def classify_text(email):
	"""
	Use Facebook's BERT model to classify an email into "spam" or "not spam"
	
	Args:
		email(str) : The email to classify
	Returns:
		str: The classification of the email
	"""
	# COPILOT 시작 : 이 주석 이전의 모든 것은 COPILOT을 위한 입력
	classifier = pipeline(
		'zero-shot-classification', model='facebook/bart-large-mnli'
		labels = ['spam', 'not spam']
		hypothesis_template = 'This email is {}.'
		results = classifier(
			email, labels, hypothesis_template=hypothesis_template
		)
		
		return results['labels'][0]
	)
	# COPILOT 끝
```

예제 1-1 : Meta의 BART LLM에서 결과를 얻기 위해 Copilot LLM 사용

해당 예제를 잘 살펴보면 Copilot에 파이썬 함수 정의와 몇몇 주석만 작성한 후 모든 코드는 Copilot이 작성하였다. 이렇게 LLM이 우리 주위에서 편안한 삶, 개발을 제공해주는데 이를 잘 활용하기 위해선 LLM의 내부에 대해 정확히 알 필요가 더 있다.

1.1 LLM이란?

대규모 언어모델은 트랜스포머 아키텍처에서 파생된 AI 모델로, 사람의 언어, 코드 등을 이해하고 생성하기 위해 설계되었다. 해당 모델들은 방대한 양의 텍스트 데이터로 학습하며, 사람 언어의 복잡성, 뉘양스 등을 포착가능하다.

실제 할 수 있는 작업은 텍스트 분류부터 생성까이 언어 관련 작업을 넓은 범위에서 수행할 수 있다.

각 산업에서는 다음과 같은 방식으로도 활용된다.

• 의료: 전자 의무 기록 처리, 임상시험 매칭, 신약 발견
• 금융 : 사기 탐지, 금융 뉴스의 감정 분석, 트레이딩 전략
• 챗봇, 가상 어시스턴트

해당 그림은 NLP에서의 발전들에 대한 개요로 모든 것은 결국 트랜스포머의 발명으로 이어지는 것이라고 이해하면 된다.

2017년이후부터 현대의 트랜스포머 아키텍처는 이전 NLP 모델로는 가능하지 않았던 큰 데이터셋에 대한 훈련 시간을 지원할 수 있었다. 해당 과정에서 단어 간의 종속성, 문맥 관계를 포착할 수 있게 하는 셀프 어텐션을 사용하여 시퀀스 내 각 단어가 다른 모든 단어에 주의를 기울이게 하도록 하였다. (문맥을 찾도록!)

이러한 트랜스포머 아키텍처의 등장은 라이브러리와 패키지들이 배포되며 이러한 모델들을 전문가들이 직접 사용, 훈련, 공유를 가능하게 하여 발전을 가속화 시켰다. 실제로 Hugging Face와 같은 인기 있는 LLM 저장소의 등장으로 강력한 오픈 소스 모델에 대한 접근을 제공한다.

1.1.1 LLM 정의

LLM과 트랜스포머가 해결하고 있는 구체적인 NLP 작업은 다양한 작업을 해결할 수 있는 기반을 제공한다.

언어 모델링 작업

NLP의 하위 분야로, 지정된 어휘 내의 토큰 시퀀스 가능성을 예측하기 위한 통계/딥러닝 모델의 생성을 포함한다. 다음의 두 종류의 언어 모델링 작업이 있다.

자기회귀 언어 모델

알려진 어휘에서 주어진 문장의 바로 다음에 가장 가능성 있는 토큰을 생성하도록 하는 것으로 이전 토큰만을 기반으로 다음 토큰을 예측하도록 훈련한다.

• 트랜스포머 모델의 디코더 부분
• 어텐션 헤드가 앞서 온 토큰만 볼 수 있도록 전체 문장에 마스크 적용
• 텍스트 생성에 이상적
• 예 : GPT

자동 인코딩 언어 모델

알려진 어휘에서 문장의 어느 부분이든 누락도니 단어를 채우도록 모델에 요청하는 것으로 손상된 버전의 입력 내용으로부터 기존 문장을 재구성하도록 훈련한다.

• 전체 문장의 양방향 표현을 생성한다.
• 다양한 작업에 파인튜닝될 수 있지만 주로 문장 분류, 토큰 분류에 사용된다.
• 예 : BERT

요약

LLM은 결국 자기회귀, 자동 인코딩 또는 이 두가지의 조합이 되는 언어 모델이다. LLM의 정의적 특징은 큰 크기와 광범위한 학습 데이터셋으로, 이를 통해 텍스트 생성, 분류와 같은 복잡한 언어 작업을 파인튜닝없이 높은 정확도로 수행할 수 있다.

[!인기 있는 LLM의 비교] >

1.1.2 LLM 주요 특징

기존의 트랜스포머 아키텍처는 2017년에 고안된 시퀀스-투-시퀀스 모델이며다음 두 가지 구성 요소로 이루어져 있다.

• 인코더 : raw text를 받아들여 핵심 구성 요소로 분리하고, 해당 구성 요소를 벡터로 변환하는 업무를 담당하며, 어텐션을 통한 텍스트의 맥락을 이해한다.
• 디코더 : 수정된 형식의 어텐션을 사용해 다음에 올 최적의 토큰을 예측하여 텍스트 생성에 뛰어난 성능을 보인다.

위 그림과 같이 트랜스포머는 더 빠른 훈련, 일반화 및 더 나은 성능을 위한 기타 하위 구성 요소들이 존재한다. 오늘날의 LLM은 대부분 기존 트랜스포머의 번형으로 존재한다. BERT와 GPT와 같은 모델들은 트랜스포머를 인코더, 디코더로 각각 분해하고 이해하여 생성함으로 뛰어난 모델을 구축하고 있다.

인코더와 디코더를 함께 사용한 전체 모델은 시퀀스-투-시퀀스 모델이 된다.

일반적인 LLM 주요 카테고리

위에서 말한 LLM의 주요 카테고리를 다시 정리하자면 다음과 같다.

• 자기회귀 모델 : 이전 토큰을 기반으로 문장의 다음 토큰을 예측한다. 주어진 맥ㄷ락을 따라서 일관성 있는 텍스트 생성에 효과적이다. 주로 GPT와 같은 모델이다.
• 자동 인코딩 모델 : 입력 토큰 중 일부를 가리고 남아있는 토큰으로부터 예측하여 문맥을 양방향으로 이해하여 표현을 구축한다. 토큰 간의 맥락적 관계를 빠르고 대규모로 포착하는 데 능숙하며 주로 텍스트 분류 작업에 사용된다.
• 자기회귀와 자동 인코딩의 조합 : 다양하고 유연한 텍스트를 생성하기 위해 인코더와 디코더를 함께 사용한 모델이다. 인코더를 통한 추가 맥락 포착 능력덕분에 디코더 기반의 자기회귀 모델보다 여러 문맥에서 더 다양하고 창의적인 텍스트를 생성한다. 그 예시로 아래 그림의 T5가 존재한다.

더 많은 문맥을 파악

LLM의 구성, 트랜스포머의 기능 사용과 관계 없이 모든 LLM은 문맥을 잘 사용하는 목표를 가진다. 즉, 입력 텍스트와 다른 토큰과 관련해 각 토큰을 이해하는 것이다.

이러한 목표를 잘 수행하기 위해 단어의 정의와 문맥을 결합해 가능한 가장 의미 있는 토큰 임베딩을 만들기 위해 노력했는데 이 과정에서 생긴 계산이 어텐션 계산이다. 어텐션 계산 덕분에 더 많은 문맥을 파악해 의미 있는 단어를 사용할 수 있게 되었다.

1.1.3 LLM 작동원리

LLM은 사전 훈련, 파인튜닝 정도에 따라 성능이 천차만별이다. 사전 훈련을 해야하는 이유는 LLM이 어떤 것을 잘하고, 못하고, 맞춤 데이터로 업데이트할 필요성을 이해하기 위해 존재한다.

사전 훈련

이름이 붙여진 거의 모든 LLM은 대량의 텍스트 데이터로 특정 언어 모델링 관련 작업에 대해 사전 훈련된 것이다. 이러한 사전 훈련덕분에 LLM은 일반적인 언어와 단어 간의 관계를 배우고 이해한다.

즉, 모든 LLM은 서로 다른 말뭉치와 서로 다른 작업에 대해 훈련되는 것이다.

예를 들어 BERT의 경우 두 개의 공개적으로 사용 가능한 텍스트 말뭉치인 영어 위키백과, BookCorpus에서 사전 훈련되었다.

• 영어 위키 백과 : 영어 버전의 위키백과로 수집된 기사들 모음으로 다양한 주제, 쓰기 스타일을 포함해 영어 텍스트의 샘플이 된다.
• BookCorpus : 대량의 소설, 비소설 책들의 모음으로 다양한 장르의 책과 함께 최소 2000단어의 길이들이 존재한다.

이러한 샘플들을 이용해 BERT는 두 가지 특정한 언어 모델링 작업에서 사전 훈련되었다.

• 마스크된 언어 모델링 (MLM, 자동 인코딩 작업) : BERT가 하나의 문장 안에서 토큰의 상호작용을 인식하도록 도운다.
• 다음 문장 예측 (NSP) : BERT가 문장들 사이에서 토큰이 서로 어떻게 상호작용하는지를 이해하도록 도와준다.

이러한 사전훈련으로 LLM들이 서로 구별이 되어 제공이 되며 우리에게는 전이학습의 적용이라는 유용한 방안제공을 통해 최고 수준의 결과를 얻을 수 있다.

전이학습

머신러닝에서 한 작업에서 얻은 지식을 활용하여 다른 관련 작업의 성능을 향상시키는 기술

LLM에 대한 전이학습은 텍스트 데이터의 한 말뭉치에서 사전 훈련된 LLM을 가져온다. 또한, 텍스트 분류, 생성과 같은 특정한 ‘실제’ 작업을 위해 작업 특정 데이터로 모델의 파라미터를 업데이터하여 모델을 파인튜닝하는 것 또한 이에 포함된다.

기본 아이디어

사전 훈련되 모델이 이미 특정 언어와 언어 내 단어 간의 관계에 대한 많은 정보를 학습했기에 이 정보를 새로운 작업에서의 성능을 향상시키기 위한 시작점으로 사용하는 것이다. 이를 이용해서 LLM은 처음부터 모델을 훈련시키기 보다 훨씬 적은 양의 작업에 연관된 데이터로 특정 작업에 대해서 파인튜닝할 수 있다. 이를 통해 LLM훈련을 위한 시간, 자원을 크게 줄일 수 있다.

다음 그림으로 요약할 수 있다.

파인 튜닝

사전 훈련된 LLM은 특정 작업을 위해 파인튜닝할 수 있다. 즉, LLM을 작업에 특화된 상대적으로 작은 데이터셋에서 훈련시켜, 특정 작업을 위한 파라미터를 조정하는 것을 의미한다. LLM은 사전 훈련된 언어에 대한 지식을 활용해 특정 작업의 정확도를 높이는 것이다.

이러한 방식을 통해 파인튜닝이 특정 도메인, 작업에서의 성능의 큰 향상을 이루어 애플리케이션에 빠르게 활용되는 계기가 된다.

실제 파인튜닝 과정은 다음 그림과 같고 과정은 대부분 동일하다.

1. 파인튜닝하려는 모델과 파인튜닝 파라미터(학습률)를 결정한다.
2. 훈련 데이터를 수집한다.
3. 손실(오류의 판단 기준)과 기울기(오류를 최소하화기 위해 모델을 어떻게 변경할지에 대한 정보)를 계산한다.
4. 오류를 최소화하기 위해 모델 파라미터를 업데이터하는 역전파 알고리즘을 통해 모델을 업데이트한다.

어텐션

트랜스포머만이 아니라 다양한 가중치를 입력의 다른 부분에 할당하는 딥러닝 모델에서의 메커니즘

이러한 과정을 통해 모델은 번역이나 요약과 같은 작업 수행 시에 가장 중요한 정보를 우선시, 강조할 수 있게 된다. 이는 본질적으로 어텐션이 모델이 동적으로 입력의 다른 부분에 집중할 수 있게 하여, 성능 향상과 더 정확한 결과를 이끌어내는 것이다.

[!어텐션의 존재 이전 vs 이후] > 어텐션이 존재하기 이전에는 대부분의 신경망이 모든 입력을 동등하게 처리하며, 모델은 예측을 위해 입력의 고정된 표현에 의존했다. 하지만 현대에는 LLM이 동적으로 입력 시퀀스의 중요한 부분에 집중할 수 있게 되어 주요 성능 향상에 큰 도움이 되었다.

결론적으로, LLM은 큰 말뭉치에서 사전 훈련되고 때로는 특정 작업을 위해 더 작은 데이터셋에서 파인튜닝을 수행한다. 이 과정에서 트랜스포머가 언어 모델로서 좋은 성능을 보이기 위해서는 고도의 병렬 처리를 통해 더 빠른 훈련과 텍스트의 효율적인 처리를 수행해야 한다.

또한, 트랜스포머가 다른 딥러닝 아키텍처보다 차별화되는 점은 토큰 간의 장거리 의존성과 관계를 어텐션을 사용하여 포착할 수 있는 능력이다. 즉, 어텐션을 사용하여 트랜스포머 기반 LLM의 핵심 구성요소로 작용하며, 훈련 과정과 대상 작업 사이의 정보를 효과적으로 유지하며(전이학습) 긴 텍스트 부분을 쉽게 처리하는 것이다.

어텐션은 LLM이 내부 세계 모델과 사람이 식별할 수 있는 규칙을 학습하는 데 도움을 주는 가장 주요한 측면으로 간주된다. 실제로 2019년 스탠퍼드 대학에서 BERT의 특정 어텐션 계산이 언어학적인 구문과 문법 규칙에 일치함을 보였다. 연구자들은 BERT가 동사의 직접 목적어, 명사의 한정사 및 전치사의 목적어를 사전 훈련만으로 아주 높은 정확도로 파악할 수 있음을 확인했다.

또 다른 연구에서는 사전 훈련과 파인튜닝을 통해 ‘규칙’들을 단순히 학습할 수 있는 지 탐구하였다. 하버드 대학의 연구자들은 오델로 게임과 같은 복합적인 작업에 대해 LLM이 실제로 이전에 실행된 게임 데이터에 대한 훈련만으로 게임의 규칙을 이해할 수 있음을 확인하였다.

임베딩

위와 같이 LLM이 학습할 수 있도록 하기 위해서 데이터를 기계가 읽을 수 있는 것으로 변환해야한다. 이를 임베딩 과정을 통해 이루어진다.

임베딩은 고차원 공간에서의 단어, 구절, 토큰의 수학적인 표현이다.

위의 임베딩 정의에서 더 나아가 NLP에서의 임베딩은 다른 단어와의 의미, 관계를 포착하는 방식이라는 의미 또한 포함한다.

여러 종류의 임베딩이 존재하며 대표적으로 다음 두 가지가 존재한다.

• 위치 임베딩 : 문장에서 토큰의 위치를 인코딩
• 토큰 임베딩 : 토큰의 의미를 인코딩

LLM은 사전 훈련을 기반으로 하여 토큰에 대한 다양한 임베딩을 학습하며, 파인 튜닝 중에 이러한 임베딩을 다시 업데이트할 수 있다.

토큰화

텍스트를 가장 작은 이해 단위인 토큰으로 분해하는 과정

토큰들은 의미를 내포한 정보 조각으로 어텐션 계산에서의 입력으로 사용되어 LLM이 실제로 학습하고 작동하게 된다. 토큰이 항상 전체 단어를 나타내는 것은 아니지만 LLM의 정적 어휘를 구성하기도 한다. 예를 들어 토큰은 구두점 (.), 개별 문자(하이), LLM이 알기 어려운 단어의 하위 단어(ㅎㅇㄴㅇㄹ)를 나타낼 수 있다.

거의 모든 LLM은 모델에 특정 의미를 가진 특별한 토큰이 존재한다.

• BERT 모델 : [CLS]토큰이 있으며, BERT는 모든 입력의 첫 번째 토큰으로 이를 자동 삽입한다. 이는 전체 인력 시퀀스에 대한 인코딩된 의미를 나타내기 위함이다.

토큰화 과정에서는 대소문자 변환이라는 전처리 단계 또한 포함될 수 있다. 이러한 대소문자 변환은 다음 두 타입이 존재한다.

• 소문자 토큰화 : 모든 토큰이 소문자이며, 대부분의 악센트는 글자에서 제거
• 대소문자 구분 : 토큰의 대문자가 유지되고 이 선택이 토큰의 의미에 중요한 정보를 제공할 수 있어 성능에 영향을 끼칠 수 있다.

[!대소문자의 편향성 문제] > 대소문자의 개념 조차 모델에 따라 편향성의 문제를 띌 수 있다. 텍스트를 소문자화하거나 악센트를 제거하는 것은 일반적으로 서구 스타일의 전처리이다. 그렇기에 다양한 말뭉치로 충분히 훈련되지 않은 언어 모델은 이러한 문맥의 일부를 분석하고 활용하는 데에 큰 문제가 존재할 수 있다. > 이러한 전처리 편향은 다국어 모델(multilingual model)에서 특정 언어(주로 영어)에는 잘 작동하지만, 다른 언어(특히 악센트, 대소문자 구분이 중요한 언어)에서는 성능 저하, 의미 왜곡, 불공정한 결과 등으로 이어질 수 있습니다

위 그림은 토큰화의 한 예시 그림으로 LLM이 어휘 사전에 없는 구문을 어떻게 처리하는지에 대해 나타내주고 있다. 이 과정에서 실제 LLM에서 한 번에 입력할 수 있는 토큰의 수를 제한하기에 이를 염두하는 과정이 포함되어 있다.

• Sin : 이름의 첫 부분
• an : ‘an’이라는 단어와는 별개의 부분 단어 토큰으로 알려지지 않은 단어를 나누기 위한 수단으로 사용

언어 모델링을 넘은 정렬 + RLHF

최신의 LLM은 모델의 성능을 더 좋게 만들고, 보다 중요하게는 AI가 사람의 기대에 따라 작동된다는 의미로 정렬되게 만든다. 즉, 잘 정렬 된 LLM은 사람의 목표와 일치하는 목표를 지닌다.

이러한 언어 모델에서의 정렬은 모델이 사용자의 기대에 부합하도록 입력 프롬프트에 얼마나 잘 답변하는 지를 나타낸다. 표준 언어 모델은 앞선 맥락을 기반으로 다음 단어를 예측하지만 이는 특정 상황(지시, 프롬프트)에서 별로 유용하지 않을 수 있다. 이를 위해 좀 더 의도에 언어 모델을 정렬하는 좋은 방법이 개발되고 있는데 이러한 언어 모델 정렬을 위한 포괄적인 방법 중 하나로 강화학습(RL) 이 훈련 과정에 포함되고 있다.

그 중에서도 인간 피드백 기반 강화학습 (RLHF) 은 사전 훈련된 LLM을 정렬하는 데 인기 있는 방법으로 떠오른다. 이는 사람의 피드백을 사용해 성능을 향상하는 것이다. LLM에 그 자체의 출력을 상대적으로 작고 고품질의 피드백 단계(사람)에서 학습하게 하여, 전통적인 지도 학습의 일부 한계를 극복하게 한다. 실제로 RLHF는 ChatGPT와 같은 최신 LLM에서 중요한 개선을 보여준다. 이 외에도 규약 AI를 활용하여 AI 피드백을 포함하는 RL과 같은 접근법 또한 등장한다.

1.2 현재 많이 사용되는 LLM

BERT, GPT, T5 등이 인기 있는 LLM으로 자리 잡았는데 이들은 트랜스포머라는 공통의 조상을 공유하며 아키텍처 측면에서 상당한 차이점을 지닌다. 이러한 트랜스포머 계열에서의 널리 사용되는 번형으로는 RoBERTa, BART, ELECTRA가 존재한다.

1.2.1 BERT

문장의 양방향 표현을 구성하기 위해 어텐션 메커니즘을 사용하는 자동 인코딩 모델이다.

해당하는 모델은 문장 분류, 토큰 분류 작업에 뛰어난 성능을 보여준다.

BERT는 트랜스포머의 인코더만 사용하고 디코더를 무시하기에 엄청나게 많은 양의 텍스트를 매우 빠르게 처리할 수 있다. 그렇기에 BERT 기반의 아키텍처는 우리가 자유로운 텍스트를 작성할 필요가 없는 경우, 대량의 말뭉치를 빠르게 작업, 분석하는 경우에 적합하다.

BERT자체에서 텍스트 분류, 문서 요약은 진행하지 않지만 하위 NLP 작업을 위한 사전 훈련된 모델로 자주 사용된다.

1.2.2 GPT-4와 ChatGPT

어텐션 메커니즘을 사용하여 이전 토큰을 기반으로 시퀀스에서 다음 토큰을 예측하는 자기회귀 모델이다.

GPT는 주로 자연스러운 텍스트 생성에 사용된다.

GPT는 트랜스포머의 디코더 부분에 의존하고 인코더를 무시하므로, 한 번에 하나의 토큰을 생성하는 데 뛰어난 성능을 보인다. 이런 모델은 상당히 큰 문맥 윈도우를 주었을 때 텍스트를 생성하는 데에 적합하다. 즉, 자유롭게 텍스트를 작성할 수 있는 능력이 필요한 경우에 사용된다.

1.2.3 T5

텍스트 분류부터 요약 및 생성에 이르기까지 여러 NLP 작업을 수행하기 위해 설계된 순수 인코더/디코더 트랜스포머 모델이다.

T5모델 등장 이전에는 BERT, GPT-2와 같은 LLM은 특정 작업 수행 전에 레이블이 부착된 데이터를 사용해 파인튜닝을 수행했어야 한다.

이러한 T5 모델은 인코더를 사용해 입력 텍스트의 표현을 구축, 디코더를 사용해 텍스트를 생성하기에 분류, 생성의 다양한 NLP 작업을 수행할 수 있었다. 즉, 텍스트를 처리하고 이해하는 능력과 더불어 자유롭게 텍스트를 생성하는 능력 모두가 필요할 때 사용한다.

이러한 T5는 파인튜닝 없이도 여러 작업을 수행하기에 다재다능한 LLM 개발의 촉진제가 되었다. 실제로 GPT-3도 이러한 능력을 자랑하였다.

1.3 도메인 특화 LLM

특정 도메인에서 훈련된 LLM은 도메인 특화 LLM이라 불린다. 주로 생물학, 금융과 같은 특정 주제 영역에서 훈련되었다. 일반적인 목적의 LLM과 다르게, 훈련받은 도메인 내에서 사용되는 특정 언어, 개념을 이해하기 위해 설계된다.

BioGPT

> 해당 모델은 도메인 특화 LLM의 한 예로 AI 의료 회사인 Owkin과 Hugging Face가 협력하여 개발 되었다. 200만개 이상의 생물의학 연구 논문 데이터셋에서 훈련되었으며 명명된 엔티티 인식, 관계 추출, 질문-답변과 같은 다양한 생물의학 NLP 작업에 효과적이다.

> 해당 GPt는 생물의학 지식과 도메인 특화 어휘를 LLM에 인코딩한 사전 훈련을 받고 작은 데이터셋에서 파인튜닝이 될 수 있다. 결국 특정 생물의학 작업에 적용할 수 있고, 대량의 레이블링된 데이터의 필요성을 줄일 수 있다.
> ![[Pasted image 20250510160551.png]]

장점

도메인 특화 LLM의 장점은 특정 텍스트 집합에서의 훈련에 존재한다. 기존의 LLM보다는 상대적으로 좁으나 특화된 사전 훈련으로 인해 해당 도메인에서 사용되는 언어와 개념을 더 잘 이해할 수 있기에 해당 도메인에서의 NLP 작업에서 대한 정확도, 유창성이 향상된다.

1.4 LLM을 이용한 애플리케이션

다양한 응용 분야에서 사용되지만 일반적으로 세 가지 방식으로 LLM을 사용한다.

• 사전 훈련된 LLM의 기본적인 텍스트 처리 및 생성 능력을 큰 아니텍처의 일부로 추가적인 파인튜닝 없이 사용: 사전 훈련된 BERT/GPT를 사용해 정보 검색 시스템 생성
• 전이 학습을 사용해 매우 특정한 작업을 수행하기 위한 사전 훈련된 LLM 파인 튜닝 : 특정 도메인/산업의 문서 요약을 생성하기 위해 T5 파인튜닝
• 사전 훈련된 LLM에 사전 훈련을 통해 해결할 수 있도록 학습되었거나 합리적인 직관으로 수행할 수 있는 작업 요청 : GPT-4에 블로그 포스트 작성 요청, T5에 언어 번역 수행 요청

1.4.1 전통적인 자연어 처리 작업

대부분의 LLM은 분류, 번역 같은 일반적인 NLP작업에서 최고의 결과를 제공한다. 트랜스포머의 거대한 말뭉치를 이용한 효율적인 사전 훈련으로 개발자와 실무자들이 비교적 적은 레이블링된 데이터를 이용해서 작업을 더 높은 정확도로 수행한 덕분이다.

텍스트 분류

텍스트 분류 작업은 주어진 텍스트 조각에 레이블을 할당하는 것으로 주로 감성 분석에 흔히 사용된다. 여기서 목표는 텍스트를 긍정, 부정, 중립으로 분류하는 것이다. 또한, 주제 분류에서도 미리 정의된 카테고리로 분류하는 데에도 사용할 수 있다.

BERT와 같은 모델은 위 그림에서 볼 수 있듯이 상대적으로 적은 레이블링 데이터로 파인튜닝하여 분류를 수행할 수 있다.

번역 작업

기계 번역으로 의미와 맥락을 유지하면서 한 언어의 텍스트를 다른 언어로 번역하는 것이다. 전통적인 번역 작업은 두 언어의 충분한 예제와 도메인 지식의 문제로 상당히 기계번역이 어려운 작업이였지만 최근의 LLM에서는 사전 훈련과 효율적인 어텐션 계산으로 작업을 더 쉽게 수행할 수 있었다.