Transformers documentation

번역

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

번역

번역은 텍스트 시퀀스를 한 언어에서 다른 언어로 변환하는 작업입니다. 번역은 번역이나 요약과 같이 입력으로부터 출력을 반환하는 강력한 프레임워크인 시퀀스-투-시퀀스 문제로 정의할 수 있는 여러 작업 중 하나입니다. 번역 시스템은 일반적으로 서로 다른 언어의 텍스트 간 번역에 사용되지만, 음성 또는 텍스트-투-음성, 음성-투-텍스트와 같은 그 사이의 조합에도 사용할 수 있습니다.

이 가이드에서는 다음 내용을 보여 드립니다:

  1. OPUS Books 데이터셋의 영어-프랑스 하위 집합에서 T5를 파인튜닝하여 영어 텍스트를 프랑스어로 번역합니다.
  2. 파인튜닝한 모델을 추론에 사용하세요.

이 작업과 호환되는 모든 아키텍처와 체크포인트를 확인하려면 task-page를 참고하는 것을 권장합니다.

시작하기 전에 필요한 라이브러리가 모두 설치되어 있는지 확인하세요:

pip install transformers datasets evaluate sacrebleu

모델을 업로드하고 커뮤니티와 공유할 수 있도록 Hugging Face 계정에 로그인하는 것을 권장합니다. 프롬프트가 표시되면 로그인할 토큰을 입력하세요:

>>> from huggingface_hub import notebook_login

>>> notebook_login()

OPUS Books 데이터셋 로드

datasets 라이브러리에서 OPUS Books 데이터셋의 영어-프랑스 하위 집합을 로드하는 것으로 시작합니다:

>>> from datasets import load_dataset

>>> books = load_dataset("Helsinki-NLP/opus_books", "en-fr")

train_test_split 메서드를 사용하여 데이터셋을 학습 세트와 테스트 세트로 나눕니다:

>>> books = books["train"].train_test_split(test_size=0.2)

다음은 예시입니다:

>>> books["train"][0]
{'id': '90560',
 'translation': {'en': 'But this lofty plateau measured only a few fathoms, and soon we reentered Our Element.',
  'fr': 'Mais ce plateau élevé ne mesurait que quelques toises, et bientôt nous fûmes rentrés dans notre élément.'}}

translation: 해당 텍스트의 영어와 프랑스어 번역.

전처리

다음 단계는 영어-프랑스어 언어 쌍을 처리하기 위해 T5 토크나이저를 로드하는 것입니다:

>>> from transformers import AutoTokenizer

>>> checkpoint = "google-t5/t5-small"
>>> tokenizer = AutoTokenizer.from_pretrained(checkpoint)

만들려는 전처리 함수는 다음을 수행해야 합니다:

  1. 입력 앞에 프롬프트를 붙여 T5가 이것이 번역 작업임을 알 수 있도록 하세요. 여러 NLP 작업을 수행할 수 있는 일부 모델은 특정 작업을 위해 프롬프팅이 필요합니다.
  2. 토크나이저가 대상 텍스트를 올바르게 처리하도록 text_target 매개변수에 대상 언어(프랑스어)를 설정하세요. text_target을 설정하지 않으면 토크나이저는 대상 텍스트를 영어로 처리합니다.
  3. max_length 파라미터로 설정된 최대 길이를 초과하지 않도록 시퀀스를 잘라냅니다.
>>> source_lang = "en"
>>> target_lang = "fr"
>>> prefix = "translate English to French: "


>>> def preprocess_function(examples):
...     inputs = [prefix + example[source_lang] for example in examples["translation"]]
...     targets = [example[target_lang] for example in examples["translation"]]
...     model_inputs = tokenizer(inputs, text_target=targets, max_length=128, truncation=True)
...     return model_inputs

전체 데이터셋에 전처리 함수를 적용하려면 🤗 Datasets의 map 메서드를 사용합니다. batched=True를 설정하여 데이터셋의 여러 요소를 한 번에 처리하면 map 함수의 속도를 높일 수 있습니다:

>>> tokenized_books = books.map(preprocess_function, batched=True)

이제 DataCollatorForSeq2Seq를 사용하여 예시 배치(batch)를 생성합니다. 데이터셋 전체를 최대 길이에 맞게 패딩하는 대신, collation 단계에서 배치 내 가장 긴 길이에 맞춰 문장을 동적으로 패딩하는 것이 더 효율적입니다.

>>> from transformers import DataCollatorForSeq2Seq

>>> data_collator = DataCollatorForSeq2Seq(tokenizer=tokenizer, model=checkpoint)

평가

학습 중에 메트릭을 포함하는 것은 모델 성능을 평가하는 데 도움이 되는 경우가 많습니다. 🤗 Evaluate 라이브러리를 사용하면 평가 방법을 빠르게 로드할 수 있습니다. 이 작업에서는 SacreBLEU 메트릭을 로드합니다(메트릭을 로드하고 계산하는 방법에 대해 자세히 알아보려면 🤗 Evaluate quick tour를 참고하세요):

>>> import evaluate

>>> metric = evaluate.load("sacrebleu")

이후 예측값과 라벨을 compute에 전달하여 SacreBLEU 점수를 계산하는 함수를 만듭니다:

>>> import numpy as np


>>> def postprocess_text(preds, labels):
...     preds = [pred.strip() for pred in preds]
...     labels = [[label.strip()] for label in labels]

...     return preds, labels


>>> def compute_metrics(eval_preds):
...     preds, labels = eval_preds
...     if isinstance(preds, tuple):
...         preds = preds[0]
...     decoded_preds = tokenizer.batch_decode(preds, skip_special_tokens=True)

...     labels = np.where(labels != -100, labels, tokenizer.pad_token_id)
...     decoded_labels = tokenizer.batch_decode(labels, skip_special_tokens=True)

...     decoded_preds, decoded_labels = postprocess_text(decoded_preds, decoded_labels)

...     result = metric.compute(predictions=decoded_preds, references=decoded_labels)
...     result = {"bleu": result["score"]}

...     prediction_lens = [np.count_nonzero(pred != tokenizer.pad_token_id) for pred in preds]
...     result["gen_len"] = np.mean(prediction_lens)
...     result = {k: round(v, 4) for k, v in result.items()}
...     return result

compute_metrics 함수가 이제 준비되었습니다. 학습을 설정할 때 다시 이 함수를 다루게 됩니다.

학습

Trainer를 사용하여 모델을 fine-tuning하는 방법에 대해 잘 모르신다면, 여기의 기본 튜토리얼을 참고하세요!

이제 모델 학습을 시작할 준비가 되었습니다! AutoModelForSeq2SeqLM으로 T5를 로드하세요:

>>> from transformers import AutoModelForSeq2SeqLM, Seq2SeqTrainingArguments, Seq2SeqTrainer

>>> model = AutoModelForSeq2SeqLM.from_pretrained(checkpoint)

이 시점에서 남은 단계는 단 세 가지입니다:

  1. Seq2SeqTrainingArguments에서 학습 하이퍼파라미터를 정의합니다. 필수 파라미터는 모델 저장 위치를 지정하는 output_dir 하나뿐입니다. push_to_hub=True를 설정하여 모델을 Hub에 업로드할 수 있습니다(모델 업로드를 위해 Hugging Face에 로그인되어 있어야 합니다). 각 epoch가 끝나면 Trainer가 SacreBLEU 메트릭을 평가하고 학습 체크포인트를 저장합니다.
  2. 모델, 데이터셋, 토크나이저, 데이터 콜레이터, compute_metrics 함수와 함께 학습 인수를 Seq2SeqTrainer에 전달합니다.
  3. 모델을 파인튜닝하려면 train()을 호출하세요.
>>> training_args = Seq2SeqTrainingArguments(
...     output_dir="my_awesome_opus_books_model",
...     eval_strategy="epoch",
...     learning_rate=2e-5,
...     per_device_train_batch_size=16,
...     per_device_eval_batch_size=16,
...     weight_decay=0.01,
...     save_total_limit=3,
...     num_train_epochs=2,
...     predict_with_generate=True,
...     fp16=True, #change to bf16=True for XPU
...     push_to_hub=True,
... )

>>> trainer = Seq2SeqTrainer(
...     model=model,
...     args=training_args,
...     train_dataset=tokenized_books["train"],
...     eval_dataset=tokenized_books["test"],
...     processing_class=tokenizer,
...     data_collator=data_collator,
...     compute_metrics=compute_metrics,
... )

>>> trainer.train()

학습이 완료되면 push_to_hub() 메서드를 사용하여 모델을 Hub에 공유하여 누구나 모델을 사용할 수 있도록 하세요:

>>> trainer.push_to_hub()

번역 모델을 fine-tune하는 방법에 대한 더 자세한 예제는 해당 PyTorch notebook을 참고하세요.

추론

좋습니다. 이제 모델을 fine-tuning 했으므로 추론에 사용할 수 있습니다!

다른 언어로 번역하고 싶은 텍스트를 생각해 보세요. T5의 경우, 작업 유형에 따라 입력 앞에 접두사를 붙여야 합니다. 영어에서 프랑스어로 번역하는 경우, 아래에 표시된 대로 입력에 접두사를 붙여야 합니다:

>>> text = "translate English to French: Legumes share resources with nitrogen-fixing bacteria."

텍스트를 토큰화하고 input_ids를 PyTorch 텐서로 반환합니다:

>>> from transformers import AutoTokenizer

>>> tokenizer = AutoTokenizer.from_pretrained("username/my_awesome_opus_books_model")
>>> inputs = tokenizer(text, return_tensors="pt").input_ids

generate() 메서드를 사용하여 번역을 생성합니다. 다양한 텍스트 생성 전략 및 생성을 제어하는 매개변수에 대한 자세한 내용은 Text Generation API를 참고하세요.

>>> from transformers import AutoModelForSeq2SeqLM

>>> model = AutoModelForSeq2SeqLM.from_pretrained("username/my_awesome_opus_books_model")
>>> outputs = model.generate(inputs, max_new_tokens=40, do_sample=True, top_k=30, top_p=0.95)

생성된 토큰 id를 다시 텍스트로 디코딩합니다:

>>> tokenizer.decode(outputs[0], skip_special_tokens=True)
'Les lignées partagent des ressources avec des bactéries enfixant l'azote.'
Update on GitHub