README.md

metadata

license: mit
language:
  - ko
  - en
pipeline_tag: text-classification

Korean Reranker Training on Amazon SageMaker

한국어 Reranker 개발을 위한 파인튜닝 가이드를 제시합니다.

ko-reranker는 BAAI/bge-reranker-larger 기반 한국어 데이터에 대한 fine-tuned model 입니다.
보다 자세한 사항은 korean-reranker-git을 참고하세요

---

0. Features

• Reranker는 임베딩 모델과 달리 질문과 문서를 입력으로 사용하며 임베딩 대신 유사도를 직접 출력합니다.

• Reranker에 질문과 구절을 입력하면 연관성 점수를 얻을 수 있습니다.

• Reranker는 CrossEntropy loss를 기반으로 최적화되므로 관련성 점수가 특정 범위에 국한되지 않습니다.

1.Usage

• using Transformers

    def exp_normalize(x):
      b = x.max()
      y = np.exp(x - b)
      return y / y.sum()
    
    from transformers import AutoModelForSequenceClassification, AutoTokenizer

    tokenizer = AutoTokenizer.from_pretrained(model_path)
    model = AutoModelForSequenceClassification.from_pretrained(model_path)
    model.eval()

    pairs = [["나는 너를 싫어해", "나는 너를 사랑해"], \
             ["나는 너를 좋아해", "너에 대한 나의 감정은 사랑 일 수도 있어"]]

    with torch.no_grad():
        inputs = tokenizer(pairs, padding=True, truncation=True, return_tensors='pt', max_length=512)
        scores = model(**inputs, return_dict=True).logits.view(-1, ).float()
        scores = exp_normalize(scores.numpy())
        print (f'first: {scores[0]}, second: {scores[1]}')

• using SageMaker

import sagemaker
import boto3
from sagemaker.huggingface import HuggingFaceModel

try:
    role = sagemaker.get_execution_role()
except ValueError:
    iam = boto3.client('iam')
    role = iam.get_role(RoleName='sagemaker_execution_role')['Role']['Arn']

# Hub Model configuration. https://huggingface.co./models
hub = {
    'HF_MODEL_ID':'Dongjin-kr/ko-reranker',
    'HF_TASK':'text-classification'
}

# create Hugging Face Model Class
huggingface_model = HuggingFaceModel(
    transformers_version='4.28.1',
    pytorch_version='2.0.0',
    py_version='py310',
    env=hub,
    role=role, 
)

# deploy model to SageMaker Inference
predictor = huggingface_model.deploy(
    initial_instance_count=1, # number of instances
    instance_type='ml.g5.large' # ec2 instance type
)

runtime_client = boto3.Session().client('sagemaker-runtime')
payload = json.dumps(
    {
        "inputs": [
            {"text": "나는 너를 싫어해", "text_pair": "나는 너를 사랑해"},
            {"text": "나는 너를 좋아해", "text_pair": "너에 대한 나의 감정은 사랑 일 수도 있어"}
        ]
    }
)

response = runtime_client.invoke_endpoint(
    EndpointName="<endpoint-name>",
    ContentType="application/json",
    Accept="application/json",
    Body=payload
)

## deserialization
out = json.loads(response['Body'].read().decode()) ## for json
print (f'Response: {out}')

2. Backgound

• 컨택스트 순서가 정확도에 영향 준다(Lost in Middel, Liu et al., 2023)

• Reranker 사용해야 하는 이유

  • 현재 LLM은 context 많이 넣는다고 좋은거 아님, relevant한게 상위에 있어야 정답을 잘 말해준다
  • Semantic search에서 사용하는 similarity(relevant) score가 정교하지 않다. (즉, 상위 랭커면 하위 랭커보다 항상 더 질문에 유사한 정보가 맞아?)
    • Embedding은 meaning behind document를 가지는 것에 특화되어 있다.
    • 질문과 정답이 의미상 같은건 아니다. (Hypothetical Document Embeddings)
    • ANNs(Approximate Nearest Neighbors) 사용에 따른 패널티

---

3. Reranker models

• [Cohere] Reranker

• [BAAI] bge-reranker-large

• [BAAI] bge-reranker-base

---

4. Dataset

• msmarco-triplets

  • (Question, Answer, Negative)-Triplets from MS MARCO Passages dataset, 499,184 samples
  • 해당 데이터 셋은 영문으로 구성되어 있습니다.
  • Amazon Translate 기반으로 번역하여 활용하였습니다.

• Format

{"query": str, "pos": List[str], "neg": List[str]}

• Query는 질문이고, pos는 긍정 텍스트 목록, neg는 부정 텍스트 목록입니다. 쿼리에 대한 부정 텍스트가 없는 경우 전체 말뭉치에서 일부를 무작위로 추출하여 부정 텍스트로 사용할 수 있습니다.

• Example

{"query": "대한민국의 수도는?", "pos": ["미국의 수도는 워싱턴이고, 일본은 도쿄이며 한국은 서울이다."], "neg": ["미국의 수도는 워싱턴이고, 일본은 도쿄이며 북한은 평양이다."]}

---

5. Performance

Model	has-right-in-contexts	mrr (mean reciprocal rank)
without-reranker (default)	0.93	0.80
with-reranker (bge-reranker-large)	0.95	0.84
with-reranker (fine-tuned using korean)	0.96	0.87

• evaluation set:

./dataset/evaluation/eval_dataset.csv

• training parameters:

{
    "learning_rate": 5e-6,
    "fp16": True,
    "num_train_epochs": 3,
    "per_device_train_batch_size": 1,
    "gradient_accumulation_steps": 32,
    "train_group_size": 3,
    "max_len": 512,
    "weight_decay": 0.01,
}

---

6. Acknowledgement

• Part of the code is developed based on FlagEmbedding and KoSimCSE-SageMaker.

---

7. Citation

• If you find this repository useful, please consider giving a like ⭐ and citation

---

8. Contributors:

• Dongjin Jang, Ph.D. (AWS AI/ML Specislist Solutions Architect) | Mail | Linkedin | Git |

---

9. License

• FlagEmbedding is licensed under the MIT License.

10. Analytics

•