metadata

license: apache-2.0
base_model: huggingface-course/mt5-finetuned-amazon-en-es
tags:
  - generated_from_trainer
metrics:
  - rouge
model-index:
  - name: my_fine_tuned_t5_small_model
    results: []
datasets:
  - TrongNghiaCS/vietnews_clean
language:
  - vi
pipeline_tag: summarization
widget:
  - text: >-
      Phương án chuyển một số quỹ nhà tái định cư chưa sử dụng thành nhà ở xã
      hội từng được cơ quan chức năng tính đến nhưng vẫn gặp nhiều khó khăn khi
      triển khai. Tham gia tư vấn một trường hợp cụ thể, tôi mới cảm nhận rõ đây
      thực sự là bài toán khó từ nhiều khía cạnh: điều chỉnh thủ tục pháp lý,
      thiết kế và cả trở ngại từ phía địa phương.Thủ tục pháp lý là nút thắt đầu
      tiên khi chuyển đổi công năng nhà tái định cư bỏ hoang sang nhà ở xã hội.
      Xuất phát điểm của hai loại dự án này khác nhau nên thủ tục pháp lý, tiêu
      chuẩn thiết kế cũng khác biệt. Khi chuyển đổi công năng, cơ quan chức năng
      phải điều chỉnh lại gần như toàn bộ thủ tục pháp lý dự án.
    example_title: Example 1
  - text: >-
      Trẻ cuối cấp sẽ ráo riết ôn thi. Con gái người bạn tôi - được mẹ định
      hướng thi vào trường THPT hàng đầu ở thủ đô - đã bắt đầu từ tuần này lịch
      học sáu buổi mỗi tuần. Có hôm, cháu học cả ngày, trưa chỉ kịp ghé hàng
      quán, hoặc ăn vội bát mỳ ở nhà. Các buổi tối, cháu sẽ tập trung ôn lại
      kiến thức trong lớp học thêm. Bạn tôi nói, nếu không vào guồng như vậy,
      cháu sẽ không cạnh tranh nổi với tỷ lệ chọi mười em lấy một.Học sinh không
      thuộc các lớp cuối cấp cũng học hè để biết trước kiến thức mới, mà theo
      nhiều phụ huynh, là nhằm tạo đà, giúp con chạy nhanh hơn các bạn khi vào
      năm học chính thức. Số trẻ còn lại, không nhất thiết lao theo cuộc đua
      kiến thức và thành tích, thì cần một chỗ để ký gửi vì không có ai trông
      trong những ngày hè.
    example_title: Example 2
  - text: >-
      Vài tuần trước khi cháu thi vào lớp 10 - kỳ thi khốc liệt nhất trong cuộc
      đời đa số bạn trẻ ở Hà Nội, mẹ con lại nói chuyện. Tôi nói, 10 năm trước
      mắt có thể là 10 năm quan trọng nhất cuộc đời con. Vào trường nào, đại học
      ngành gì, công việc đầu tiên ở đâu, và rất có thể là mối tình thứ nhất,
      rồi kết hôn và sinh con. Tất cả đều có thể diễn ra trong khoảng thời gian
      15 đến 25 tuổi. Và những quyết định trong thời gian này, nhất là quyết
      định về nghề nghiệp, gần như sẽ ảnh hưởng tới toàn bộ quãng đời còn lại.
    example_title: Example 3
  - text: >-
      Giữa năm ngoái, Bộ Lao động, Thương binh và Xã hội ra hướng dẫn: lao động
      bị nợ bảo hiểm xã hội sẽ được giải quyết theo hướng đóng đến đâu hưởng đến
      đó, tức thời gian nợ được khoanh lại. Người lao động có thể tham gia bảo
      hiểm xã hội theo hình thức tự nguyện cho các tháng còn thiếu để được nhận
      lương hưu. Tuy nhiên, không phải ai cũng chấp nhận cách này. Vì số tiền
      một cục bỏ ra để đóng là khá lớn, trong khi lương hưu hàng tháng nhận được
      có thể chỉ hơn một triệu đồng, do không được nâng lên bằng lương cơ sở
      (1,8 triệu đồng) như người có cả quá trình tham gia bắt buộc. Hội bạn già
      của cô còn nói gở: đóng xong, xui rủi ra đường xe tông hoặc ốm đau, trời
      gọi sớm, thì coi như lỗ. Tuổi già lắm bệnh như chuối chín cây.
    example_title: Example 4

my_fine_tuned_t5_small_model

This model is a fine-tuned version of huggingface-course/mt5-finetuned-amazon-en-es on the None dataset. It achieves the following results on the evaluation set:

Loss: 2.1069
Rouge1: 26.742
Rouge2: 7.9622
Rougel: 20.4423
Rougelsum: 20.7426

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 0.001
train_batch_size: 8
eval_batch_size: 8
seed: 42
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
lr_scheduler_warmup_steps: 3000
num_epochs: 10

Training results

Training Loss	Epoch	Step	Validation Loss	Rouge1	Rouge2	Rougel	Rougelsum
4.428	1.0	13	2.8216	19.1382	5.389	15.1855	15.1893
4.299	2.0	26	2.6894	19.6236	5.4931	15.4001	15.5122
4.0999	3.0	39	2.5552	22.2435	6.6021	17.2465	17.4679
3.8541	4.0	52	2.4394	23.3478	7.1578	18.4112	18.6265
3.6964	5.0	65	2.3568	25.092	7.4595	19.3078	19.5198
3.5481	6.0	78	2.3018	26.0743	8.0058	19.9644	20.2044
3.2977	7.0	91	2.2207	26.8852	7.9185	20.5406	20.7554
3.2768	8.0	104	2.1832	26.3885	7.9643	20.3863	20.6338
3.2047	9.0	117	2.1403	26.598	7.883	20.3585	20.4868
3.0813	10.0	130	2.1069	26.742	7.9622	20.4423	20.7426

Framework versions

Transformers 4.41.2
Pytorch 2.3.1+cu121
Datasets 2.19.2
Tokenizers 0.19.1