SentenceTransformer

This is a sentence-transformers model trained. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.

Model Details

Model Description

Model Type: Sentence Transformer
Maximum Sequence Length: 1024 tokens
Output Dimensionality: 768 tokens
Similarity Function: Cosine Similarity

Model Sources

Documentation: Sentence Transformers Documentation
Repository: Sentence Transformers on GitHub
Hugging Face: Sentence Transformers on Hugging Face

Full Model Architecture

SentenceTransformer(
  (0): Transformer({'max_seq_length': 1024, 'do_lower_case': False}) with Transformer model: NewModel 
  (1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': False, 'pooling_mode_mean_tokens': True, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
)

Usage

Direct Usage (Sentence Transformers)

First install the Sentence Transformers library:

pip install -U sentence-transformers

Then you can load this model and run inference.

from sentence_transformers import SentenceTransformer

# Download from the 🤗 Hub
model = SentenceTransformer("Turbo-AI/gte-base-v1__trim_vocab-1024")
# Run inference
sentences = [
    'Khi công chức chuyển đổi vị trí công tác thì cơ quan nào có trách nhiệm chuyển giao quyền truy cập tài khoản hồ sơ điện tử của công chức?',
    'Chuyển, tiếp nhận hồ sơ điện tử\n1. Trường hợp công chức, viên chức được bổ nhiệm, điều động, luân chuyển, chuyển đổi công tác đến cơ quan, đơn vị khác thuộc Bộ mà dẫn tới việc thay đổi về thẩm quyền quản lý hồ sơ công chức, viên chức thì cùng với việc chuyển giao hồ sơ giấy theo quy định tại khoản 2 Điều 15 Quy chế này, cơ quan đang quản lý hồ sơ công chức, viên chức có văn bản gửi Cục Công nghệ thông tin đề nghị chuyển giao quyền truy cập tài khoản hồ sơ điện tử của công chức, viên chức sang cơ quan, đơn vị mới có thẩm quyền quản lý.\n2. Trường hợp tiếp nhận công chức, viên chức từ cơ quan ngoài Bộ Tư pháp thì trong thời hạn 15 ngày kể từ ngày nhận chuyển giao hồ sơ giấy, cơ quan quản lý hồ sơ công chức, viên chức có trách nhiệm lập hồ sơ điện tử của công chức, viên chức, phê duyệt, lưu trữ trên Phần mềm quản lý hồ sơ.\n3. Trường hợp công chức, viên chức được biệt phái; thuyên chuyển đến cơ quan, đơn vị khác của nhà nước; nghỉ hưu; chuyển công tác ra khỏi cơ quan, đơn vị của nhà nước; thôi việc; bị kỷ luật buộc thôi việc; chết thì hồ sơ điện tử của công chức, viên chức đó vẫn được lưu trữ trên Phần mềm quản lý hồ sơ.',
    'Thẩm quyền và trách nhiệm của cơ quan quản lý hồ sơ công chức\n1. Chấp hành sự chỉ đạo, kiểm tra và hướng dẫn nghiệp vụ về công tác hồ sơ, hồ sơ điện tử công chức của cơ quan cấp trên, đồng thời hướng dẫn kiểm tra, đôn đốc các cơ quan, tổ chức, đơn vị trực thuộc về công tác quản lý hồ sơ công chức.\n2. Tổ chức thực hiện các quy định về bổ sung, chuyển giao, tiếp nhận, nghiên cứu, sử dụng, khai thác, lưu trữ, bảo quản hồ sơ công chức theo quy định của Thông tư này.\n3. Giao nộp đầy đủ, kịp thời cho cơ quan, tổ chức, đơn vị quản lý công chức những tài liệu liên quan đến hồ sơ công chức hiện đang công tác ở đơn vị mình.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]

# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]

Evaluation

Metrics

Information Retrieval

Evaluated with InformationRetrievalEvaluator

Metric	Value
cosine_accuracy@10	0.9819
cosine_precision@10	0.1068
cosine_recall@10	0.9772
cosine_ndcg@10	0.8596
cosine_mrr@10	0.8287
cosine_map@10	0.816
dot_accuracy@10	0.9718
dot_precision@10	0.1058
dot_recall@10	0.9668
dot_ndcg@10	0.8039
dot_mrr@10	0.7592
dot_map@10	0.7455

Training Details

Training Dataset

Unnamed Dataset

Size: 131,843 training samples
Columns: anchor, positive, negative_0, negative_1, and negative_2

Approximate statistics based on the first 1000 samples:

	anchor	positive	negative_0	negative_1	negative_2
type	string	string	string	string	string
details	min: 7 tokens mean: 24.45 tokens max: 48 tokens	min: 19 tokens mean: 300.08 tokens max: 1024 tokens	min: 12 tokens mean: 331.9 tokens max: 1024 tokens	min: 24 tokens mean: 337.39 tokens max: 1024 tokens	min: 22 tokens mean: 330.35 tokens max: 1024 tokens

Samples:

anchor	positive	negative_0	negative_1	negative_2
`Người học ngành quản lý khai thác công trình thủy lợi trình độ cao đẳng phải có khả năng học tập và nâng cao trình độ như thế nào?`	Khả năng học tập, nâng cao trình độ - Khối lượng khối lượng kiến thức tối thiểu, yêu cầu về năng lực mà người học phải đạt được sau khi tốt nghiệp ngành, nghề Mộc xây dựng và trang trí nội thất, trình độ cao đẳng có thể tiếp tục phát triển ở các trình độ cao hơn; - Người học sau tốt nghiệp có năng lực tự học, tự cập nhật những tiến bộ khoa học công nghệ trong phạm vi ngành, nghề để nâng cao trình độ hoặc học liên thông lên trình độ cao hơn trong cùng ngành, nghề hoặc trong nhóm ngành, nghề hoặc trong cùng lĩnh vực đào tạo./. Người học ngành mộc xây dựng và trang trí nội thất trình độ cao đẳng phải có khả năng học tập, nâng cao trình độ như thế sau: - Khối lượng khối lượng kiến thức tối thiểu, yêu cầu về năng lực mà người học phải đạt được sau khi tốt nghiệp ngành, nghề Mộc xây dựng và trang trí nội thất, trình độ cao đẳng có thể tiếp tục phát triển ở các trình độ cao hơn; - Người học sau tốt nghiệp có năng lực tự học, tự cập nhật những tiến bộ khoa học công nghệ trong phạm vi ngành, nghề để nâng cao trình độ hoặc học liên thông lên trình độ cao hơn trong cùng ngành, nghề hoặc trong nhóm ngành, nghề hoặc trong cùng lĩnh vực đào tạo.	Khả năng học tập, nâng cao trình độ - Khối lượng kiến thức tối thiểu, yêu cầu về năng lực mà người học phải đạt được sau khi tốt nghiệp ngành, nghề Quản trị dịch vụ giải trí, thể thao trình độ trung cấp có thể tiếp tục phát triển ở các trình độ cao hơn; - Người học sau tốt nghiệp có năng lực tự học, tự cập nhật những tiến bộ khoa học công nghệ trong phạm vi ngành, nghề để nâng cao trình độ hoặc học liên thông lên trình độ cao hơn trong cùng ngành nghề hoặc trong nhóm ngành nghề hoặc trong cùng lĩnh vực đào tạo.	Đào tạo về quản lý, khai thác công trình thủy lợi 1. Các cơ sở đào tạo có chức năng, nhiệm vụ, năng lực phù hợp được tổ chức các khóa đào tạo, đào tạo lại, bồi dưỡng nâng cao năng lực, nghiệp vụ cho các đối tượng làm công tác quản lý, khai thác công trình thủy lợi, quản lý đập. 2. Bộ Nông nghiệp và Phát triển nông thôn xây dựng, ban hành chương trình, kế hoạch đào tạo, bồi dưỡng cho các đối tượng làm công tác quản lý, khai thác công trình thủy lợi, quản lý đập làm cơ sở để các cơ sở đào tạo và địa phương tổ chức triển khai thực hiện.	Điều 12. Trách nhiệm tuân thủ yêu cầu năng lực trong khai thác công trình thủy lợi 1. Tổ chức, cá nhân tham gia khai thác công trình thủy lợi phải có năng lực phù hợp với quy mô, yêu cầu kỹ thuật của công trình theo quy định của Nghị định này; chịu trách nhiệm trước pháp luật về những hậu quả, thiệt hại do việc không bảo đảm các yêu cầu về năng lực gây ra. 2. Định kỳ 05 năm, cá nhân trực tiếp làm nhiệm vụ quản lý, vận hành công trình thủy lợi, quản lý vận hành đập, hồ chứa nước phải tham gia lớp đào tạo, bồi dưỡng nghiệp vụ nâng cao năng lực quản lý, vận hành công trình thủy lợi, quản lý, vận hành đập, hồ chứa nước. 3. Đối với các tổ chức được giao khai thác nhiều loại hình công trình đầu mối, số lượng cán bộ, công nhân khai thác công trình thủy lợi theo yêu cầu quy định về đảm bảo năng lực phải tăng lên tương ứng. 4. Ngoài việc đáp ứng yêu cầu năng lực quy định tại Nghị định này, tổ chức, cá nhân khai thác công trình thủy lợi có sản xuất, kinh doanh hoạt động khác phải bảo đảm yêu cầu năng lực đối với ngành nghề kinh doanh đó theo quy định của pháp luật có liên quan. 5. Cơ quan chuyên môn quản lý nhà nước về thủy lợi kiểm tra, giám sát việc thực hiện quy định về năng lực đối với các tổ chức, cá nhân khai thác công trình thủy lợi quy định tại Nghị định này.
`Nội dung lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật được quy định thế nào?`	Nội dung lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật Trong phạm vi điều chỉnh của văn bản quy phạm pháp luật: 1. Xác định nội dung liên quan đến vấn đề bình đẳng giới hoặc vấn đề bất bình đẳng giới, phân biệt đối xử về giới. 2. Quy định các biện pháp cần thiết để thực hiện bình đẳng giới hoặc để giải quyết vấn đề bất bình đẳng giới, phân biệt đối xử về giới; dự báo tác động của các quy định đó đối với nam và nữ sau khi được ban hành. 3. Xác định nguồn nhân lực, tài chính cần thiết để triển khai các biện pháp thực hiện bình đẳng giới hoặc để giải quyết vấn đề bất bình đẳng giới, phân biệt đối xử về giới.	"Điều 21. Lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật 1. Lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật bao gồm: a) Xác định vấn đề giới và các biện pháp giải quyết trong lĩnh vực mà văn bản quy phạm pháp luật điều chỉnh; b) Dự báo tác động của các quy định trong văn bản quy phạm pháp luật khi được ban hành đối với nữ và nam; c) Xác định trách nhiệm và nguồn lực để giải quyết các vấn đề giới trong phạm vi văn bản quy phạm pháp luật điều chỉnh. 2. Cơ quan chủ trì soạn thảo văn bản quy phạm pháp luật có trách nhiệm lồng ghép vấn đề bình đẳng giới, chuẩn bị báo cáo việc lồng ghép vấn đề bình đẳng giới vào quá trình xây dựng văn bản quy phạm pháp luật theo các nội dung quy định tại khoản 1 Điều này và phụ lục thông tin, số liệu về giới có liên quan đến dự án, dự thảo văn bản quy phạm pháp luật. 3. Cơ quan thẩm định văn bản quy phạm pháp luật có trách nhiệm phối hợp với cơ quan quản lý nhà nước về bình đẳng giới đánh giá việc lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật. Nội dung đánh giá bao gồm: a) Xác định vấn đề giới trong dự án, dự thảo; b) Việc bảo đảm các nguyên tắc cơ bản về bình đẳng giới trong dự án, dự thảo; c) Tính khả thi của việc giải quyết vấn đề giới được điều chỉnh trong dự án, dự thảo; d) Việc thực hiện lồng ghép vấn đề bình đẳng giới trong xây dựng dự án, dự thảo theo các nội dung quy định tại khoản 1 Điều này. 4. Chính phủ quy định việc thực hiện lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật."	Yêu cầu và phạm vi lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật 1. Bảo đảm các nguyên tắc cơ bản về bình đẳng giới trong nội dung, trình tự, thủ tục soạn thảo, ban hành, rà soát, hệ thống hóa văn bản quy phạm pháp luật theo quy định của Luật Ban hành văn bản quy phạm pháp luật và Luật Ban hành văn bản quy phạm pháp luật của Hội đồng nhân dân, Ủy ban nhân dân. 2. Lồng ghép vấn đề bình đẳng giới được áp dụng đối với các dự thảo văn bản quy phạm pháp luật được xác định có nội dung liên quan đến bình đẳng giới hoặc có vấn đề bất bình đẳng giới, phân biệt đối xử về giới trong phạm vi điều chỉnh của văn bản.	Nguyên tắc lồng ghép vấn đề bình đẳng giới trong xây dựng văn bản quy phạm pháp luật 1. Lồng ghép vấn đề bình đẳng giới được thực hiện trong toàn bộ quy trình xây dựng văn bản quy phạm pháp luật. 2. Bảo đảm không làm phát sinh bất bình đẳng giới, bảo đảm quyền của mỗi giới trong nội dung, trình tự, thủ tục soạn thảo, ban hành văn bản theo quy định. 3. Bảo đảm sự tham gia của cơ quan lao động, thương binh và xã hội, Hội liên hiệp phụ nữ Việt Nam. Huy động sự tham gia của Mặt trận Tổ quốc Việt Nam và các tổ chức thành viên, các tổ chức, cá nhân có liên quan theo quy định của pháp luật.
`Sản phẩm phần mềm có được hưởng ưu đãi về thời gian miễn thuế, giảm thuế hay không? Nếu được thì trong vòng bao nhiêu năm?`	`"Điều 20. Ưu đãi về thời gian miễn thuế, giảm thuế 1. Miễn thuế bốn năm, giảm 50% số thuế phải nộp trong chín năm tiếp theo đối với: a) Thu nhập của doanh nghiệp từ thực hiện dự án đầu tư quy định tại khoản 1 Điều 19 Thông tư số 78/2014/TT-BTC (được sửa đổi, bổ sung tại Khoản 1 Điều 11 Thông tư này)."`	Mục I. ƯU ĐÃI THUẾ THU NHẬP DOANH NGHIỆP 1. Doanh nghiệp phần mềm mới thành lập được hưởng thuế suất thuế thu nhập doanh nghiệp 10% trong 15 năm, kể từ khi doanh nghiệp phần mềm mới thành lập bắt đầu hoạt động kinh doanh. 2. Doanh nghiệp phần mềm mới thành lập được miễn thuế thu nhập doanh nghiệp 04 năm, kể từ khi có thu nhập chịu thuế và được giảm 50% số thuế phải nộp trong 09 năm tiếp theo. 3. Doanh nghiệp phần mềm đã được cấp Giấy phép đầu tư hoặc Giấy chứng nhận ưu đãi đầu tư thì tiếp tục được hưởng ưu đãi về thuế thu nhập doanh nghiệp đã ghi trong Giấy phép đầu tư hoặc Giấy chứng nhận ưu đãi đầu tư. Trường hợp mức ưu đãi về thuế thu nhập doanh nghiệp (bao gồm cả thuế suất ưu đãi và thời gian miễn thuế, giảm thuế) ghi trong Giấy phép đầu tư, Giấy chứng nhận ưu đãi đầu tư thấp hơn mức ưu đãi theo hướng dẫn tại điểm 1 và 2, Mục I, Phần B, Thông tư này thì doanh nghiệp phần mềm có quyền lựa chọn hưởng các ưu đãi về thuế thu nhập doanh nghiệp theo hướng dẫn tại điểm 1 và 2, Mục I, Phần B, Thông tư này cho thời gian ưu đãi còn lại. 4. Đối với doanh nghiệp phần mềm có sản xuất kinh doanh hàng hoá, dịch vụ khác như: sản xuất lắp ráp máy vi tính, thiết bị điện tử, kinh doanh máy móc thiết bị..., doanh nghiệp phải tổ chức hạch toán riêng doanh thu, chi phí và thu nhập của hoạt động sản xuất sản phẩm và dịch vụ phần mềm để xác định số thuế thu nhập doanh nghiệp được hưởng ưu đãi thuế thu nhập doanh nghiệp. Trường hợp doanh nghiệp không hạch toán riêng được thì thu nhập từ hoạt động sản xuất sản phẩm và dịch vụ phần mềm được xác định theo tỷ lệ giữa doanh thu hoạt động sản xuất sản phẩm và dịch vụ phần mềm so với tổng doanh thu của doanh nghiệp.	Ưu tiên phát triển công nghiệp phần mềm, công nghiệp nội dung 1. Nhà nước áp dụng mức ưu đãi cao nhất cho các tổ chức, cá nhân tham gia hoạt động công nghiệp phần mềm, công nghiệp nội dung theo quy định của pháp luật, bao gồm: a) Các tổ chức, cá nhân đầu tư sản xuất, kinh doanh phần mềm; sản xuất sản phẩm nội dung thông tin số được hưởng chế độ ưu đãi về thuế theo quy định của pháp luật thuế và ưu đãi trong việc sử dụng đất; b) Các sản phẩm phần mềm và nội dung thông tin số được sản xuất tại Việt Nam và các dịch vụ phần mềm do các tổ chức, doanh nghiệp thuộc mọi thành phần kinh tế hoạt động tại Việt Nam cung cấp được áp dụng mức ưu đãi cao nhất về thuế giá trị gia tăng và thuế xuất khẩu. 2. Trong trường hợp tổ chức, doanh nghiệp ngoài việc tham gia hoạt động công nghiệp phần mềm, công nghiệp nội đung còn tham gia nhiều loại hình hoạt động khác thì chỉ được hưởng các chính sách ưu đãi quy định tại Điều này đối với các hoạt động sản xuất, cung cấp sản phẩm, dịch vụ phần mềm; sản xuất sản phẩm nội dung thông tin số.	1. Miễn thuế bốn năm, giảm 50% số thuế phải nộp trong chín năm tiếp theo đối với: a) Thu nhập của doanh nghiệp từ thực hiện dự án đầu tư quy định tại khoản 1 Điều 19 Thông tư số 78/2014/TT-BTC (được sửa đổi, bổ sung tại Khoản 1 Điều 11 Thông tư này) b) Thu nhập của doanh nghiệp từ thực hiện dự án đầu tư mới trong lĩnh vực xã hội hóa thực hiện tại địa bàn có điều kiện kinh tế - xã hội khó khăn hoặc đặc biệt khó khăn quy định tại Phụ lục ban hành kèm theo Nghị định số 218/2013/NĐ-CP . 2. Miễn thuế bốn năm, giảm 50% số thuế phải nộp trong năm năm tiếp theo đối với thu nhập của doanh nghiệp từ thực hiện dự án đầu tư mới trong lĩnh vực xã hội hóa thực hiện tại địa bàn không thuộc danh mục địa bàn có điều kiện kinh tế - xã hội khó khăn hoặc đặc biệt khó khăn quy định tại Phụ lục ban hành kèm theo Nghị định số 218/2013/NĐ-CP của Chính phủ. ... 4. Thời gian miễn thuế, giảm thuế quy định tại Điều này được tính liên tục từ năm đầu tiên doanh nghiệp có thu nhập chịu thuế từ dự án đầu tư mới được hưởng ưu đãi thuế. Trường hợp doanh nghiệp không có thu nhập chịu thuế trong ba năm đầu, kể từ năm đầu tiên có doanh thu từ dự án đầu tư mới thì thời gian miễn thuế, giảm thuế được tính từ năm thứ tư dự án đầu tư mới phát sinh doanh thu. Ví dụ: Năm 2014, doanh nghiệp A có dự án đầu tư mới sản xuất sản phẩm phần mềm, nếu năm 2014 doanh nghiệp A đã có thu nhập chịu thuế từ dự án sản xuất sản phẩm phần mềm thì thời gian miễn giảm thuế được tính liên tục kể từ năm 2014. Trường hợp dự án đầu tư mới sản xuất sản phẩm phần mềm của doanh nghiệp A phát sinh doanh thu từ năm 2014, đến năm 2016 dự án đầu tư mới của doanh nghiệp A vẫn chưa có thu nhập chịu thuế thì thời gian miễn giảm thuế được tính liên tục kể từ năm 2017. Thời gian miễn thuế, giảm thuế đối với doanh nghiệp công nghệ cao, doanh nghiệp nông nghiệp ứng dụng công nghệ cao theo quy định nêu trên được tính từ năm được cấp Giấy chứng nhận công nhận là doanh nghiệp công nghệ cao, doanh nghiệp nông nghiệp ứng dụng công nghệ cao"

Loss: CachedMultipleNegativesRankingLoss with these parameters:

{
    "scale": 20.0,
    "similarity_fct": "cos_sim"
}

Training Hyperparameters

Non-Default Hyperparameters

eval_strategy: steps
per_device_train_batch_size: 128
per_device_eval_batch_size: 128
num_train_epochs: 10
warmup_ratio: 0.05
bf16: True
load_best_model_at_end: True
batch_sampler: no_duplicates

All Hyperparameters

Click to expand

overwrite_output_dir: False
do_predict: False
eval_strategy: steps
prediction_loss_only: True
per_device_train_batch_size: 128
per_device_eval_batch_size: 128
per_gpu_train_batch_size: None
per_gpu_eval_batch_size: None
gradient_accumulation_steps: 1
eval_accumulation_steps: None
torch_empty_cache_steps: None
learning_rate: 5e-05
weight_decay: 0.0
adam_beta1: 0.9
adam_beta2: 0.999
adam_epsilon: 1e-08
max_grad_norm: 1.0
num_train_epochs: 10
max_steps: -1
lr_scheduler_type: linear
lr_scheduler_kwargs: {}
warmup_ratio: 0.05
warmup_steps: 0
log_level: passive
log_level_replica: warning
log_on_each_node: True
logging_nan_inf_filter: True
save_safetensors: True
save_on_each_node: False
save_only_model: False
restore_callback_states_from_checkpoint: False
no_cuda: False
use_cpu: False
use_mps_device: False
seed: 42
data_seed: None
jit_mode_eval: False
use_ipex: False
bf16: True
fp16: False
fp16_opt_level: O1
half_precision_backend: auto
bf16_full_eval: False
fp16_full_eval: False
tf32: None
local_rank: 0
ddp_backend: None
tpu_num_cores: None
tpu_metrics_debug: False
debug: []
dataloader_drop_last: False
dataloader_num_workers: 0
dataloader_prefetch_factor: None
past_index: -1
disable_tqdm: False
remove_unused_columns: True
label_names: None
load_best_model_at_end: True
ignore_data_skip: False
fsdp: []
fsdp_min_num_params: 0
fsdp_config: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
fsdp_transformer_layer_cls_to_wrap: None
accelerator_config: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
deepspeed: None
label_smoothing_factor: 0.0
optim: adamw_torch
optim_args: None
adafactor: False
group_by_length: False
length_column_name: length
ddp_find_unused_parameters: None
ddp_bucket_cap_mb: None
ddp_broadcast_buffers: False
dataloader_pin_memory: True
dataloader_persistent_workers: False
skip_memory_metrics: True
use_legacy_prediction_loop: False
push_to_hub: False
resume_from_checkpoint: None
hub_model_id: None
hub_strategy: every_save
hub_private_repo: False
hub_always_push: False
gradient_checkpointing: False
gradient_checkpointing_kwargs: None
include_inputs_for_metrics: False
eval_do_concat_batches: True
fp16_backend: auto
push_to_hub_model_id: None
push_to_hub_organization: None
mp_parameters:
auto_find_batch_size: False
full_determinism: False
torchdynamo: None
ray_scope: last
ddp_timeout: 1800
torch_compile: False
torch_compile_backend: None
torch_compile_mode: None
dispatch_batches: None
split_batches: None
include_tokens_per_second: False
include_num_input_tokens_seen: False
neftune_noise_alpha: None
optim_target_modules: None
batch_eval_metrics: False
eval_on_start: False
use_liger_kernel: False
eval_use_gather_object: False
batch_sampler: no_duplicates
multi_dataset_batch_sampler: proportional

Training Logs