---
tags:
- sentence-transformers
- sentence-similarity
- feature-extraction
- generated_from_trainer
- dataset_size:10000
- loss:CosineSimilarityLoss
base_model: Alibaba-NLP/gte-multilingual-base
widget:
- source_sentence: چگونه ساختار خانواده بر توسعه اجتماعی تأثیر می‌گذارد؟
sentences:
- انتخاب‌های سبک زندگی مانند سیگار کشیدن، رژیم غذایی نامناسب و عدم فعالیت بدنی می‌توانند
به شرایط مختلف قلبی منجر شوند.
- ساختار خانواده می‌تواند به طور قابل توجهی بر توسعه اجتماعی کودک تأثیر بگذارد با
ارائه سطوح مختلف حمایت عاطفی، فرصت‌های اجتماعی و الگوهای رفتاری.
- صنعت فیلم به خاطر کمبود تنوع و نمایندگی مورد انتقاد قرار گرفته است.
- source_sentence: عوامل اصلی که بر تورم تأثیر می‌گذارند چیستند؟
sentences:
- تورم می‌تواند موضوع چالش‌برانگیزی برای سیاستگذاران باشد.
- اکوسیستم‌های بیابانی با بارش کم و دماهای بالا مشخص می‌شوند، که شرایط زندگی چالش‌برانگیزی
برای گیاهان و جانوران ایجاد می‌کند.
- امتیازهای Z در توزیع‌های نرمال استاندارد استفاده می‌شوند، در حالی که امتیازهای
t زمانی استفاده می‌شوند که اندازه نمونه کوچک باشد و انحراف معیار جمعیت نامشخص
باشد.
- source_sentence: آنتی‌بیوتیک‌ها چگونه در سطح سلولی کار می‌کنند؟
sentences:
- برخی از گیاهان گوشت‌خوار، مانند تله ونیس، دارای حرکات سریع برای به‌دام‌اندازی
طعمه‌های خود هستند.
- آنتی‌بیوتیک‌ها نوعی دارو هستند که می‌توانند توسط پزشکان برای درمان عفونت‌ها تجویز
شوند.
- نرخ تورم می‌تواند با استفاده از شاخص‌های مختلفی اندازه‌گیری شود، مانند شاخص قیمت
مصرف‌کننده (CPI) و شاخص قیمت تولیدکننده (PPI).
- source_sentence: چگونه سری کتاب‌های «هری پاتر» ج.ک. رولینگ بر ادبیات مدرن تأثیر
گذاشته است؟
sentences:
- جی.کی. رولینگ کتاب‌های دیگری تحت نام مستعار رابرت گالبریت نوشته است که رمان‌های
جنایی هستند.
- رنگ آکریلیک به طور معمول در هنر مدرن استفاده می‌شود، در حالی که رنگ روغن قرن‌هاست
که در هنر کلاسیک به کار می‌رود.
- ماهی‌های اعماق دریا دارای سازگاری‌هایی مانند بیولومینسانس، بدن‌های مقاوم به فشار
و مکانیزم‌های تغذیه خاص هستند تا در شرایط شدید sobrevivir کنند.
- source_sentence: تفاوت بین کشاورزی ارگانیک و کشاورزی سنتی چیست؟
sentences:
- در حالی که بازه‌های اطمینان مفید هستند، در صورت عدم رعایت فرضیات زیرین، ممکن است
به اشتباه تفسیر شوند.
- تاریخ حفظ آب به تمدن‌های باستانی برمی‌گردد که سیستم‌های آبیاری را توسعه دادند.
- بازارهای کشاورزان مکان‌های محبوبی برای خرید محصولات ارگانیک به طور مستقیم از کشاورزان
محلی هستند.
datasets:
- xmanii/maux-gte-10k-public
pipeline_tag: sentence-similarity
library_name: sentence-transformers
metrics:
- pearson_cosine
- spearman_cosine
model-index:
- name: SentenceTransformer based on Alibaba-NLP/gte-multilingual-base
results:
- task:
type: semantic-similarity
name: Semantic Similarity
dataset:
name: Unknown
type: unknown
metrics:
- type: pearson_cosine
value: 0.9487949766869277
name: Pearson Cosine
- type: spearman_cosine
value: 0.947885967258665
name: Spearman Cosine
---
# SentenceTransformer based on Alibaba-NLP/gte-multilingual-base
This is a [sentence-transformers](https://www.SBERT.net) model finetuned from [Alibaba-NLP/gte-multilingual-base](https://huggingface.co./Alibaba-NLP/gte-multilingual-base) on the [maux-gte-10k-public](https://huggingface.co./datasets/xmanii/maux-gte-10k-public) dataset. It maps sentences & paragraphs to a 768-dimensional dense vector space and can be used for semantic textual similarity, semantic search, paraphrase mining, text classification, clustering, and more.
## Model Details
### Model Description
- **Model Type:** Sentence Transformer
- **Base model:** [Alibaba-NLP/gte-multilingual-base](https://huggingface.co./Alibaba-NLP/gte-multilingual-base)
- **Maximum Sequence Length:** 8192 tokens
- **Output Dimensionality:** 768 dimensions
- **Similarity Function:** Cosine Similarity
- **Training Dataset:**
- [maux-gte-10k-public](https://huggingface.co./datasets/xmanii/maux-gte-10k-public)
### Model Sources
- **Documentation:** [Sentence Transformers Documentation](https://sbert.net)
- **Repository:** [Sentence Transformers on GitHub](https://github.com/UKPLab/sentence-transformers)
- **Hugging Face:** [Sentence Transformers on Hugging Face](https://huggingface.co./models?library=sentence-transformers)
### Full Model Architecture
```
SentenceTransformer(
(0): Transformer({'max_seq_length': 8192, 'do_lower_case': False}) with Transformer model: NewModel
(1): Pooling({'word_embedding_dimension': 768, 'pooling_mode_cls_token': True, 'pooling_mode_mean_tokens': False, 'pooling_mode_max_tokens': False, 'pooling_mode_mean_sqrt_len_tokens': False, 'pooling_mode_weightedmean_tokens': False, 'pooling_mode_lasttoken': False, 'include_prompt': True})
(2): Normalize()
)
```
## Usage
### Direct Usage (Sentence Transformers)
First install the Sentence Transformers library:
```bash
pip install -U sentence-transformers
```
Then you can load this model and run inference.
```python
from sentence_transformers import SentenceTransformer
# Download from the 🤗 Hub
model = SentenceTransformer("xmanii/maux-gte-persian-v2")
# Run inference
sentences = [
'تفاوت بین کشاورزی ارگانیک و کشاورزی سنتی چیست؟',
'بازارهای کشاورزان مکان\u200cهای محبوبی برای خرید محصولات ارگانیک به طور مستقیم از کشاورزان محلی هستند.',
'تاریخ حفظ آب به تمدن\u200cهای باستانی برمی\u200cگردد که سیستم\u200cهای آبیاری را توسعه دادند.',
]
embeddings = model.encode(sentences)
print(embeddings.shape)
# [3, 768]
# Get the similarity scores for the embeddings
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [3, 3]
```
## Evaluation
### Metrics
#### Semantic Similarity
* Evaluated with [EmbeddingSimilarityEvaluator](https://sbert.net/docs/package_reference/sentence_transformer/evaluation.html#sentence_transformers.evaluation.EmbeddingSimilarityEvaluator)
| Metric | Value |
|:--------------------|:-----------|
| pearson_cosine | 0.9488 |
| **spearman_cosine** | **0.9479** |
## Training Details
### Training Dataset
#### maux-gte-10k-public
* Dataset: [maux-gte-10k-public](https://huggingface.co./datasets/xmanii/maux-gte-10k-public) at [e20c689](https://huggingface.co./datasets/xmanii/maux-gte-10k-public/tree/e20c689e4915c4689dd54dd621ff57d5704cfaa5)
* Size: 10,000 training samples
* Columns: persian_question, persian_answer, and score
* Approximate statistics based on the first 1000 samples:
| | persian_question | persian_answer | score |
|:--------|:---------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|:----------------------------------------------------------------|
| type | string | string | float |
| details | - min: 6 tokens
- mean: 14.7 tokens
- max: 32 tokens
| - min: 13 tokens
- mean: 29.01 tokens
- max: 78 tokens
| - min: 0.02
- mean: 0.52
- max: 1.0
|
* Samples:
| persian_question | persian_answer | score |
|:-----------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------|
| آیا می‌توانید فرآیند برنامه‌ریزی مسیر ربات را توضیح دهید؟ | ربات‌ها می‌توانند برنامه‌نویسی شوند تا مجموعه‌ای از وظایف را انجام دهند، از اقدام‌های تکراری ساده تا فرآیندهای پیچیده تصمیم‌گیری. | 0.27999999999999997 |
| آیا انسان‌ها می‌توانند در مریخ زندگی کنند؟ | مریخ چهارمین سیاره از خورشید است و به دلیل ظاهر سرخش اغلب به سیاره سرخ معروف است. | 0.16 |
| عناصر کلیدی ترکیب در هنر انتزاعی چیست؟ | تاریخ هنر انتزاعی به اوایل قرن بیستم برمی‌گردد، با پیشگامانی مانند واسیلی کاندینسکی و پیت موندریان. | 0.36 |
* Loss: [CosineSimilarityLoss](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cosinesimilarityloss) with these parameters:
```json
{
"loss_fct": "torch.nn.modules.loss.MSELoss"
}
```
### Evaluation Dataset
#### maux-gte-10k-public
* Dataset: [maux-gte-10k-public](https://huggingface.co./datasets/xmanii/maux-gte-10k-public) at [e20c689](https://huggingface.co./datasets/xmanii/maux-gte-10k-public/tree/e20c689e4915c4689dd54dd621ff57d5704cfaa5)
* Size: 10,000 evaluation samples
* Columns: persian_question, persian_answer, and score
* Approximate statistics based on the first 1000 samples:
| | persian_question | persian_answer | score |
|:--------|:---------------------------------------------------------------------------------|:-----------------------------------------------------------------------------------|:----------------------------------------------------------------|
| type | string | string | float |
| details | - min: 6 tokens
- mean: 14.7 tokens
- max: 32 tokens
| - min: 13 tokens
- mean: 29.01 tokens
- max: 78 tokens
| - min: 0.02
- mean: 0.52
- max: 1.0
|
* Samples:
| persian_question | persian_answer | score |
|:-----------------------------------------------------------------------|:-----------------------------------------------------------------------------------------------------------------------------------------------|:---------------------------------|
| آیا می‌توانید فرآیند برنامه‌ریزی مسیر ربات را توضیح دهید؟ | ربات‌ها می‌توانند برنامه‌نویسی شوند تا مجموعه‌ای از وظایف را انجام دهند، از اقدام‌های تکراری ساده تا فرآیندهای پیچیده تصمیم‌گیری. | 0.27999999999999997 |
| آیا انسان‌ها می‌توانند در مریخ زندگی کنند؟ | مریخ چهارمین سیاره از خورشید است و به دلیل ظاهر سرخش اغلب به سیاره سرخ معروف است. | 0.16 |
| عناصر کلیدی ترکیب در هنر انتزاعی چیست؟ | تاریخ هنر انتزاعی به اوایل قرن بیستم برمی‌گردد، با پیشگامانی مانند واسیلی کاندینسکی و پیت موندریان. | 0.36 |
* Loss: [CosineSimilarityLoss](https://sbert.net/docs/package_reference/sentence_transformer/losses.html#cosinesimilarityloss) with these parameters:
```json
{
"loss_fct": "torch.nn.modules.loss.MSELoss"
}
```
### Training Hyperparameters
#### Non-Default Hyperparameters
- `eval_strategy`: steps
- `per_device_train_batch_size`: 32
- `per_device_eval_batch_size`: 32
- `learning_rate`: 2e-05
- `num_train_epochs`: 5
- `warmup_ratio`: 0.1
- `fp16`: True
- `load_best_model_at_end`: True
#### All Hyperparameters
Click to expand
- `overwrite_output_dir`: False
- `do_predict`: False
- `eval_strategy`: steps
- `prediction_loss_only`: True
- `per_device_train_batch_size`: 32
- `per_device_eval_batch_size`: 32
- `per_gpu_train_batch_size`: None
- `per_gpu_eval_batch_size`: None
- `gradient_accumulation_steps`: 1
- `eval_accumulation_steps`: None
- `torch_empty_cache_steps`: None
- `learning_rate`: 2e-05
- `weight_decay`: 0.0
- `adam_beta1`: 0.9
- `adam_beta2`: 0.999
- `adam_epsilon`: 1e-08
- `max_grad_norm`: 1.0
- `num_train_epochs`: 5
- `max_steps`: -1
- `lr_scheduler_type`: linear
- `lr_scheduler_kwargs`: {}
- `warmup_ratio`: 0.1
- `warmup_steps`: 0
- `log_level`: passive
- `log_level_replica`: warning
- `log_on_each_node`: True
- `logging_nan_inf_filter`: True
- `save_safetensors`: True
- `save_on_each_node`: False
- `save_only_model`: False
- `restore_callback_states_from_checkpoint`: False
- `no_cuda`: False
- `use_cpu`: False
- `use_mps_device`: False
- `seed`: 42
- `data_seed`: None
- `jit_mode_eval`: False
- `use_ipex`: False
- `bf16`: False
- `fp16`: True
- `fp16_opt_level`: O1
- `half_precision_backend`: auto
- `bf16_full_eval`: False
- `fp16_full_eval`: False
- `tf32`: None
- `local_rank`: 0
- `ddp_backend`: None
- `tpu_num_cores`: None
- `tpu_metrics_debug`: False
- `debug`: []
- `dataloader_drop_last`: False
- `dataloader_num_workers`: 0
- `dataloader_prefetch_factor`: None
- `past_index`: -1
- `disable_tqdm`: False
- `remove_unused_columns`: True
- `label_names`: None
- `load_best_model_at_end`: True
- `ignore_data_skip`: False
- `fsdp`: []
- `fsdp_min_num_params`: 0
- `fsdp_config`: {'min_num_params': 0, 'xla': False, 'xla_fsdp_v2': False, 'xla_fsdp_grad_ckpt': False}
- `fsdp_transformer_layer_cls_to_wrap`: None
- `accelerator_config`: {'split_batches': False, 'dispatch_batches': None, 'even_batches': True, 'use_seedable_sampler': True, 'non_blocking': False, 'gradient_accumulation_kwargs': None}
- `deepspeed`: None
- `label_smoothing_factor`: 0.0
- `optim`: adamw_torch
- `optim_args`: None
- `adafactor`: False
- `group_by_length`: False
- `length_column_name`: length
- `ddp_find_unused_parameters`: None
- `ddp_bucket_cap_mb`: None
- `ddp_broadcast_buffers`: False
- `dataloader_pin_memory`: True
- `dataloader_persistent_workers`: False
- `skip_memory_metrics`: True
- `use_legacy_prediction_loop`: False
- `push_to_hub`: False
- `resume_from_checkpoint`: None
- `hub_model_id`: None
- `hub_strategy`: every_save
- `hub_private_repo`: None
- `hub_always_push`: False
- `gradient_checkpointing`: False
- `gradient_checkpointing_kwargs`: None
- `include_inputs_for_metrics`: False
- `include_for_metrics`: []
- `eval_do_concat_batches`: True
- `fp16_backend`: auto
- `push_to_hub_model_id`: None
- `push_to_hub_organization`: None
- `mp_parameters`:
- `auto_find_batch_size`: False
- `full_determinism`: False
- `torchdynamo`: None
- `ray_scope`: last
- `ddp_timeout`: 1800
- `torch_compile`: False
- `torch_compile_backend`: None
- `torch_compile_mode`: None
- `dispatch_batches`: None
- `split_batches`: None
- `include_tokens_per_second`: False
- `include_num_input_tokens_seen`: False
- `neftune_noise_alpha`: None
- `optim_target_modules`: None
- `batch_eval_metrics`: False
- `eval_on_start`: False
- `use_liger_kernel`: False
- `eval_use_gather_object`: False
- `average_tokens_across_devices`: False
- `prompts`: None
- `batch_sampler`: batch_sampler
- `multi_dataset_batch_sampler`: proportional