Ba2han's picture
Update README.md
468f7b1 verified
|
raw
history blame
658 Bytes
metadata
license: mit
language:
  - tr
library_name: transformers

Pretrained on 1B (mostly Turkish) tokens from HF and "high quality" scraped data using 1 RTX 3090. The training will continue. The model already can produce sensible sentences in Turkish.


HF kaynaklı ve scrape edilen 1 Milyar (çoğunlukla Türkçe) token ile 1 RTX 3090 kullanılarak eğitilmiştir. Eğitim devam edecek. Model şimdiden düzgün Türkçe cümleler kurabiliyor:

image/png

(top_k=24, repetition_penalty=1.1, temperature=0.12, seed=1022)