Yayımlandı · Apache-2.0

Töz‑1.5

Töz AI · 28 Ekim 2026

15 milyar Türkçe tokenla ön eğitilmiş, 604 milyon parametreli Türkçe sohbet modeli.

Töz-1.5, Töz AI'ın sıfırdan eğittiği 604 milyon parametreli Türkçe sohbet modelidir. 15 milyar Türkçe token üzerinde ön eğitimden geçti; ardından Töz-1'inkinden ayrı, yeni hazırlanmış bir veri setiyle sohbet için ince ayar yapıldı. Ağırlıklar Apache-2.0 lisansıyla Hugging Face'te yayımlanıyor.

Aşağıdaki benchmark sonuçları sohbet ince ayarlı sürüme değil, ön eğitimli Töz-1.5-Base'e ait. SFT sürümünün ayrı bir benchmark ölçümü model kartında yayımlanmadı; bu nedenle o sürüm için skor ya da karşılaştırmalı yanıt örneği vermiyoruz.

Ölçek. Töz-1.5, 604M parametre ve 15B ön eğitim tokenıyla Töz-1-Base'ten daha büyük bir modeldir. Bu ölçek artışı tek başına her görevde daha iyi sonuç anlamına gelmez.

Türkçe görevler. Töz-1.5-Base; HellaSwag-tr, XCOPA-tr ve TurBLiMP ölçümlerinde model kartındaki karşılaştırma modellerinden daha yüksek skor aldı.

Kullanım. Transformers ağırlıklarına ek olarak 760 MB Q8 ONNX paketi de model deposunda yayımlandı. Sohbet sayfasında Töz-1.5'i seçip indirme onayını verdiğinizde dosya Hugging Face'ten tarayıcı önbelleğine alınır.

02Mimari

Parametre604 milyon
MimariQwen3 tarzı decoder-only transformer · Qwen3ForCausalLM
Katman / genişlik32 / 1152
DikkatGQA · 9 sorgu başlığı, 3 KV başlığı · head dim 128 · QK-norm
FFNSwiGLU · 4096
Normalizasyon / konumRMSNorm · RoPE (θ = 10.000)
Sözlük / bağlamTürkçe için eğitilmiş 32k tokenizer · 1024 token
Embedding / biasGirdi ve çıktı embedding'leri bağlı · bias yok
Eğitim15B token · FineWeb-2 + filtrelenmiş Wikipedia · JAX, TPU v5e-8
LisansApache-2.0

Mimari değerler ve eğitim bilgileri yayımlanmış model kartından alınmıştır.

03Benchmark'lar

Aşağıdaki sonuçlar ön eğitimli Töz-1.5-Base'in 0-shot ölçümleridir. Karşılaştırılan diğer modeller de aynı scriptle yeniden değerlendirildi; sohbet ince ayarlı Töz-1.5 bu tabloda ölçülmedi.

Sağduyu

HellaSwag-tr · acc_norm · %

%40,8Töz-1.5
%36,8ufakzeka-1-base
%35,0Töz-1-Base

Neden-sonuç

XCOPA-tr · acc_norm · %

%60,6Töz-1.5
%59,8ufakzeka-1-base
%55,8Töz-1-Base

Dilbilgisi

TurBLiMP · kabul edilebilirlik · 0-shot · %

%93,6Töz-1.5
%90,4ufakzeka-1-base
%91,8Töz-1-Base

Dil yetkinliği

Wikitext-2 · BPB · İngilizce · düşük iyi

1,377Töz-1.5
1,362ufakzeka-1-base
1,520Töz-1-Base

Bilgi

Turkish-MMLU · doğruluk · şans düzeyi %20

Model kartı, karşılaştırılan üç modelin de bu ölçümde şans düzeyinde kaldığını bildiriyor; kesin skor yayımlanmamış.

TurBLiMP'te Töz modellerine BOS tokenı verilirken diğer HF modellerine verilmemiş; bu Töz modellerine küçük bir avantaj sağlayabilir. Wikitext-2 İngilizce bir ölçümdür; Türkçe ağırlıklı eğitim bu testte avantaj sağlamaz. Turkish-MMLU'da üç model de şans düzeyindedir.

04Kullanım

Töz-1.5 ağırlıkları ve tokenizer'ı Hugging Face model deposunda kullanılabilir. Model kartında Transformers ile yerel kullanım kodu bulunuyor; bu yolla modeli kendi Python ortamınızda çalıştırabilirsiniz.

Tarayıcı sohbetinde Töz-1.5'i seçip ilk mesajı gönderin; 760 MB Q8 model için indirme onayı çıkar. Onaydan sonra model Hugging Face'ten indirilir ve çıkarım tarayıcıda yapılır. Mesaj içeriği sunucuya gönderilmez.

Töz-1.5 ile sohbete başla. Adım adım kullanım ve değerlendirme notları: Töz-1.5 blog yazısı.

05Sınırlar

  • Küçük model olduğu için bilgi uydurabilir; önemli yanıtları ayrıca doğrulayın.
  • Ön eğitim verisi haber ağırlıklı olduğundan yanıtlar zaman zaman haber yazısı üslubuna kayabilir.
  • Türkçe için eğitildi; diğer dillerde ve kod üretiminde zayıftır.
  • Çok adımlı akıl yürütme ve geniş dünya bilgisi gerektiren sorularda daha büyük modellerin gerisinde kalır.
  • Hesaplama için model, <hesap> ve <sonuc> işaretleriyle harici hesap makinesi aracı kullanacak şekilde tasarlanmıştır. Bu araç döngüsü kurulmadan üretilen sayıların doğruluğuna güvenilmemelidir.

Model kartı ve ağırlıklar yayımlandı

Töz-1.5'i Transformers ile kullanın; modelin ayrıntılarını ve sınırlarını blog yazısında okuyun.

760 MB Q8 ONNX dosyası model deposunda; tarayıcı sohbetinde ilk kullanımda indirme onayıyla alınır.