Töz-1 SFT

Veri seti
CC BY-SA 4.0
12.297 örnek
14.316 tur
JSONL

Töz-1 sohbet modelini eğitmek için kullanılan Türkçe SFT (talimat ve sohbet) verisi: 12.297 örnek, 14.316 soru-cevap turu. Verinin neredeyse tamamı kodla üretildi; amaç modele bilgi değil biçim öğretmek.

Bir bakışta

Lisans	CC BY-SA 4.0
Örnek	12.297 (14.316 soru-cevap turu)
Dil	Türkçe
Görev	text-generation (SFT)
Biçim	JSONL, `messages` listesi
Ölçüm setleri	3 ayrı set, eğitimde yok

Neden "biçim", "bilgi" değil?

Töz-1 195 milyon parametreli küçük bir model. Böyle bir modele SFT'de bilmediği bir bilgiyi öğretmek uydurmayı öğretir (Gekhman ve ark., 2024). Bu yüzden veri şu kurallarla kuruldu:

Bilgi soruları yalnızca doğru cevaplı, basit ve yaygın olgulardan oluşuyor.
Vikipedi tanımları ham modele tek tek okutuldu. Model tanımı doğru öznenin arkasından, rastgele öznelere göre belirgin şekilde daha olası buluyorsa alındı. Yani yalnızca modelin ön eğitimde zaten gördüğü varlıklar var.
Hatalar tek tek değil aile olarak düzeltildi: modelle konuşuldu, yanlış genellediği her kalıp için o kalıbın binlerce çeşidi üretildi.

Dosyalar

dosya (örnek sayısı)	içerik
`01_kimlik` (383)	Kimlik: Töz kim, kim yaptı, neler yapabilir
`02_sohbet` (500)	Gündelik sohbet, selamlaşma, argo övgü ve hakaret karşılığı
`03_bilgi` (630)	Genel bilgi soruları (başkent, kıta, bölge, dil...), hepsi doğru cevaplı
`05_bilmiyorum` (60)	Bilinemeyecek ayrıntılar için "bilmiyorum"
`06_cokturlu` (400)	Çok turlu gündelik sohbet (SoAp9035/everyday-conversations-tur, Apache-2.0)
`08_yapamam` (192)	Yapamadığı şeyler (internet, uzun hesap...) için kibar ret
`09_kisit` (2015)	Talimat kısıtları: tek kelime, büyük/küçük harf, liste, JSON, evet/hayır
`10_yazim` (599)	Gündelik, küçük harfli, noktalamasız yazım
`11_zincir` (760)	Çok turlu zincirler: ret sonrası, "emin misin", konu değişimi, "yanlış bildin"
`12_matematik` (4655)	Tek basamaklı toplama, çıkarma, çarpma ve sınır dışı sorulara dürüst ret
`13_tanim` (1620)	Vikipedi tanımları: "X kimdir/nedir" (yalnızca ham modelin bildiği varlıklar)
`14_takip` (483)	Takip soruları ve fikir sorularına yargısız cevap

Biçim

{"messages": [{"role": "user", "content": "Fransa'nın başkenti neresi?"},
              {"role": "assistant", "content": "Fransa'nın başkenti Paris'tir."}],
 "kova": "bilgi", "dosya": "03_bilgi.jsonl"}

Ölçüm setleri (eğitimde yok)

`kisit_test` (230)	IFEval tarzı talimat takibi: tek kelime, büyük harf, liste, JSON, evet/hayır. Test varlıkları ve iki kategori (müzik aleti, içecek) eğitim verisinden tamamen çıkarıldı.
`matematik_test` (305)	Tek basamaklı işlemler, eğitimde hiç geçmeyen soru kalıplarıyla.
`tanim_test` (90)	Ham modelin bildiği ama SFT'de görmediği varlıklar ("X kimdir/nedir").

Puanlayıcı scriptler (kisit_olc.py, mat_olc.py, tanim_olc.py) ve verinin üretim scriptleri veri setinin uretim/ klasöründe.

Töz-1 v2 ile ilişkisi

Bu veri, Töz-1'in kodla üretilen SFT verisidir. Töz-1 v2'de buna ek olarak harici bir sohbet veri setinden yaklaşık 9.000 filtrelenmiş örnek eklendi; ayrıntı model kartında ve Töz-1 nedir yazısında.

Lisans ve kaynaklar

Kodla üretilen kısımlar ve scriptler: Töz AI.
13_tanim: Türkçe Vikipedi ilk cümleleri, CC BY-SA 4.0. Bu yüzden veri setinin tamamı CC BY-SA 4.0 ile paylaşılıyor.
06_cokturlu: SoAp9035/everyday-conversations-tur (Apache-2.0).
Alpaca kökenli talimat verisi (ticari olmayan lisans) bu sette ve Töz-1'in eğitiminde yok.

Veri seti Hugging Face'te.

Töz-1 SFT Hugging Face'te herkese açık.

Hugging Face'te aç