195 milyon parametreli Türkçe bir dil modeli, sizin tarayıcınızda. Model cihazınızda çalışıyor: yazdıklarınızın içeriği hiçbir sunucuya gitmiyor. Yalnızca hesabınız ve kaç mesaj yazdığınız kaydediliyor.
Ağırlıklar indiriliyor.
0'da hep aynı cevabı verir, yükseldikçe savrulur.
Olasılık kütlesinin ne kadarından örnekleneceği.
Bağlam penceresi 1024 token; istem de buradan yer alır.
Bu boyuttaki modeller aynı kelimeye saplanmaya meyilli.