Kutarya Us · KTY-1.0
10.000. adım checkpoint'i · 50,06 milyon parametre.
Proje hakkında
KTY-1.0 modelinin tam 10.000. eğitim adımında kaydedilmiş ağırlıkları. Model 50.055.680 parametre, yani yaklaşık 50,06 milyon parametre içerir. Daha sonraki adımlar bu sürüme dahil değildir. İndirme paketi checkpoint ile birlikte modeli yüklemek için model.py, bayt tokenizer'ı, yalnız mimari ve üretim ayarları, generate.py, bağımlılık listesi, kullanım açıklaması ve SHA-256 manifesti içerir. Eğitim verisi, train.py, eğitim günlükleri, optimizer durumu, rastgele sayı üreteci durumu ve veri kümesi bilgileri pakete eklenmedi. Ağırlıklar kaynak checkpoint ile tensör bazında birebir doğrulandı; yeniden eğitim veya quantization uygulanmadı. Model UTF-8 baytlarıyla çalışır: sözlük 256, bağlam 768 bayt, embedding boyutu 640, 10 Transformer katmanı, 10 dikkat başlığı ve 2.560 ileri besleme boyutu. Türkçe karakterler birden fazla bayt olabilir. Paket CPU üzerinde temiz klasöre çıkarılarak strict checkpoint yükleme, parametre sayısı, sonlu ağırlıklar, ileri geçiş ve gerçek metin üretimi ile kontrol edildi. Bu bir ara checkpoint paylaşımıdır; kapsamlı cevap kalitesi veya GPU performans ölçümü yapılmadı.
Kullanım / kurulum
ZIP dosyasını tek klasöre çıkarın. pip install -r requirements.txt ile bağımlılığı kurun. python generate.py --prompt "selam" --greedy komutu checkpoint'i yükleyip cevap üretir. Etkileşimli sohbet için python generate.py çalıştırın. Checkpoint varsayılan olarak paketteki kty-1.0-step10000.pt dosyasından yüklenir; eğitim verisi gerekmez.