Merhabalar. Kuantizasyon mühendisiyim, Rust ile yapay zeka çekirdeği geliştirmekteyim. Deneysel bit düzeyleri, sıkıştırma sistemleri, kernel optimizasyonları ve donanımı efektif kullanım çözümleri için bu yola çıktım. TensorFlow, PyTorch ve Llama'nın spagetti olmuş, yetersiz kodlarını görünce...