PrismML 27 milyarlık yapay zekâ modelini 9 kat küçültmeyi başardı

PrismML, 17 Eylül 2026'da Bonsai 2 27B adlı yeni bir modeli duyurdu. Caltech profesörü Babak Hassibi'nin kurduğu şirket, Alibaba'nın açık kaynaklı Qwen3.8 27B modelini "ternary" adı verilen bir yöntemle sıkıştırıyor: model ağırlıkları +1, -1 veya 0 değerlerine indirgeniyor. Sonuçta ortaya çıkan Bonsai 2 27B, 5,9 GB boyutunda — orijinal modelden 9-10 kat daha küçük.

Ne değişti

Şirketin kendi ölçümlerine göre Bonsai 2, MMLU-Redux, AIME, GSM8K, HumanEval+ gibi benchmark'larda ve görsel/araç çağırma testlerinde toplam performansın %98,2'sini koruyor; genel skor 83,9 olarak açıklandı. Model Hugging Face ve GitHub üzerinden Apache 2.0 lisansıyla indirilebiliyor, NVIDIA GPU'larda (CUDA) ve Apple cihazlarında (MLX) çalışıyor; şirketin paylaştığı bir testte RTX 5090 üzerinde saniyede 143 token hız elde edildiği belirtiliyor. PrismML'in önceki Bonsai modelleri toplamda 11 milyon kez indirilmiş.

Markalar için ne anlama geliyor

Küçültülmüş modellerin büyük modellere yakın performans vermesi, içerik üretimi ve müşteri yanıtlama gibi işleri bulut maliyeti ödemeden yerel donanımda (kendi bilgisayarında ya da sunucusunda) çalıştırmak isteyen ajans ve markalar için maliyet avantajı anlamına gelebilir. Ama bu ölçümler PrismML'in kendi testleri; bağımsız bir doğrulama henüz yok. Bir markanın iç süreçlerinde kullanmadan önce kendi veri setiyle test etmesi gerekir.