EXL3 quantization, local AI için altın standart oluyor: Blackwell donanım (DGX Spark, RTX 5090, 4000/5000/6000) için tasarlandı, SparkInfer entegrasyonu ile 3x hızlandı
Local AI inference cephesinde 2026’nın en dikkat çekici quantization gelişmesi: EXL3. ExLlamaV3 kütüphanesinin öz format’ı. Şimdi SparkInfer (vLLM’in fork’u) içine entegre edildi ve ExLlamaV3’teki hızın 3 katında çalışıyor. Kime hitap ediyor? Blackwell mimarisine sahip herkes: NVIDIA DGX Spark (GB10, SM121) RTX 5090 RTX 4000/5000/6000 Blackwell serisi RTX 6000 Pro (Blackwell) Ve bir bonus: tek/çift/üç kart…
