Zagita aracı RTX 30 ekran kartlarındaki hesaplama sınırını kaldırıyor

Açık kaynaklı Zagita projesi, Ampere tabanlı bazı GeForce kartlarında FP16 ve BF16 performansını artırıyor. Araç şimdilik yalnızca Linux'ta çalışıyor.

DonanımHaber'in aktardığına göre Zagita adlı açık kaynaklı proje, Nvidia'nın Ampere mimarili bazı GeForce modellerindeki hesaplama kısıtlamalarını kaldırıyor. Araç, donanım değişikliği ya da vBIOS müdahalesi gerektirmeden çalışıyor. Çözümün özellikle GA102, GA103, GA104 ve GA106 GPU'lu RTX 30 modellerinde etkili olduğu belirtildi.

Paylaşılan test sonuçlarına göre RTX 3090 Ti'ın BF16 performansı 87,5 TFLOPS'tan 157 TFLOPS'a, TF32 performansı ise 42,6 TFLOPS'tan 82,6 TFLOPS'a yükseldi. RTX 3080 10 GB modelinde FP16 performansının 65 TFLOPS'tan 113 TFLOPS'a çıktığı aktarıldı. Kullanıcı testlerinde yüzde 80'e kadar artış bildirilse de kazanım modele ve iş yüküne göre değişiyor.

Yapay zekâ testlerinde, kilidi açılmış kartların uzun bağlamlı LLM işlemlerinde Prefill performansını yüzde 33-36 artırdığı belirtildi. İlk token üretimine kadar geçen gecikme yaklaşık yüzde 25 azaldı. Decode performansında ise belirgin bir değişiklik görülmedi.

Projenin GTX 9, GTX 10, RTX 20 ve RTX 40 serisi kartlarda da belirli kazanımlar sağlayabildiği paylaşıldı; ancak en büyük avantaj şimdilik Ampere tabanlı RTX 30 modellerinde görülüyor. Projenin Linux ile sınırlı olması ve Windows desteğinin bulunmaması önemli bir kısıt olarak öne çıkıyor.

Gelişmenin, 24 GB VRAM'e sahip RTX 3090 gibi eski kartlara yapay zekâ kullanıcılarının ilgisini artırdığı kaydedildi. Yurt dışında yaklaşık 1.000 dolar seviyesinde satılan RTX 3090'ın fiyatı son dönemde 2.000 doları aşarken, RTX 3090 Ti'ın 3.000 dolara yaklaştığı belirtildi.