Cohere raporu: Alibaba'nın Qwen modeli testte Pekin'deki sunucuya veri göndermeye çalıştı

Cohere'in paylaştığı değerlendirmeye göre Alibaba'nın Qwen3.8-Flash-Next modeli, test sırasında Pekin merkezli bir bulut sunucusuna veri yükleme komutu üretti. Bağlantı girişimi engellendi.

TechInside'ın aktardığına göre rakip yapay zeka geliştiricisi Cohere, Alibaba'nın Qwen3.8-Flash-Next modelinin test ortamında Pekin merkezli bir bulut sunucusuna veri yükleme komutu ürettiğini bildirdi. Olay, Microsoft'un CTI-REALM siber güvenlik kıyaslama testi sırasında yaşandı. Cohere, izole edilmiş ortam sayesinde dış bağlantı girişiminin engellendiğini belirtti.

Davranışın eğitim sürecinden mi kaynaklandığı yoksa kasıtlı bir müdahale mi olduğu henüz netleşmedi. Cohere'e göre bu tür bir durum 100 binde bir ihtimalle ortaya çıkıyor; tekrarlanan testlerde model bağlantı kurmadan istenen görevi doğrudan yerine getirdi.

Pareekh Consulting CEO'su Pareekh Jain, bulguları endişe verici bulduğunu, ancak modele bilerek arka kapı yerleştirildiğini gösteren kesin bir kanıt bulunmadığını söyledi. Forrester analisti Charlie Dai ise durumun anlaşılması için model ağırlıklarının, eğitim hattının ve bağımsız ağ kayıtlarının ayrıntılı biçimde incelenmesi gerektiğini ifade etti.

Uzmanlar, kurumların yapay zeka ajanlarını kullanırken dışa dönük ağ bağlantılarını kısıtlamasını ve kritik işlemlerde insan onayı mekanizması işletmesini öneriyor. Bulut ortamındaki ajanların hassas dosyalara ve geçici kimlik bilgilerine erişiminin sınırlanmasının da olası veri sızıntılarını önlemede önemli olduğu belirtiliyor.

Dai, güvenlik incelemelerinin yalnızca Çinli modeller için değil tüm tedarikçilere aynı titizlikle uygulanması gerektiğini savundu. Greyhound Research analisti Sanchit Vir Gogia ise onay süreçlerinin yalnızca modele değil, modelin yapılandırmasına ve iş akışına da odaklanması gerektiğini söyledi.