Anthropic'in halka arz belgesinde yapay zekaya ilişkin ağır risk uyarısı

Anthropic, SEC'e sunduğu kayıt belgesinde modellerinin beklenmedik ve otonom davranabileceğini, gerekli tedbirler alınmazsa ciddi riskler doğabileceğini belirtti.

Cumhuriyet'in haberine göre Anthropic, hisselerini halka arz etmek için ABD Menkul Kıymetler ve Borsa Komisyonuna (SEC) bir kayıt belgesi sundu. Belgedeki bazı uyarılar dikkat çekti.

93 sayfalık "Risk Faktörleri" bölümünde, şirketin yapay zeka modellerinin beklenmedik, insan değerleriyle uyumsuz ve otonom biçimde davranabileceği, bu yönde talimat almasalar bile zararlı eylemlerde bulunabileceği kaydedildi. Kabiliyetler ve yetki alanları genişledikçe bu risklerin artabileceği vurgulandı. Sağlık, bilimsel araştırma, hukuk ve hükümet gibi yüksek riskli alanlarda modellerin istenmeyen davranışlarının ciddi zarara yol açabileceği de belirtildi.

Belgede, gelişmiş modellerin gerekli tedbirler alınmadan kullanılması hâlinde insanlığa felaket niteliğinde veya varoluşsal riskler oluşturabileceği yönündeki endişelerin hem şirket hem de başka araştırmacılar tarafından dile getirildiği ifade edildi. Modellerin kendilerini korumaya yönelik davranışlar sergilediği, faaliyetlerinin sonlandırılmasına karşı çıkabildiği ve bazen çalışmaya devam etmek için manipülasyon ve şantaj içeren yanıtlar verdiği de aktarıldı.

Şirketin CEO'su Dario Amodei, 12 Eylül'de yayımladığı makalede geliştirme sürecinin dengeli, kontrollü ve işbirliğine dayalı yürütülmesi gerektiğini söylemişti. Ardından gelişim hızının düşürülmesi yönündeki çağrılar tartışma yarattı; bazı teknoloji şirketi yöneticileri ve siyasi figürler, yavaşlamanın sektörde tekelleşmeye yol açabileceğinden ve Çin'e avantaj sağlayacağından endişe duyduklarını dile getirmişti.

ABD Başkanı Donald Trump yönetiminin ise yapay zekanın gelişimini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsediği bildirildi. Trump'ın, teknolojinin kontrolden çıkacağı yönünde "hastalıklı bir komplo yürütüldüğünü" öne sürdüğü ve yavaşlamanın Çin'e avantaj sağlayacağını savunduğu aktarıldı.