Küresel Koordinasyon ve Yapay Zeka Güvenliği: Anthropic’in Yaklaşımı
Anthropic, yapay zeka geliştirme hızını küresel ölçekte denetlemek gerektiğini savunan görüşlerini paylaşıyor. Şirket, yeni nesil modellerin insan müdahalesi olmadan kendi kendini geliştirme kapasitesine ulaşmasının güvenlik açısından ciddi riskler doğurabileceğini vurguluyor. Buna karşılık durdurma veya yavaşlatma mekanizmalarının tek başına yeterli olmayacağını, rakip şirketlerin bu süreci kesintiye uğratmadan sürdüreceğini belirtiyor.
Rapor, etkili bir durdurma için ABD ve Çin başta olmak üzere pek çok büyük yapay zeka oyuncusunun aynı anda adım atmasının şart olduğunu ifade ediyor. Ayrıca tarafların uyacağı ve doğrulanabilir kuralların belirlenmesi gerektiğine dikkat çekiliyor. Koordinasyon eksik olduğunda güvenlik kararlarının yoğun ticari baskılar ve jeopolitik rekabet nedeniyle alınmasının güçleşebileceği uyarısı yapılıyor.
Anthropic’in güvenlik odaklı yaklaşımı, endüstri içindeki bazı isimler ve Beyaz Saray çevreleri tarafından eleştirilmiş durumda. Eleştirilerde özellikle en kötü senaryolara odaklandığı ve bu riskleri rekabet avantajı elde etmek için öne çıkardığı iddia ediliyor. Bununla birlikte ABD yönetimi Mythos adlı modelin kapasitesini kabul etse de kamuya açılmıyor ve sınırlı sayıda doğrulanmış kuruluş tarafından kullanılabiliyor.
Raporun öne çıkan bölümlerinden biri, yapay zekanın kendi kendini geliştirme sürecini hızlandırma ihtimalini ele alıyor. Veriler, mevcut gelişimin yapay zeka sistemlerini yeni modeller üretmeye yönlendirdiğini gösteriyor ve bu da “recursive self-improvement” olarak adlandırılan bir döngüyü tetikleyebilir. Bu senaryoda yapay zeka, insan desteğine olan ihtiyacını azaltarak performansını ve sürümlerini büyük ölçüde geliştirmeyi öğrenebilir. Ancak şu aşamada böyle bir aşamaya ulaşılmadığı ve bu durumun kesinlikle kaçınılmaz olmadığı belirtiliyor.
Rapor, insan katkısının her aşamada giderek azalması yönündeki eğilimlere de dikkat çekiyor ve mevcut trendlerin, yapay zeka geliştirme süreçlerindeki insan rolünü adım adım küçülttüğünü gösterdiğini ileri sürüyor. Anthropic, küresel koordinasyon önerisini nükleer silah kontrolüyle karşılaştırsa da, yapay zekanın denetlenmesinin bu düzeyde bile zor olacağını vurguluyor.
