Anthropic, Askeri ve İstihbarat Kullanımı için Yeni Claude Hizmetini Başlattı

Anthropic, Perşembe günü ABD savunma ve istihbarat kurumlarına özel olarak tasarlanmış ürünü Claude Gov'u tanıttı. Söz konusu yapay zeka modelleri, hükümet kullanımı için daha gevşek güvenlik sınırlarına sahip ve gizli bilgileri daha iyi analiz edebilecek şekilde eğitildi.

Şirket, duyurduğu modellerin “ABD ulusal güvenliğinin en yüksek seviyelerinde görev yapan kurumlar tarafından hâlihazırda kullanıldığını” belirtti. Modellere erişim, yalnızca gizli bilgileri işleyen devlet kurumlarıyla sınırlı olacak. Şirket, modellerin ne zamandan beri kullanıldığını doğrulamadı.

Anthropic’in blog gönderisine göre, Claude Gov modelleri, tehdit değerlendirmesi ve istihbarat analizleri gibi hükümete özgü ihtiyaçları karşılamak üzere özel olarak tasarlandı. Şirket, “tüm Claude modellerimizle aynı titiz güvenlik testlerinden geçtiklerini” belirtmekle birlikte, modellerin ulusal güvenlik çalışmaları için bazı özel niteliklere sahip olduğunu da aktardı. Örneğin, modeller “kendilerine aktarılan gizli bilgilerle etkileşime girerken daha az reddetme eğiliminde”. Tüketiciye yönelik Claude versiyonu ise benzer içerikleri genellikle işaretleyerek işlemeyi reddedecek şekilde eğitilmişti.

Anthropic’e göre, Claude Gov modelleri savunma ve istihbaratla ilgili belgeleri ve bağlamı daha iyi anlayabiliyor ve ulusal güvenlik açısından önemli dillerde ve lehçelerde daha yüksek yeterliliğe sahip.

Devlet kurumlarının YZ kullanımına dair tartışmalar uzun süredir devam ediyor. Azınlıklar ve savunmasız topluluklar üzerindeki potansiyel zararlar ve zincirleme etkiler nedeniyle bu alanda dikkatli olunması gerektiği vurgulanıyor. ABD'nin farklı eyaletlerinde, yüz tanıma teknolojisinin polis tarafından kullanılması nedeniyle çok sayıda haksız gözaltı yaşandı; öngörücü polislik uygulamalarında ve kamu yardımlarını değerlendiren algoritmalarda ayrımcılık belgelerle kanıtlandı. Ayrıca yıllardır Microsoft, Google ve Amazon gibi büyük teknoloji şirketlerinin özellikle İsrail ordusu tarafından YZ ürünlerinin kullanımına izin vermesi “Apartheid’a Teknoloji Yok” hareketi kapsamında protestolara yol açtı.

Anthropic’in kullanım politikası, her kullanıcının “yasadışı veya yüksek derecede düzenlenmiş silah ya da malzemelerin üretimi veya değişimini sağlamaması gerektiğini” açıkça belirtiyor. Şirketin ürün veya hizmetlerinin, “silah, patlayıcı, tehlikeli madde ya da insan hayatını tehdit eden sistemlerin üretimi, tasarımı, pazarlanması veya dağıtımı” amacıyla kullanılmasına da izin verilmiyor.

Yaklaşık on bir ay önce şirket, “belirli hükümet kurumları tarafından faydalı amaçlarla kullanımını mümkün kılmak üzere dikkatlice kalibre edilmiş bir dizi sözleşmeye dayalı istisna” oluşturduğunu duyurdu. Ancak dezenformasyon kampanyaları, silah tasarımı ve kullanımı, sansür sistemlerinin inşası ve kötü niyetli siber operasyonlar gibi faaliyetler hâlâ yasak kapsamında. Yine de Anthropic, “bir devlet kurumunun görevi ve yasal yetkileri doğrultusunda kullanım kısıtlamalarını özelleştirme” yetkisini elinde bulunduruyor ve bu süreçte “ürün ve hizmetlerin faydalı kullanımını mümkün kılmak ile potansiyel zararları en aza indirmek arasında denge kurmayı” hedefliyor.

Claude Gov, Ocak ayında piyasaya sürülen OpenAI’nin devlet kurumlarına yönelik ürünü ChatGPT Gov’a Anthropic’in yanıtı niteliğinde. Aynı zamanda, belirsiz düzenlemelerle şekillenen pazarda YZ girişimlerinin devlet kurumlarıyla olan ilişkilerini güçlendirmeye yönelik daha geniş çaplı bir eğilimin parçası.

OpenAI, ChatGPT Gov’u duyurduğunda, son bir yıl içinde federal, eyalet ve yerel yönetimlerde 90.000’den fazla çalışanın, belgeleri çevirmek, özetler oluşturmak, politika notları yazmak, kod üretmek ve uygulama geliştirmek gibi görevlerde teknolojisini kullandığını belirtmişti. Anthropic, benzer sayılar veya kullanım örnekleri paylaşmadı; ancak şirket, federal hükümet odaklı yazılım dağıtmak isteyen firmalara hizmet sunan Palantir’in FedStart programı kapsamında yer alıyor.

YZ sektöründe eğitim verisi sağlayan lider şirketlerden Scale AI, Mart ayında ABD Savunma Bakanlığı ile ilk türünde bir YZ ajan programı geliştirmek üzere anlaşma imzaladı. Anlaşmadan sonra şirket, Katar hükümetiyle beş yıllık bir sözleşme imzalayarak kamu hizmetleri, sağlık, ulaşım gibi alanlara yönelik otomasyon araçları sunmaya başladı.

‍

‍

‍

Kaynak:https://www.theverge.com/ai-artificial-intelligence/680465/anthropic-claude-gov-us-government-military-ai-model-launch