Google, güvenlik odaklı yeni 'açık' yapay zeka modellerini yayınladı.

Google, çoğundan "daha güvenli", "daha küçük" ve "daha şeffaf" olarak adlandırdığı yeni, "açık" üretken yapay zeka modellerinden oluşan bir üçlü yayınladı.

Bu yeni modeller, Google'ın Mayıs ayında piyasaya sürdüğü Gemma 2 jeneratif model ailesine ekleniyor. Yeni modeller, Gemma 2 2B, ShieldGemma ve Gemma Scope, biraz farklı uygulamalar ve kullanım durumları için tasarlandı, ancak ortak bir güvenlik eğilimini paylaşıyorlar.

Google'ın Gemma serisi modelleri, Google'ın kendi ürünleri tarafından kullanılan ve geliştiricilerin kullanımına açık olan Gemini'nin kaynak kodunu kullanıma sunmaması bakımından Gemini modellerinden farklıdır. Gemma daha ziyade, Meta'nın Llama ile yapmaya çalıştığı gibi, Google'ın geliştirici topluluğu içinde iyi niyeti teşvik etme çabasıdır.

Gemma 2 2B, dizüstü bilgisayarlar ve uç cihazlar da dahil olmak üzere bir dizi donanımda çalışabilen metin analizi oluşturmak için hafif bir modeldir. Belirli araştırma ve ticari uygulamalar için lisanslıdır ve Google'ın Vertex AI model kütüphanesi, veri bilimi platformu Kaggle ve Google'ın AI Studio araç seti gibi kaynaklardan indirilebilir.

ShieldGemma ise nefret söylemi, taciz ve müstehcen içerik gibi zehirli unsurları tespit etmeye çalışan bir "güvenlik sınıflandırıcıları" koleksiyonudur. Gemma 2'nin üzerine inşa edilen ShieldGemma, modelin ürettiği içeriğin yanı sıra üretken bir modele yönelik istemleri filtrelemek için de kullanılabilir.

Son olarak Gemma Scope, geliştiricilerin bir Gemma 2 modeli içindeki belirli noktaları "yakınlaştırmasına" ve iç işleyişini daha yorumlanabilir hale getirmesine olanak tanır. Google bunu bir blog gönderisinde şu şekilde açıklıyor: "[Gemma Scope,] Gemma 2 tarafından işlenen yoğun ve karmaşık bilgileri analiz edilmesi ve anlaşılması daha kolay bir forma genişleterek açmamıza yardımcı olan özel sinir ağlarından oluşuyor. Araştırmacılar bu genişletilmiş görünümleri inceleyerek Gemma 2'nin kalıpları nasıl tanımladığı, bilgileri nasıl işlediği ve nihayetinde nasıl tahminlerde bulunduğuna dair değerli bilgiler edinebilirler."

Yeni Gemma 2 modellerinin piyasaya sürülmesi, ABD Ticaret Bakanlığı'nın bir ön raporda açık YZ modellerini onaylamasından kısa bir süre sonra gerçekleşti. Raporda, açık modellerin üretken YZ'nin daha küçük şirketler, araştırmacılar, kar amacı gütmeyen kuruluşlar ve bireysel geliştiriciler için kullanılabilirliğini artırdığı belirtilirken, bu tür modellerin potansiyel risklere karşı izlenmesi için yeteneklere duyulan ihtiyacın da altı çizildi.