AB’de “Kabul Edilemez Risk” Taşıyan Yapay Zeka Sistemleri Yasaklandı

Avrupa Birliği (AB), 2 Şubat itibarıyla "kabul edilemez risk" taşıdığı değerlendirilen yapay zeka sistemlerini yasaklama yetkisini uygulamaya koydu. AB Yapay Zeka Yasası (AI Act) kapsamında getirilen bu düzenleme, 1 Ağustos 2023’te yürürlüğe girmişti ve şimdi uyum sürecinin ilk aşaması başladı.

Yasanın 5. Maddesi, yapay zeka sistemlerini dört ana risk kategorisine ayırıyor:

1. Asgari risk: E-posta spam filtreleri gibi uygulamalar herhangi bir düzenlemeye tabi değil.
2. Sınırlı risk: Müşteri hizmetleri chatbot’ları gibi sistemler hafif denetim altında.
3. Yüksek risk: Sağlık hizmetlerinde yapay zeka destekli teşhis sistemleri gibi uygulamalar sıkı düzenlemelere tabi.
4. Kabul edilemez risk: Bu gruba giren yapay zeka sistemleri tamamen yasaklanıyor.

AB’de Yasaklanan Yapay Zeka Kullanım AlanlarıAB’de kullanımı yasaklanan yapay zeka sistemleri şunları içeriyor:

• Sosyal puanlama sistemleri: Kişinin davranışlarına dayalı risk profilleri oluşturan YZ sistemleri.
• Manipülatif YZ: İnsanların bilinçaltı tekniklerle veya aldatıcı yöntemlerle kararlarını etkileyen sistemler.
• Savunmasız kişileri hedef alan YZ: Yaş, engellilik veya sosyoekonomik durum gibi unsurları istismar eden yapay zeka uygulamaları.
• Suç tahmini yapan YZ: Bir kişinin dış görünüşüne dayanarak suç işleme olasılığını öngören sistemler.
• Biyometrik YZ: Cinsel yönelim veya diğer kişisel özellikleri çıkarmak için biyometrik verileri kullanan yapay zeka sistemleri.
• Gerçek zamanlı biyometrik izleme: Kamuya açık alanlarda kolluk kuvvetleri tarafından kullanılan yüz tanıma ve biyometrik veri toplama sistemleri.
• Duygu analizi yapan YZ: İş yerleri ve okullarda bireylerin duygusal durumlarını analiz eden yapay zeka uygulamaları.
• Yüz tanıma veri tabanı oluşturma: Güvenlik kameraları veya internetten toplanan görüntülerle yüz tanıma sistemleri geliştiren YZ sistemleri.

Bu tür sistemleri AB’de kullanan şirketler, yıllık gelirlerinin %7’si veya 35 milyon avro gibi ağır para cezalarıyla karşı karşıya kalabilir.

‍Uyum Süreci ve Şirketlerin Hazırlığı

‍Şirketlerin 2 Şubat 2024 itibarıyla yeni düzenlemelere tam uyum sağlaması bekleniyor, ancak yaptırımlar hemen yürürlüğe girmeyecek. İngiliz hukuk firması Slaughter and May’in teknoloji departmanı başkanı Rob Sumroy, TechCrunch’a yaptığı açıklamada "Şirketlerin bilmesi gereken bir sonraki büyük tarih ağustos ayı olacak. O zamana kadar yetkili otoriteler netleşecek ve yaptırımlar devreye girecek." dedi.

Geçen yıl 100’den fazla şirket, AB Yapay Zeka Yasası’na erken uyum sağlamak için AB Yapay Zeka Paktı’na gönüllü olarak katıldı. Amazon, Google ve OpenAI gibi büyük teknoloji firmaları, yüksek risk taşıyan yapay zeka sistemlerini belirlemeyi taahhüt etti. Ancak Meta, Apple ve Fransız girişimi Mistral, bu anlaşmaya katılmadı.

Sumroy, bu şirketlerin düzenlemelere uymama ihtimalinin düşük olduğunu belirterek "Yasaklanan kullanım alanları çoğu şirketin zaten kaçındığı uygulamalar arasında yer alıyor." dedi.

‍Muhtemel İstisnalar

‍AB Yapay Zeka Yasası bazı durumlarda istisnalar tanıyor:

• Kolluk kuvvetleri, kamuya açık alanlarda biyometrik veri toplama sistemlerini yalnızca hedefli bir arama (örneğin, kaçırılmış bir kişinin bulunması) veya hayati tehlike arz eden acil durumlar için kullanabilecek. Bu kullanım, yetkili bir kurum tarafından özel izin gerektirecek.
• Duygu analizi yapan yapay zeka sistemleri, yalnızca tıbbi veya güvenlik amaçlı olarak işyerlerinde ve eğitim kurumlarında kullanılabilecek.

AB Komisyonu, Kasım 2024’te sektör paydaşlarıyla yaptığı görüşmelerin ardından 2025’in başlarında ek yönergeler yayımlayacağını duyurdu. Yönergeler henüz yayımlanmadı.

Sumroy ayrıca YZ Yasası’nın diğer düzenlemelerle nasıl etkileşime gireceğinin belirsiz olduğunu belirtti. "Yapay zeka düzenlemeleri izole bir çerçeve içinde işlemeyecek. GDPR, NIS2 ve DORA gibi mevcut yasal düzenlemelerle nasıl entegre edileceğini anlamak, YZ Yasası’nın kendisini anlamak kadar önemli olacak." dedi.

AB’nin yapay zeka düzenlemeleri, özellikle küresel teknoloji şirketleri için yeni bir dönemin başlangıcı olabilir. Şirketlerin bu düzenlemelere tam uyum sağlaması için belirlenen süre daralırken, ilerleyen aylarda sektörde nasıl bir etki yaratacağı yakından izlenecek.

‍

‍

Kaynak: https://techcrunch.com/2025/02/02/ai-systems-with-unacceptable-risk-are-now-banned-in-the-eu/?utm_source=www.therundown.ai&utm_medium=newsletter&utm_campaign=openai-reveals-chatgpt-agent-for-deep-research&_bhlid=8da18fc43aa65277f908656b9b25fd8317d1cd64