Avrupa Birliği (AB), yapay zeka teknolojilerinin denetimi konusunda küresel çapta en kapsamlı adımı atan ilk büyük ekonomi oldu. 2 Şubat itibarıyla, “kabul edilemez risk” taşıdığı belirlenen yapay zeka sistemlerinin kullanımı tamamen yasaklandı. Yıllar süren tartışmalar ve düzenleyici çalışmaların ardından yürürlüğe giren AB Yapay Zeka Yasası, yapay zekanın bireyler ve toplum üzerindeki potansiyel zararlarını en aza indirmeyi hedefliyor.

Bu yasa, tüketicilerden kamu güvenliğine kadar geniş bir yelpazeyi kapsayarak, yapay zekanın etik ve güvenilir bir şekilde gelişmesini sağlamayı amaçlıyor. AB’nin yaklaşımı, yapay zeka sistemlerini risk seviyelerine göre sınıflandırıyor ve en üst düzey risk grubuna giren uygulamaların tamamen yasaklanmasını öngörüyor.

Hangi Yapay Zeka Sistemleri Yasaklandı?

AB’nin düzenlemeleri, belirli yapay zeka uygulamalarının kamu güvenliğine, insan haklarına ve toplumsal yapıya zarar verebileceği gerekçesiyle kullanımını kesin olarak yasakladı. İşte “kabul edilemez risk” olarak değerlendirilen ve AB sınırları içinde yasaklanan bazı yapay zeka sistemleri:

• Sosyal Puanlama Sistemleri: Bir bireyin davranışlarını değerlendirerek risk profili oluşturan sistemler artık yasak. Çin’de kullanılan sosyal kredi sistemine benzer uygulamaların Avrupa’da yeri olmayacak.
• Manipülatif Yapay Zeka: Kişilerin bilinçaltını etkileyerek veya aldatıcı yöntemlerle kararlarını yönlendiren yapay zeka sistemleri engellendi.
• Güvenlik Açıklarından Yararlanan Sistemler: Yaş, engellilik durumu veya sosyoekonomik zafiyetlerden faydalanan yapay zeka uygulamaları kullanılamayacak.
• Suç Tahmini Yapan Sistemler: Görünüşe dayalı olarak bireylerin suç işleyip işlemeyeceğini öngören algoritmalar yasak kapsamına alındı.
• Biyometrik Veriye Dayalı Kişisel Tahminler: Kişinin cinsel yönelimi, dini inancı veya diğer hassas kimlik bilgilerini biyometrik analizlerle belirlemeye çalışan sistemler artık yasak.
• Kamu Alanlarında Gerçek Zamanlı Yüz Tanıma: Kolluk kuvvetleri tarafından anlık yüz tanıma verisi toplanmasını sağlayan sistemlerin kullanımı büyük ölçüde yasaklandı.
• Duygu Analizi Yapan Yapay Zeka: İş yerlerinde ve eğitim kurumlarında bireylerin duygularını analiz eden sistemler, mahremiyet ve etik endişeler nedeniyle yasaklandı.
• Geniş Çaplı Yüz Tanıma Veritabanları: İnternetten veya güvenlik kameralarından görüntü toplayarak yüz tanıma sistemleri geliştiren yapay zeka teknolojileri yasak kapsamına alındı.

Bu tür sistemleri geliştiren ve AB’de kullanan şirketler, merkezlerinin nerede olduğuna bakılmaksızın ağır para cezalarına çarptırılacak. İhlalde bulunan şirketler, 35 milyon Euro’ya veya yıllık küresel gelirlerinin %7’sine kadar ceza ödemek zorunda kalabilirler.

Uyumluluk İçin İlk Adımlar ve Teknoloji Devlerinin Yaklaşımı

AB Yapay Zeka Yasası, 1 Ağustos 2024’te yürürlüğe girmiş olsa da, 2 Şubat 2025’e kadar olan süreç, firmaların yasal uyumluluk sağlaması için bir geçiş dönemi niteliğindeydi. Ancak birçok büyük teknoloji şirketi, bu sürecin başında gönüllü olarak kurallara uyma taahhüdü verdi.

Geçtiğimiz yıl Amazon, Google ve OpenAI gibi 100’den fazla şirket, “AB Yapay Zeka Paktı” adı verilen bir anlaşmaya imza atarak yasaya uyum konusunda proaktif adımlar attı. Buna karşın, Meta, Apple ve Fransız yapay zeka girişimi Mistral gibi bazı büyük teknoloji firmaları bu pakta katılmaktan kaçındı.

Ancak bu, söz konusu şirketlerin yasal yükümlülüklerini yerine getirmeyeceği anlamına gelmiyor. Uzmanlar, Meta, Apple ve Mistral gibi şirketlerin yasaklanan yapay zeka kullanım alanlarında zaten faaliyet göstermediğini, dolayısıyla uyum konusunda doğrudan bir risk taşımadığını belirtiyor.

Olası İstisnalar ve Belirsizlikler

Her ne kadar yasaklar katı kurallar içerse de, belirli durumlar için istisnalar da tanındı. Örneğin:

• Kolluk Kuvvetleri İçin Biyometrik Veri Kullanımı: Suçluların yakalanması veya insan hayatını tehdit eden acil durumların önlenmesi amacıyla belirli durumlarda kamusal alanlarda biyometrik veri toplanmasına izin verilebilecek. Ancak, bu kullanım bağımsız denetim organlarının iznine tabi olacak ve bu verilerle doğrudan hukuki kararlar alınamayacak.
• Tıbbi ve Güvenlik Gerekçesiyle Duygu Analizi: Yapay zekanın duygusal durumları analiz etmesi genel olarak yasaklanmış olsa da, terapötik veya güvenlik amaçlı özel durumlarda belirli sistemler kullanılabilecek.

Yasanın uygulanma sürecindeki en büyük belirsizliklerden biri ise diğer AB yasalarıyla nasıl örtüşeceği konusu. AB’de halihazırda yürürlükte olan Genel Veri Koruma Yönetmeliği, Ağ ve Bilgi Güvenliği Direktifi ve Dijital Operasyonel Dayanıklılık Yasası gibi düzenlemeler, yeni Yapay Zeka Yasası ile birlikte nasıl bir uyum içinde çalışacak henüz tam olarak netleşmiş değil.

AB’nin Küresel Etkisi: Yapay Zeka Düzenlemeleri İçin Bir Dönüm Noktası mı?

AB’nin bu yasa ile attığı adım, küresel çapta yapay zeka düzenlemeleri için bir model oluşturabilir. Tıpkı Genel Veri Koruma Yönetmeliği’nin dünya genelindeki veri gizliliği yasalarını etkilemesi gibi, AB Yapay Zeka Yasası da diğer ülkeleri benzer düzenlemeler yapmaya teşvik edebilir.

ABD ve Çin gibi büyük ekonomiler, AB’nin attığı adımları yakından takip ediyor. Özellikle ABD’de, teknoloji firmalarının lobi faaliyetleri ve düzenleyici çerçevenin eksikliği nedeniyle henüz kapsamlı bir yapay zeka yasası oluşturulmuş değil. Ancak AB’nin sert duruşu, ABD ve diğer ülkeleri daha net düzenlemeler yapmaya zorlayabilir.

Yapay Zekada Yeni Bir Dönem Başlıyor

2 Şubat itibarıyla, Avrupa’da yapay zeka için yeni bir çağ başladı. AB, teknoloji devlerinin sorumluluklarını artırarak yapay zekanın etik, güvenli ve insan haklarına uygun şekilde gelişmesini sağlamayı hedefliyor.

Önümüzdeki süreçte, Yapay Zeka Yasası’nın pratikte nasıl uygulanacağı, teknoloji şirketlerinin bu düzenlemelere nasıl uyum sağlayacağı ve diğer ülkelerin benzer adımları atıp atmayacağı büyük merak konusu. Ancak bir gerçek var: AB’nin sert yapay zeka kuralları, küresel teknoloji dünyasında yeni bir standart belirlemiş durumda.