AB GÜNDEMİ:AB Yapay Zekâ Yasası Yürürlükte: Dünyanın İlk Yapay Zekâ Yasası’nın Detayları

AB Yapay Zekâ Yasası Yürürlükte: Dünyanın İlk Yapay Zekâ Yasası’nın Detayları

Dünyanın ilk kapsamlı yapay zekâ odaklı mevzuatı olan AB Yapay Zekâ Yasası, 1 Ağustos 2024 tarihinde resmen yürürlüğe girdi. Dönüm noktası niteliğindeki bu yasa, güvenilir yapay zekâ sistemlerinin yaratılmasını ve denetimini amaçlıyor. Yapay zekâ uygulamalarını düzenlemek için risk temelli bir yaklaşım getiren yasanın hükümleri, Şubat 2025’ten başlayarak aşamalı olarak yürürlüğe girecek ve 2026 yılından itibaren tamamen uygulanabilir hâle gelecek. Kapsamı AB sınırlarının ötesine uzanan yasanın, özellikle yapay zekâ sistemleri üzerinde geniş bir denetleme yetkisi bulunuyor. Yasa, ihlal durumunda caydırıcı cezaların önünü de açıyor. Ayrıca, AB vatandaşlarının haklarını ve ulusal güvenliği gözetirken, Avrupalı işletmelerin de yapay zekâ çözümlerinden faydalanmasını destekliyor. Yasadan doğrudan ve dolaylı bir şekilde etkilenecek olan Türkiye’nin ve Türkiye’de yerleşik olan yapay zekâ aktörlerinin de şimdiden yasaya uyum için hazırlık yapması gerekiyor.

İnsan zekâsına ihtiyaç duymadan öğrenebilen ve karar verebilen bilgisayar sistemlerinden oluşan yapay zekânın (artificial intelligence-AI) geliştirilmesiyle birlikte hem devletler hem de iş dünyası, büyük soru işaretleriyle karşı karşıya kalmıştı. Yapay zekâ teknolojisi ilerlemeye devam ettikçe daha fazla mal ve hizmet pazara girmiş, iş süreçleri ve sosyal yapılar köklü bir şekilde değişmeye başlamış ve bu hızlı gelişim, yeni güvenlik açıklarını beraberinde getirerek acil düzenleme ihtiyacını doğurmuştu.

Avrupa Komisyonu da yeni bir alan olan yapay zekâya dair soru işaretleri karşısında dünyanın ilk yapay zekâyı düzenleme girişimi olarak Nisan 2021’de Yapay Zekâ Yasası teklifini yayımlamıştı. Komisyonun bu girişiminin ardından başta ABD olmak üzere Birleşik Krallık ve diğer ülkeler, yapay zekâyı düzenleme girişimlerini başlatmıştı. Ancak, hem durdurulamaz bir şekilde gelişen yapay zekâ teknolojisi karşısında hem de yapay zekânın nasıl düzenlenmesi gerektiğiyle ilgili tecrübesizlikle birlikte bu girişimler oldukça yavaş kalmıştı. Nitekim AB Konseyi ve AP’de, Yapay Zekâ Yasası’nın müzakereleri, uzun ve hararetli geçmişti. Yaşanan belirsizliğin ardından yasa, 13 Mart 2024’te AP’nin onayını almıştı. 12 Temmuz 2024 tarihine gelindiğinde ise AB Resmî Gazetesi’nde “Yapay Zekâya İlişkin Kuralları Belirleyen 2024/1689 sayılı AP ve AB Konseyi Tüzüğü” yayımlandı. Bu yayımlanma ile AB genelinde yapay zekâ sistemlerini düzenleyen ilk kapsamlı yatay yasal çerçeve oluşturuldu. 1 Ağustos 2024 tarihinde tüm AB üye ülkeleri için yürürlüğe giren yasa, 2 Ağustos 2026 tarihinden itibaren tam olarak uygulanmaya başlayacak. Ayrıca yasanın, tam olarak uygulamaya girene kadar farklı kurallar getirmesinin önü de açılmış durumda.

AB Yapay Zekâ Yasası Kimler için Uygulanacak?

Yasa hem tüzel kişiler hem de gerçek kişiler için geçerli olacak. Kapsamı ise sektör veya bölge fark etmeksizin AB sınırlarının ötesine kadar uzanıyor. Bu bağlamda yasa, tıpkı Kişisel Verileri Koruma Tüzüğü gibi AB dışında yer alan aktörlere de etki ediyor:

• • Yapay zekâ sistemlerini piyasaya süren ve hizmete sunan sağlayıcılar (Birlik içinde veya üçüncü bir ülkede kurulmuş veya yerleşik olup olmadığına bakılmaksızın);
• • Genel amaçlı yapay zekâ modellerini piyasaya süren sağlayıcılar (Birlik içinde veya üçüncü bir ülkede kurulmuş veya yerleşik olup olmadığına bakılmaksızın);
• • Kuruluş yeri Birlik içinde olan veya yerleşik olan yapay zekâ sistemlerinin dağıtıcıları;
• • Yapay zekâ sistemi tarafından üretilen çıktının Birlik içinde kullanıldığı, kuruluş yeri üçüncü bir ülkede olan veya bulunan yapay zekâ sistemlerinin sağlayıcıları ve dağıtıcıları;
• • Yapay zekâ sistemlerinin ithalatçıları ve dağıtıcıları;
• • Kendi ürünleriyle, kendi adları veya ticari markaları altında bir yapay zekâ sistemini piyasaya süren veya hizmete sunan ürün üreticileri;
• • Birlik içinde yerleşik olmayan sağlayıcıların yetkili temsilcileri;
• • Birlik içinde yerleşik olan etkilenen kişiler.

Yasanın Risk Tabanlı Yaklaşımı

AB Yapay Zekâ Yasası, yapay zekânın tanımını yapmadan, yapay zekâ sistemlerini ve genel amaçlı yapay zekâ modellerini tanımlıyor. Bu durum kimileri için bir eleştiri konusu olsa da sürekli gelişen ve değişen yapısıyla yapay zekânın hemen hemen her sektörde ve alanda kendisini göstermesinden dolayı, yapay zekâyı belirli sınırlar içine dâhil ederek belirli bir tanımının yapılması zorlaşıyor. Yasaya göre yapay zekâ sistemleri, farklı ölçülerde bağımsız bir şekilde çalışabilen ve bu doğrultuda tasarlanmış makine tabanlı sistemler olarak belirtiliyor. Bu tanımlama, OECD’nin Kasım 2023’te yapay zekâ sistemleri için yaptığı tanıma oldukça benziyor. Genel amaçlı yapay zekâ sistemleri ise bağımsız bir şekilde izleme yöntemiyle büyük miktarda veri toplayan ve kullanan, çeşitli alt sistemlere veya uygulamalara entegre edilebilen yapay zekâ modelleri olarak açıklanıyor.

Yasada, yapay zekâ sistemleriyle ilişkili olarak, bu sistemlerin sahip olduğu risk düzeyine göre farklı düzenleyici gereklilikler atanıyor ve risk temelli bir yaklaşım benimseniyor. Dört kategoride tanımlanan bu risklere baktığımızda ilk olarak karşımıza “Kabul Edilemez Risk” kategorisi çıkıyor. Yasanın 5’inci Maddesinde temel haklara açık bir tehdit oluşturan yapay zekâ uygulamaları yasaklanırken, davranışları manipüle eden veya eylemleri çarpıtmak için güvenlik açıklarından (örneğin, yaş veya engelliliğe dayalı) yararlanan yapay zekâ sistemleri de bu kapsama alınıyor. Ayrıca bu başlık altında, yapay zekânın gerçek zamanlı kategorizasyon yaparak veri toplaması da yasaklanıyor (Duygu durumu analizi gibi belirli biyometrik sistemleri de içeriyor). “Yüksek Risk” kategorisinde tanımlanan yapay zekâ sistemlerinin risk azaltma stratejilerini uygulaması, yüksek kaliteli veri setlerini kullanması, faaliyet günlüklerini tutması, ayrıntılı belgeleme sağlaması, insan haklarını gözetmesi ve yüksek dayanıklılık, doğruluk ve siber güvenlik standartlarına ulaşması gerekiyor. Yüksek riskli yapay zekâ sistemleri örnekleri arasında kritik altyapılar (örneğin, enerji ve ulaşım), tıbbi cihazlar, eğitim veya istihdama erişimi belirleyen sistemler yer alıyor. “Sınırlı Risk” kategorisinde ise sohbet robotları gibi sınırlı riske sahip yapay zekâ sistemlerinin, kullanıcıları yapay zekâ ile etkileşime girdikleri konusunda bilgilendirecek şekilde tasarlanmaları gerektiği belirtiliyor. Özellikle giderek korkutucu şekilde popüler olan ‘deepfakes’ üreten veya davranışları manipüle eden yapay zekâ dağıtıcılarının, içeriklerinin yapay doğasını açıklaması zorunlu hâle geliyor. “Düşük Risk” kategorisinde ise yapay zekâ destekli video oyunlarının veya spam filtreleri gibi minimum riske sahip yapay zekâ sistemlerinin herhangi bir kısıtlamaya uğramadığı görülüyor. Yine de bu sistemleri kullanan şirketlerin, gönüllü davranış kurallarını takip etmeyi tercih etmesi bekleniyor.

Tüm bu kategorilere bakıldığında “kabul edilemez risk taşıyan sistemler”, “yüksek riskli sistemler” ve “düşük riskli sistemler” arasında birbirini dışlayan bir hiyerarşiye sahip olduğu görülüyor. Kısacası, bir sistem bahsedilen kategorilerden birisinde ise diğer kategorilerde yer alamıyor. Ancak durum, sınırlı riskli sistemler için farklı. Yüksek ya da düşük riskli bir sistem, aynı zamanda, eylemlerine göre sınırlı riskli kategorisi altına da dâhil olabiliyor.

Yasanın Caydırıcılığı: Yasa Kapsamındaki Cezalar

AB, her zaman olduğu gibi bu yasaya uyumu azami düzeye getirmek için yasaya uyumsuzluk durumunda caydırıcı cezalar getiriyor. Yasanın ilgili 5’inci Maddesinde yasaklanmış yapay zekâ uygulamaları sağlayıcılarının, eylemlerine devam etmesi durumunda “35 milyon avroya kadar idari para cezası ödemelerinin ya da bir önceki mali yılda dünya çapındaki toplam yıllık cirosunun %7'sine kadar para cezasına tabi olmalarının” yolu açılıyor. Madde 5 dışında kalan yapay zekâ uygulamalarının ise yasaya uymamaları durumunda “15 milyon avro idari para cezası ödemeleri ya da bir önceki mali yılda dünya çapındaki toplam yıllık cirosunun %3'üne kadar para cezasına tabi” oldukları belirtiliyor.

Yapay Zekâ Ofisi: Genel Amaçlı Yapay Zekâ Modeli için İstişare Başlatıldı

Avrupa Komisyonu, İletişim Ağları, İçerik ve Teknoloji Genel Müdürlüğü Avrupa Yapay Zekâ Ofisi’ni kurduğunu 29 Mayıs 2024 tarihinde duyurmuştu. Ofisin, 27 AB üye ülkesinin tamamında genel amaçlı yapay zekâ modelleri ve sistemleri için yasanın gerekliliklerine uyumu denetlemekten ve uygulamaktan sorumlu olduğu duyuruldu. Ofisin görevleri arasında, genel amaçlı yapay zekâ sistemleriyle ilgili ortaya çıkan sistemik risklerin izlenmesi, yetenek ve modellerin değerlendirmelerinin yapılması ve olası ihlal ve uyumsuzluk vakalarının araştırılması yer alıyor. Ayrıca, ofisin gönüllü uygulama kuralları geliştirmesi, yapay zekâ konularında uluslararası iş birliğine öncülük etmesi, üye ülkeler arasında ortak uygulama eylemlerini desteklemesi, ulusal düzenleyiciler arasındaki çabaları koordine eden Yapay Zekâ Kurulu için sekretarya görevini üstlenmesi de planlanıyor. Dahası, şirketlerin kontrollü ortamlarda yapay zekâ sistemlerini test etmelerine olanak sağlamak için kum havuzlarının (sandbox) kurulmasını kolaylaştırması ve uyum çabalarına yardımcı olmak için küçük ve orta ölçekli işletmelere bilgi ve kaynak sağlaması bekleniyor.

Planlanana göre AB Yapay Zekâ Ofisi, genel amaçlı yapay zekâ sistemleri için uygulama kriterlerini 2025 yılının ilk yarısında yayımlayacak. Bu yüzden ofis, bu modellerle ilgili istişareyi başlattı. Çok paydaşlı bir tartışma ve başvuru platformu olan bu istişare, 18 Eylül 2024 tarihinde sonlanacak.

Önemli Tarihler Neler?

AB Yapay Zekâ Yasası’nın getirdiği veya getireceği yükümlülüklere uyulması, uyum için gerekli kurumsal sistemlerin kurulması ve ilgili aktörlerin bu yükümlülüklere hazırlanması için zaman gerektiği, bizzat AB yasa koyucular için de kabul edilen bir gerçek olarak karşımıza çıkıyor. Yasa, 1 Ağustos 2024 tarihinde yürürlüğe girse de kurallar kademeli bir şekilde ve belirli bir zaman çizelgesi dâhilinde uygulanacak.

Yapay zekâ kullanıcıları ve geliştiricilerinin, yasanın hangi bölümlerinin kendi faaliyetleri için geçerli olduğunu değerlendirmesi ve yükümlülüklerini ilgili son tarihlere uygun olarak zamanında yerine getirmek için aşağıdaki gibi yasaya uyum programı oluşturması önem arz ediyor:

• • 1 Ağustos 2024: AB Yapay Zekâ Yasası, resmî olarak yürürlüğe girdi.
• • 2 Şubat 2025: Tüm yapay zekâ sistemleri sağlayıcıları ve dağıtıcıları, yapay zekâ sistemlerinin işletimi ve kullanımıyla ilgilenen kişileri, yapay zekâ okuryazarlığı konusunda bilgilendirmesi gerekiyor. Bireylerin zaaflarını istismar eden, yüz tanıma veri tabanı oluşturmak için yüz görüntüleri toplayan yapay zekâ sistemleri gibi “Kabul Edilemez Risk” kategorisinde tanımlanan tüm yapay zekâ sistemleri yasaklanacak.
• • 2 Mayıs 2025: AB Yapay Zekâ Ofisi, genel amaçlı yapay zekâ sistemleri için uygulama kriterlerini yayımlayacak.
• • 2 Ağustos 2025: Tüm genel amaçlı yapay zekâ sistemlerinin, yasa yükümlülüklerine uyması gerekecek ve uyulmaması durumunda da cezai uygulama başlayacak.
• • 2 Şubat 2026: Avrupa Komisyonu, yüksek riskli sistemlerle ilgili daha fazla rehber kurallar yayımlayacak.
• • 2 Ağustos 2026: Yüksek riskli sistemlere ilişkin uyumluluk yükümlülükleri yürürlüğe girecek. Ancak, bu sistemlerden herhangi birisi, AB sağlık ve güvenliğiyle ilgili bir yapay zekâ ürününe tabi ise 2 Ağustos 2027’den itibaren yasaya tam olarak uyması gerekecek.

Türkiye Ne Yapmalı?

Kısaca AB Yapay Zekâ Yasası olarak adlandırılan düzenlemenin bir AB tüzüğü olduğu vurgulanmalı. Yasal çerçevede “Yapay Zekâ Hakkında Uyumlaştırılmış Kurallar Getiren ve Bazı Birlik Yasama Tasarruflarını Değiştiren (AB) 2024/1689 sayılı Tüzük” olarak bilinen düzenleme, ek bir düzenlemeye gerek kalmaksızın tüm AB Üye Devletlerinde yürürlüğe girerken tüzükte belirtilen takvime göre de aşamalı bir şekilde uygulanacak.

Yukarıda da belirtildiği gibi oldukça tartışmalı bir müzakere sürecinden sonra AP ve AB Konseyi tarafından kabul edilen ve yürürlüğe giren tüzüğün, hazırlık aşaması da oldukça uzundu. Yapay zekâ teknolojisinin doğasından -sürekli gelişmesinden ve genişlemesinden- kaynaklanan uzun sürecin, tüzüğün uygulanmasına da yansıması bekleniyor.

Türkiye’nin yapay zekâ düzenlemelerine bakıldığında;

• • Ulusal Yapay Zekâ Stratejisi 2021-2025, 2021/18 sayılı Cumhurbaşkanlığı Genelgesi 20/08/2021 tarihli ve 31574 sayılı Resmî Gazete’de yayımlanarak yürürlüğe girmişti.
• • 24 Haziran 2024 tarihinde, TBMM’de, Türkiye’nin ilk yapay zekâ kanun teklifi sunulmuştu.
• • 24 Temmuz 2024 tarihinde, Ulusal Yapay Zekâ Stratejisi 2024-2025 Eylem Planı yayımlanmıştı.

Türkiye’nin hem bir AB aday ülke olarak hem de AB ile Gümrük Birliği’nden kaynaklanan ilişkilerinden dolayı yapay zekâ ile ilgili mevcut mevzuatını, AB Yapay Zekâ Yasası ile uyumlu hâle getirmesi gerekiyor. Ayrıca yasa, yapay zekâyla ilgili ilk düzenleyici çerçeve olarak uluslararası gelişmeleri önemli ölçüde etkileme potansiyeline sahip. AB dışında da uygulama alanı bulacağı için, Türkiye yasadan dolaylı (uluslararası gelişmeler) ve doğrudan (adaylıktan ve Gümrük Birliği’nden kaynaklı) bir şekilde etkileneceği için ilgili hazırlıkları yapması gerekiyor. Özellikle, yapay zekâ kapsamındaki teknik ve hukuki değerlendirmelerin analizinin yapılmasının güçlüğü göz önüne alındığında, hazırlık sürecinin de uzun süreceği tahmin ediliyor. Bu yüzden yasa kapsamına girecek aktörlerin şimdiden değerlendirme ve analiz süreçlerini başlatmaları gerekiyor.

Sema Nur Yeniyıldız, İKV Uzmanı