KAGİDER Yönetim Kurulu Üyesi Seda Yekeler Yazdı: AVRUPA BİRLİĞİ YAPAY ZEKA YASASINA GÖRE GİRİŞİMCİLİK

KAGİDER Üyesi | 26 gün önce | 5 dakikalık okuma

AVRUPA BİRLİĞİ YAPAY ZEKA YASASINA GÖRE GİRİŞİMCİLİK

Avrupa Parlamentosu, yapay zekâ (AI) düzenlemelerinde önemli bir adım attı ve yapay zekâ yasasını parlamentoda ezici bir çoğunlukla kabul etti. Böylelikle, dünyanın ilk kapsamlı yapay zekâ yasası olan “AI Act” 2024 yılının sonlarında yürürlüğe girecek. Bu yasanın temel amacı yapay zekâ terimi altındaki geniş teknoloji ailesi ile ilişkilendirilen potansiyel riskleri yönetmek ve Avrupa tüketicileri tarafından kullanıldığında, yapay zekânın etik ve sorumlu kullanımı için kurallar belirlemek ve vatandaşların hakları arasında bir denge kurabilmek.

Bu yasaya göre, eğitim teknolojileri, sağlık teknolojileri, finans teknolojileri, ulaşım, işe alım ve istihdam sektörlerinde faaliyet gösteren girişimler potansiyel olarak "yüksek riskli" olarak kabul edildi ve bu alanlarda iş yapan girişimlerin her birinin oldukça detaylı bir belgeleme, sınıflandırma ve denetim süreçlerinden geçmek zorunda kalacağı belirtildi.

Eğer girişiminizin teknolojisinde yapay zekâ gömülü ise, yapay zekâ içeren bir gelir modeliniz varsa ya da LLM ya da NLP kullanıyorsanız özellikle de yasada belirtilen “yüksek riskli” gruptaysanız bilmeniz gereken temel noktalar şunlar:

· Yasa insanların güvenliğine zarar veren veya ayrımcı olan yapay zekâ uygulamalarını yasaklayan risk temelli bir yaklaşım benimsiyor.

· Kesin olarak yasaklanmış bazı sistemler arasında, 'bilinçaltı veya benzer amaçlı olarak manipülatif teknikler uygulayan, insanların zayıflıklarından yararlanan veya sosyal skorlama için kullanılan sistemler (insanları sosyal davranışlarına, sosyo-ekonomik durumlarına, kişisel özelliklerine göre sınıflandırma) bulunuyor.

· Yasaya göre, bireyler, sağlık, güvenlik, temel haklar, çevre, siyasi kampanyalarda seçmenleri etkileme ve sosyal medya platformları tarafından kullanılan öneri sistemlerinde yapay zekâ içeren 'yüksek riskli' sistemlerin olumsuz risklerinden korunma hakkına sahip olacaklar, böylelikle yasa yapay zekâ sistemlerinin olumsuz etkilerinden bireyleri ve kuruluşları koruyacak.

· Özellikle sağlık gibi belirli dikeylerde teknoloji oluşturan girişimler yasada belirtilen ek açıklamaları ve belgeleri sunmak zorunda kalacak.

· Eğer girişiminizin teknolojisi uzaktan gerçek zamanlı biyometrik tanımlama kullanıyorsa, terörist saldırılar ya da kayıp kişileri bulma gibi belirli istisnai durumlar haricinde, gerçek zamanlı biyometrik tanımlama kullanımının yasaklandığını bilmelisiniz.

· Eğer üretken yapay zekâ (Generative AI) kullanıyorsanız, Avrupa Parlamentosunun, temel modeller ve üretken yapay zekâ sistemlerine odaklanan katmanlı bir yaklaşım getirdiğini bilmelisiniz.

· Şeffaflık ve hesap verebilirlikle ilgili olarak ise Avrupa Parlamentosu yapay zekâ tarafından üretilen içerikler için zorunlu etiketleme ve telif hakkı korumalı eğitim verilerini içeren üretken yapay zekâ modellerinin açıklanmasını zorunlu kılıyor. Bu gereklilik, ChatGPT ve Bard gibi modeller için geçerli olacak.

· Eğer modeller geliştiriyorsanız, temel modellerin sağlayıcılarının ve geliştiricilerinin daha yüksek bir standartta tutulacağını ve modelin yüksek riskli bir kategoriye girip girmediğini değerlendirmeleri gerektiğini bilmelisiniz ve modellerinizin AB veri tabanına piyasaya sürülmeden önce kaydedilmesi gerekeceği de önemli bilgiler arasında.

Yasa sonrası beklenen önemli yenilikler

Yasa, yapay zekâ girişimlerini ve inovasyonu desteklemek için çeşitli önlemleri içeriyor. En dikkat çekici olan ise, yüksek performanslı bilgisayarlar etrafında 'AI fabrikaları' kurma planı. Bu fabrikalar hızlı makine öğrenimi ve büyük genel amaçlı Yapay Zekâ modellerinin eğitimi için yeniden yapılandırılacak. Yapay zekâ girişimlerine ve KOBİ'lere hesaplama gücü sağlamanın yanı sıra, bu merkezler algoritma geliştirme, test etme, değerlendirme ve büyük ölçekli yapay zekâ modellerini doğrulama konularında destek sunacaktır.

Öte yandan, Horizon Europe ve Dijital Avrupa programları aracılığıyla üretken yapay zekâ (generative AI) için daha fazla finansal destek vaat edilmekte olup bu da 2027'ye kadar ek 4 milyar avroluk bir kamu ve özel yatırımı beraberinde getirecek. Bu, üretken yapay zekâ alanındaki AB yetenek havuzunu güçlendirmeye yönelik girişimlerle birlikte, yapay zeka modellerini eğitmek için veri politikaları ve yeni ve gelişmekte olan yapay zeka uygulamalarının geliştirilmesini destekleyecek.

Yasa sonrası büyük şirket yöneticileri neler dedi?

Protein tasarımı alanında AI kullanan Cradle şirketinin kurucu ortağı ve CEO'su Stef Van Grieken, yapay zekâ yasasında yetenek ve yüksek kaliteli, çok dilli veri setlerine erişim gibi olumlu unsurların olduğunu görüyor. Ancak yasanın diğer yönleriyle ilgili olarak, pek çok açıdan eksik kaldığını düşünüyor. "Bu duyurulardan gerçekten harika araştırmalar çıkacağını düşünüyorum ancak milyar dolarlık şirketler göreceğimizi düşünmüyorum” dedi.

Hessen Yapay Zekâ Merkezi'nin girişim faaliyetlerini yönlendiren AI Startup Rising'in lideri Tobias Kehl "Ek desteklerin gelmesini takdir ediyoruz. Ancak, para ve hesaplama desteği, minimum bürokrasi ile erişilebilir olmalı” dedi.

Hırvatistan AI Derneği'nin başkanı Martina Silov "Bu yasa girişimlere çok yardımcı olabilir, ancak süreçlerin iyi tanımlanmış ve kullanımının da kolay olması gerekiyor, aksi takdirde bir engel haline gelir," dedi. Geçmiş AB girişim destek girişimlerinin ünü göz önüne alındığında, bu, Komisyon'un telafi etmesi gereken bir alan. "Birçok girişimin varsayımı, başvurdukları şeyi asla alamayacakları yönündedir ve Komisyon bu ön yargıdan kurtulabilirse, girişimciler bu fırsatlara çok daha istekli bir şekilde yaklaşırlar” şeklinde ekledi.

Prag'daki AI uzmanı Look AI Ventures'ın yatırım komitesi üyesi Martin Dostál ise yapay zekâ yasasının talepleri birçok kişinin öncelikli olarak aklında, özellikle de güvenilir yapay zekâ üzerindeki vurgusu göz önüne alındığında. "Güvenilir uygulamaların geliştirilmesi, büyük ölçekli güvenilir modellerin oluşturulması da dahil olmak üzere, herkes için bir zorluk olacak, girişimciler dahil" dedi.

Sevgili girişimciler, Avrupa Parlamentosu'nun yapay zekâ yasasını kabul etmesi hemen yürürlüğe girmesi anlamına gelmese de Avrupa Birliği Bakanlar Konseyi ve Avrupa Komisyonu ile kurumlararası müzakereler için sahneyi belirler. Bu müzakereler yüksek risk kategorilerini, temel hakları ve temel modellerin düzenlenmesini tanımlayacaktır. Belirli teknik yönler, yönetişim, inovasyon ve yapay zekâ tanımı gibi konular teknik düzeyde çözülebilirken, önemli konular dikkatli bir şekilde tartışılacaktır. Uygulamada, metnin, yatay standartlara ISO güvenlik sertifikalarında görülen dilin ödünç alınmasıyla aktarılması amaçlanmaktadır, sektöre özgü yaklaşımlar ise devam edecektir. Yasanın yürürlüğe girmesine kadar hala zamanımız olmasına rağmen, Avrupa Parlamentosu'nun yapay zekanın mevcut konumunu kabul etmesi, teknolojinin düzenlenmesinde önemli bir kilometre taşını işaret ediyor. Müzakereler ilerledikçe Avrupa'nın küresel yapay zekâ yönetimini şekillendirme rolü de giderek etkili hale gelecektir.


KAGİDER Yönetim Kurulu Üyesi

Seda Yekeler



KAGİDER Üyesi

Girişimci

KAGİDER Üyesi

Önerilen Blog Gönderileri