Paul Nemitz: ‘Kamu yararı için demokrasi, teknoloji ve iş modellerinin önüne geçmelidir’
Paul Nemitz, Avrupa Komisyonu Adalet Genel Müdürlüğü’nün kıdemli danışmanı ve Collège d’Europe’da Hukuk Profesörüdür. Dijital özgürlük konusunda Avrupa’nın en saygın uzmanlarından biri olarak kabul edilen Nemitz, Genel Veri Koruma Yönetmeliği çalışmalarını yönetmiştir. Ayrıca Matthias Pfeffer ile birlikte yeni teknolojilerin bireysel özgürlükler ve toplum üzerindeki etkilerini ele alan The Human imperative: power, freedom and democracy in the Age of Artificial Intelligence adlı kitabın yazarıdır.
Voxeurop: Sizce yapay zeka demokrasi için bir fırsat mı yoksa bir tehdit mi ve neden?
Paul Nemitz: 21. Yüzyılda demokrasinin en büyük görevlerinden birinin teknolojik gücü kontrol etmek olduğunu söyleyebilirim. Gücün kontrol edilmesi gerektiği gerçeğini kabul etmeliyiz. Şirketlerin, devletlerin ya da yöneticilerin gücünü kontrol etmek için yasal bir geçmişe sahip olmamızın iyi nedenleri var. Bu ilke kesinlikle yapay zeka için de geçerlidir.
Tüm teknolojiler olmasa bile birçoğu fırsat unsuruna sahiptir, ancak aynı zamanda riskler de taşır: bunu kimyasallardan veya atom enerjisinden biliyoruz, işte tam da bu nedenle demokrasinin teknolojinin nasıl geliştirildiğini, inovasyonun hangi yönde ilerlemesi gerektiğini ve inovasyon, araştırma ve kullanım sınırlarının nerede olabileceğini çerçeveleme sorumluluğunu üstlenmesi çok önemlidir. Örneğin tehlikeli biyolojik ajanlar, genetik ya da atom enerjisi gibi araştırmaların sınırlandırılması konusunda uzun bir geçmişimiz var: tüm bunlar yüksek oranda çerçevelendirilmişti, dolayısıyla demokrasinin yapay zeka gibi yeni teknolojilere bakması, etkileri hakkında düşünmesi ve sorumluluk alması olağandışı bir şey değil. Bence bu iyi bir şey…
Yani yapay zeka hangi yönde düzenlenmelidir? Yapay zekayı kamu yararı için düzenlemek mümkün mü ve mümkünse bu ne olabilir?
Paul Nemitz: Her şeyden önce bu, demokrasinin teknoloji ve iş modelleri üzerindeki önceliği ile ilgili bir sorudur. Ortak menfaatin neye benzediğine demokrasilerde tam da bu süreç aracılığıyla karar verilir. Parlamentolar ve kanun yapıcılar, ortak menfaatin hangi yönde olması gerektiğine karar verecek yerdir: kanun, demokrasinin en asil konuşma eylemidir.
Birkaç ay önce, düzenleme ve yapay zeka hakkında konuşan bazı teknoloji patronları, hükümetleri kurallar olmadığı takdirde yapay zekanın insanlığı yok edebileceği konusunda uyaran ve düzenleme isteyen bir mektup yazdı. Ancak Evgeny Morozov ve Christopher Wylie gibi birçok eleştirel uzman, yakın zamanda yayınladığımız iki hikayede, bu teknoloji devlerinin yapay zeka kaynaklı yok olma tehdidini kullanarak aslında halkın ve hükümetin dikkatini yapay zeka ile ilgili mevcut sorunlardan uzaklaştırdığını söylüyor. Buna katılıyor musunuz?
Hem günümüzün, dijital ekonominin acil sorunlarına hem de demokrasi ve temel haklara yönelik sorunlara bakmalıyız: dijital ekonomideki güç yoğunlaşması güncel bir sorundur. YZ bu güç yoğunlaşmasına katkıda bulunuyor: araştırmacılar ve start-upçılar gibi YZ’nin tüm unsurlarını işleyen sistemler halinde bir araya getiriyorlar. Bugün, yalnızca teknolojinin kendisinden değil, aynı zamanda bu güç yoğunlaşmasına eklentinin sonuçlarından kaynaklanan acil bir sorunla karşı karşıyayız.”
Ve sonra uzun vadeli zorluklarımız var, ancak her ikisine de bakmalıyız. İhtiyatlılık ilkesi Avrupa’da inovasyonun bir parçasıdır ve iyi bir parçasıdır. Avrupa Birliği’nde bir mevzuat ve birincil hukuk ilkesi haline gelmiştir ve bizi teknolojinin uzun vadeli etkilerine ve bunların potansiyel olarak korkunç sonuçlarına bakmaya zorlamaktadır. Eğer bu olumsuz sonuçların ortaya çıkacağını kesin olarak öngöremiyorsak, ortaya çıkmamalarını sağlamak için bugünden karar vermeliyiz. İhtiyatlılık ilkesi bununla ilgilidir ve mevzuatımız da kısmen bu amaca hizmet etmektedir.
Elon Musk kapsamlı deregülasyonlara ihtiyaç olduğunu tweetledi. Bireysel hakları ve demokrasiyi korumanın yolu bu mu?
Bana göre, ChatGPT gibi yenilikleri piyasaya sürmeden önce yapay zekanın atomik güç gibi olduğunu söyledikleri kitaplar yazanlar ve daha sonra düzenlemeler için çağrıda bulunanlar bundan sonuç çıkarmadılar. Bill Gates’i, Elon Musk’ı, Microsoft’un başkanı Brad Smith’i düşünürseniz, hepsi yapay zekanın riskleri ve fırsatları konusunda çok netti. Microsoft önce açık yapay zekanın büyük bir bölümünü satın aldı ve birkaç milyar dolar kazanmak için piyasaya sürdü, sonra da çıkıp “şimdi yasalara ihtiyacımız var” dedi. Ancak, eğer ciddiye alınsaydı, atom enerjisi ile paralellik, düzenleme yapılana kadar beklemek anlamına gelirdi. Atom enerjisi toplumlarımıza tanıtıldığında, hiç kimsenin aklına bu düzenlemeler oluşturulmadan onu işletmeye başlamak gelmemişti. Teknolojinin yasal olarak düzenlenmesinin geçmişine bakacak olursak, iş sektöründen her zaman bir direniş olduğunu görürüz. Amerikan ve Avrupa arabalarına emniyet kemeri takılması 10 yıl sürdü, insanlar ölüyordu çünkü araba endüstrisi çok başarılı bir şekilde lobi yapıyordu, herkes emniyet kemeri takılırsa ölümlerin yarı yarıya azalacağını bilmesine rağmen.
Bazı işadamlarının dünyadaki en iyi şeyin yasalarla düzenleme yapmamak olduğunu söylemesi beni etkilemiyor: bu, kapitalistlerin ve neoliberalistlerin ıslak rüyasıdır. Ancak demokrasi aslında bunun tam tersi anlamına gelmektedir: demokraside, toplumun önemli meseleleri, ki yapay zeka da bunlardan biridir, şirketlere ve onların topluluk kurallarına ya da öz düzenlemelerine bırakılamaz. Demokratik olan toplumlarda önemli meseleler demokratik yasa koyucu tarafından ele alınmalıdır. Demokrasi bununla ilgilidir.
Ayrıca, ABD Paris’teki iklim anlaşmalarından ayrıldığında eski Başkan Trump’tan duyduğumuz gibi, bu dünyanın tüm sorunlarının teknoloji ile çözülebileceği fikrinin, aslında bu dünyanın tüm büyük meselelerinde olduğu gibi iklim politikasında da yanlış olduğuna inanıyorum. Koronavirüs bize davranış kurallarının kilit önemde olduğunu gösterdi. Bir şeyler üzerinde anlaşabilmek için yatırım yapmalıyız: bugün sorun çözmenin en kıt kaynağı bir sonraki büyük teknoloji ya da tüm bu ideolojik konuşmalar değildir. Günümüzün en kıt kaynağı, insanların demokraside ve ülkeler arasında anlaşabilme becerisi ve istekliliğidir. İster transatlantik ilişkilerde olsun, ister uluslararası hukukta olsun, ister birbirleriyle savaşan tarafların tekrar barışması için olsun, çağımızın en büyük zorluğu budur. Ve teknolojinin tüm sorunları çözeceğini düşünenlerin belli bir kibirle hareket ettiklerini söyleyebilirim.”
Demokratik bir süreç yoluyla yapılacak düzenlemelerin, lobicilerin deregülasyon güçlerini engelleyecek kadar güçlü olacağı konusunda iyimser misiniz?
Şöyle söyleyelim: Amerika’da lobi galip gelir. Büyük anayasa hukuku profesörü Lawrence Lessig i Amerika’da paranın gücü hakkında dinlerseniz ve neden artık Kongre’den büyük teknolojiyi kısıtlayan bir yasa çıkmadığını analiz ederseniz, para çok ciddi bir rol oynuyor. Avrupa’da hala anlaşabiliyoruz. Elbette Brüksel’de lobi çok güçlü ve bunu açıkça konuşmalıyız: büyük teknolojinin harcadığı para, sadece politikacıları değil gazetecileri ve bilim insanlarını da nasıl etkilemeye çalıştıkları. Kamuoyunu etkilemeye çalışan bir GAFAM kültürü var ve kitabımda araç kutularını oldukça detaylı bir şekilde anlattım. Çok güçlüler, ancak demokratik sürecimizin hala işlediğini söyleyebilirim çünkü siyasi partilerimiz ve Parlamento üyelerimiz Amerikalı parlamenterler gibi büyük teknolojinin parasına bağımlı değiller. Bence demokrasimizin hala inovasyon yapabiliyor olmasından gurur duyabiliriz, çünkü bu son teknoloji konularla ilgili yasalar yapmak teknolojik bir mesele değil, gerçekten toplumsal meselelerin merkezinde yer alıyor. Amaç, bu fikirleri yasalara dönüştürmek ve bu yasaların da normal yasalar gibi işlemesini sağlamaktır: mükemmel bir şekilde uygulanan hiçbir yasa yoktur. Bu da inovasyonun bir parçasıdır. İnovasyon sadece teknolojik bir mesele değildir. Evgeny Morozovs’un yapay zeka ve genel olarak büyük teknolojiye bakışının en büyük dayanaklarından biri, teknolojinin her şeyi çözebileceği fikri olarak bahsettiğiniz çözümcülüğe işaret etmektir. Şu anda Avrupa Birliği, yapay zekayı düzenlemesi gereken yapay zeka yasasını tartışıyor. Bu düzenleme nereye doğru gidiyor ve teknoloji lobisinin bu düzenlemeyi ne ölçüde etkilediğini biliyor muyuz? AB kurumları içinde bütçe açısından en büyük lobi olduğunu biliyoruz. Yapay zeka yasasının bugün konuyla ilgili en kapsamlı yasa olduğunu söyleyebilir miyiz? Avrupa’da eşit bir oyun alanına sahip olmak için tek bir yasaya ihtiyacımız var, tüm farklı üye ülkelerde 27 yasaya sahip olmak istemiyoruz, bu yüzden bu bir eşit muamele meselesi. Bu yapay zeka yasası ile ilgili en önemli şeyin, demokrasinin teknoloji ve iş modelleri üzerindeki önceliği ilkesini bir kez daha tesis etmemiz olduğunu söyleyebilirim. Bu çok önemli ve geri kalanı için Konsey ve Avrupa Parlamentosu’nun bir sonraki Avrupa seçimlerinden önce, yani en geç Şubat ayına kadar bu yasanın son hali üzerinde anlaşabileceklerinden çok eminim.” Evgeny Morozov yapay genel zekanın (AGI), yani programlanmaya ihtiyaç duymayan ve dolayısıyla öngörülemeyen davranışlara sahip olabilen bir yapay zekanın yükselişinin çoğu uzmanı endişelendirdiğini söylüyor. Ancak openAI’nin kurucusu Sam Altman gibi destekçiler bunun ekonomiyi hızlandırabileceğini ve “bolluğu artırarak insanlığı yüceltebileceğini” söylüyor. Sizin bu konudaki görüşünüz nedir? Öncelikle, uzmanlaşmış YZ tarafından verilen tüm vaatlerin gerçekten yerine getirilip getirilmediğini görelim. Ben ikna olmadım, AGI’ye giden adımın ne zaman ortaya çıkacağı belli değil. Stuart Russell, “İnsan Uyumlu” kitabının yazarı: Artificial Intelligence and the Problem of Control” kitabının yazarı Stuart Russell, YZ’nin anayasal ilkeler ya da temel haklar gibi genel ilkeleri asla operasyonel hale getiremeyeceğini söylüyor. Bu nedenle ne zaman bir değer ilkesi kararı verilecekse, programlar insanlara geri dönecek şekilde tasarlanmalıdır. Bence bu düşünce bize ve AGI’yi geliştirenlere şimdilik yol göstermeli. Ayrıca AGI’ye sahip olana kadar onlarca yıl geçeceğine inanıyor, ancak atomun parçalanması ile paralellik kurarak, çok yetkin birçok bilim insanının bunun mümkün olmadığını söylediğini ve bir gün sürpriz bir şekilde bir bilim insanının Londra’da bir konuşma yaptığını ve ertesi gün bunun gerçekten nasıl mümkün olduğunu gösterdiğini savunuyor. Dolayısıyla buna ve daha fazlasına hazırlıklı olmamız gerektiğini düşünüyorum. Teknolojinin nasıl gelişeceğine dair pek çok fantezi var ama bence önemli olan kamu idarelerinin, parlamentoların ve hükümetlerin rotadan çıkmaması ve bunu çok dikkatli bir şekilde izlemesi.” Genellikle kapalı kapılar ardında bu teknolojileri geliştirenlerin doğruyu söyleme yükümlülüğüne ihtiyacımız var. AB hukukunda bir ironi var: rekabet davalarında büyük şirketler bize yalan söylediğinde para cezası uygulayabiliyoruz. Örneğin Facebook, WhatsApp’ın ele geçirilmesiyle ilgili tüm hikayeyi bize anlatmadığı için 100 milyondan fazla para cezası aldı. Ancak Komisyon olarak bir yasa teklifinin hazırlanmasında istişarede bulunduğumuzda ya da Avrupa Parlamentosu yasama tartışmalarını veya davalarını hazırlamak için istişarede bulunduğunda hakikati söyleme yükümlülüğümüz yoktur. Ne yazık ki dijital işletmelerin yanı sıra diğer işletmelerin de bu süreçte yalan söylediği uzun bir gelenek var. Bunun değişmesi gerekiyor. Bence ihtiyacımız olan şey, yaptırımı da olan yasal bir hakikat yükümlülüğüdür. Bir kültür değişikliğine ihtiyacımız var, çünkü bize söylenenlere giderek daha fazla bağımlı hale geliyoruz. Ve eğer siyaset işletmelerin söylediklerine bağlıysa, o zaman onları gerçeğe bağlı tutabilmeliyiz. Bu cezaların herhangi bir etkisi var mı? Facebook bir milyar dolar para cezasına çarptırılsa bile, bu herhangi bir fark yaratır mı? Farklı davranmaya başlarlar mı, bu onlar için para ya da etki açısından ne anlama geliyor? Elimizdeki tek şey bu mu? Bence ceza vermek her şey değildir, ancak büyük bir güç yoğunlaşmasının olduğu bir dünyada yaşıyoruz ve karşı güce ihtiyacımız var. Karşı güç de devlet olmalı, yani gerekirse sert bir el ile tüm yasaları uygulayabilmeliyiz. Ne yazık ki bu şirketler büyük ölçüde sadece sert bir ele tepki veriyor. Amerika kapitalizmle nasıl başa çıkılacağını biliyor: insanlar kartel oluşturduklarında, fiyatlar üzerinde anlaştıklarında hapse giriyorlar, Avrupa’da ise girmiyorlar. Bence bu konuda Amerika’dan bir şeyler öğrenmeliyiz, yasalarımızı sert bir şekilde uygulamaya hazır ve istekli olmalıyız, çünkü demokrasi yasaların yapılması ve demokrasinin de yasalara uyulması anlamına gelir. Ve büyük teknoloji için bir istisna olamaz. Bu, daha Amerikan bir yola doğru ilerlememiz gerektiği anlamına mı geliyor? Bu, yasalarımızı uygulamayı ciddiye almamız gerektiği anlamına geliyor ve ne yazık ki bu genellikle ceza kesmeyi gerekli kılıyor. Rekabet hukukunda büyük şirketlerin toplam cirolarının %10’una kadar ceza kesebiliyoruz, bunun bir etkisi olduğunu düşünüyorum. Gizlilik yasasında ise bu oran sadece %4. Ancak bence bu cezalar yine de yönetim kurulu üyelerini şirketlerinin yasalara uymasını sağlamaları konusunda motive edici bir etkiye sahip Bununla birlikte, bu yeterli değildir: demokratik bir toplumda karşı gücün vatandaşlardan ve sivil toplumdan geldiğini unutmamalıyız. Büyük teknoloji karşısında bireyleri hakları için mücadele etmeleri konusunda yalnız bırakamayız. Kamusal yaptırımlara ihtiyacımız var ve bireylerin hakları için mücadele etmeleri için sivil toplumu güçlendirmeliyiz. Bence bu, 21. yüzyılda teknolojinin gücünü kontrol etmenin bir parçasıdır ve inovasyonu yönlendirecektir. İnovasyonun önünde bir engel değil ama kamu yararına ve yolun ortasındaki yasallığa doğru yönlendirir. İşte ihtiyacımız olan da bu! Büyük ve güçlü teknoloji şirketlerinin, “bir şeyleri kırmak” yasaları çiğnemek anlamına geliyorsa, hızlı hareket etmenin ve bir şeyleri kırmanın iyi bir şey olmadığını öğrenmelerine ihtiyacımız var. Sanırım hepimiz inovasyondan yanayız, ancak güçlü oyuncuların yasaları çiğnemesine ve bundan paçayı sıyırmasına izin verirsek bu demokrasimize zarar verir. Bu demokrasi için iyi değildir. Avrupa Komisyonu’nun sanayiden sorumlu üyesi Thierry Breton, Elon Musk’a bir mektup yazarak X’in dezenformasyonu desteklemeye devam etmesi halinde AB’nin bazı yaptırımlarıyla karşılaşabileceğini söyledi. Musk, bu durumda Avrupa’yı terk edebileceklerini ve Avrupa’nın oluşturduğu düzenlemeleri beğenmeyen diğer teknoloji devlerinin de aynı şeyi yapma eğiliminde olabileceklerini söyledi. Peki bu ikisi arasındaki güç dengesi nedir? Çok basit olduğunu söyleyebilirim, ben bu konuda çok basit bir insanım: demokrasiye asla şantaj yapılamaz. Eğer bize şantaj yapmaya çalışırlarsa, onlara gülüp geçmeliyiz: eğer ayrılmak istiyorlarsa ayrılmakta özgürler ve Elon Musk’a Avrupa’dan ayrılırsa borsada iyi şanslar diliyorum. Neyse ki biz hala çok büyük ve karlı bir pazarız, bu yüzden eğer gitmeyi göze alabiliyorsa: hoşçakal Elon Musk, her şeyin gönlünce olmasını dileriz.” Yapay zekanın alışılmadık kullanımının tehlikesi ne olacak? Evet, “konvansiyonel olmayan” yani savaş için kullanılan. Elbette bu bir tehlike, Birleşmiş Milletler’de bu konuda çalışmalar var ve kontrolden çıkan silahlar güvenlikten ve ordunun nasıl çalıştığından anlayan herkes için bir sorun: ordu silahları üzerinde kontrol sahibi olmak istiyor. Geçmişte sadece atom silahlarının yayılmasının önlenmesine ilişkin değil, aynı zamanda küçük silahlar ve kara mayınları gibi kontrolden çıkan silahlar için de ülkelere çok taraflı anlaşmalar imzalatmıştık. Bence dünyanın, insanlığın ve yönetilebilirliğin ortak çıkarı için yapay zekanın askeri amaçlarla kullanımına ilişkin kurallar konusunda ilerleme kaydetmemiz gerekiyor. Bu görüşmeler zordur, bazen anlaşmaya varmak yıllar, hatta bazı durumlarda on yıllar alabilir, ancak sonunda kesinlikle otonom silahlar için ve bu bağlamda yapay zeka için de kurallara ihtiyacımız olduğunu düşünüyorum.” Bahsettiğimiz makalede Chris Wiley’in söylediklerine geri dönecek olursak: mevcut düzenleyici yaklaşım işe yaramıyor çünkü “yapay zekaya mimari gibi değil, bir hizmet gibi davranıyor”. Siz de bu görüşe katılıyor musunuz? Teknoloji hukukunda neyin işe yarayıp neyin yaramadığına ve neyin işe yarayıp neyin yaramadığına ilişkin çıtanın diğer hukuk alanlarından daha yüksek olmaması gerektiğini söyleyebilirim. Hepimiz vergi kanunlarımız olduğunu biliyoruz ve bunları elimizden geldiğince iyi bir şekilde uygulamaya çalışıyoruz. Ancak vergilerini ödemeyerek paçayı sıyıran pek çok kişi ve şirket olduğunu da biliyoruz. Fikri mülkiyet yasalarımız var ve bunlara her zaman uyulmuyor. Cinayet ağır şekilde cezalandırılan bir şeydir, ancak insanlar her gün öldürülmektedir.” Bu yüzden teknoloji hukukunda, teknoloji endüstrisinin söylemi olan “kötü bir yasa yerine hiç yasa olmamasını tercih ederiz” tuzağına düşmememiz gerektiğini düşünüyorum; kötü bir yasa mükemmel bir şekilde uygulanamayan bir yasadır. Benim buna cevabım şudur: mükemmel işleyen bir yasa yoktur ve mükemmel bir şekilde uygulanabilecek bir yasa da yoktur. Ancak bu yasalara karşı bir argüman değildir. Yasalar demokrasinin en asil konuşma eylemidir ve bu da onların bir uzlaşma olduğu anlamına gelir.” Yasalar, bu şirketlerin Parlamento’ya taşıdığı ve bazı partilerin diğerlerinden daha fazla benimsediği lobi çıkarları ile bir uzlaşmadır. Ve yasalar uzlaşma olduğu için ne bilimsel açıdan ne de işlevsel açıdan mükemmeldir. Onlar demokrasinin yaratıklarıdır ve sonuçta, birçok kişi kusurlu olduğunu düşünse bile bir yasa üzerinde anlaşmaya varmamızın daha iyi olduğunu söyleyebilirim. Brüksel’de şunu söylüyoruz: eğer sonuçta herkes çığlık atıyorsa: işletmeler “bu inovasyonun önünde çok fazla engel” diyorsa ve sivil toplum bunun bir lobi başarısı olduğunu düşünüyorsa, o zaman muhtemelen ortasını bulmuşuzdur.” Paul Nemitz ile Voxeurop Live’ın videosunu burada izleyin.
