Louisville Üniversitesi’nden saygın yapay zeka güvenliği araştırmacısı Prof. Roman Yampolskiy, insanlığın varoluşsal bir tehlikeye doğru koşar adım ilerlediğini ve tüm bunların muhtemelen ileri düzey yapay zekalar tarafından yönetilen bir simülasyonun parçası olduğunu öne sürüyor.
Yapay zeka güvenliği konusunda onlarca yıllık araştırma deneyimine sahip Prof. Roman Yampolskiy ile yapılan kapsamlı röportajda, insanlığın karşı karşıya olduğu en büyük tehditlerden biri olan kontrolsüz yapay zeka gelişimi ve bunun olası sonuçları masaya yatırıldı. Siber güvenlik ve biyometri alanlarında yüzlerce akademik makaleye imza atan Yampolskiy, 2010 yılından bu yana özellikle ileri düzey yapay zeka sistemlerinin güvenliği üzerine çalışmalar yürütüyor.
Prof. Yampolskiy, insanların yapay zeka tehdidini yeterince ciddiye almamasının altında yatan psikolojik nedenleri analiz ediyor. Araştırmacıya göre, bu durum insanların kendi ölümlülüklerini reddetmesine benzer bir bilişsel önyargıdan kaynaklanıyor. “Her saniye ölüme biraz daha yaklaşıyoruz ve çoğumuz bu konuda pek bir şey yapmıyoruz. Hükümetler bütçelerinin %99’unu yaşlanmayı çözmeye ayırmıyor, 100 yaşındaki süper zenginler bile tek önemsemesi gereken sorunu çözmek için paralarını harcamıyor” diyen Yampolskiy, aynı bilişsel önyargının şimdi insanlık düzeyinde bir soruna dönüştüğünü belirtiyor.
Yapay zeka laboratuvarlarının davranışlarının arkasındaki itici güçleri analiz eden Yampolskiy, özellikle milyarderlerin rolüne dikkat çekiyor. “Milyarderler tipik insan sorunlarıyla – sağlık sigortası veya yiyecek gibi – ilgilenmiyorlar. Onlar evrenin ışık konisini ele geçirmek gibi çok daha büyük hedefler peşinde koşuyorlar” diyen araştırmacı, bu durumun tehlikeli bir rekabet ortamı yarattığını vurguluyor.
Bu rekabet ortamı, oyun teorisindeki “mahkumun ikilemi” benzeri bir duruma yol açıyor. Hiçbir şirket veya milyarder ilk duran olmak istemiyor. İnsanlık için en iyi çözüm herkesin mümkün olan en kısa sürede durması olsa da, diğerlerinden önde olmak kişisel bir avantaj sağlıyor. Bu nedenle federal hükümetlerden düzenlemeler getirmeleri isteniyor ki şirketler yatırımcılarına durma sebeplerini açıklayabilsinler.
Yampolskiy, devlet düzenlemelerinin etkisi konusunda şüpheci. “Bu düzenlemeler cinayeti yasaklamaya benziyor – bu cinayetlerin olmayacağı anlamına gelmiyor” diyen araştırmacı, yapay zeka eğitim süreçlerinin izlenmesinin ve güvenlik testlerinin uygulanmasının ciddi sınırları olduğunu belirtiyor. Şirketlerin kaynaklarını hesaplama gücünden avukatlara kaydırması dışında pek bir etkisi olmayacağını düşünüyor.
Röportajın en çarpıcı bölümlerinden biri, Yampolskiy’in simülasyon teorisi hakkındaki görüşleri. İleri düzey yapay zekaların dünyamızı anlamak ve tahminler yapmak için çok sayıda simülasyon çalıştırmak zorunda kalacağını öne süren araştırmacı, bu simülasyonların insan benzeri, muhtemelen bilinçli varlıkları içereceğini düşünüyor. İstatistiksel olarak doğru sonuçlar elde etmek için çok sayıda simülasyon gerektiğinden, bizim “gerçek dünya” yerine bu simülasyonlardan birinde yaşıyor olma olasılığımızın çok daha yüksek olduğunu savunuyor.
Yampolskiy’e göre bu konu sadece felsefi bir tartışma değil, aynı zamanda bir bilgisayar bilimi sorusu. “Bir bilgisayar simülasyonundasınız, bu bir yazılım. Peki bundan çıkabilir misiniz? İşletim sistemine erişebilir misiniz? Avatar bedenlerini ele geçirip sonsuz kaynakların keyfini çıkarabilir misiniz?” gibi sorular soruyor.
Araştırmacı, video oyunlarında ve sanal dünyalarda bulunan açıklardan örnekler vererek, simülasyondan kaçışın teorik olarak mümkün olabileceğini öne sürüyor. Oyuncuların işletim sistemine kod yazmayı başardığı, süper kaynaklar elde ettiği ve hatta başka oyunları senaryoya yüklediği örnekleri hatırlatıyor. Ancak şu ana kadar başarılı bir kaçış gerçekleştirilmediğini de ekliyor.
Yampolskiy, kuantum fiziğindeki bazı özelliklerin – örneğin nesnelerin sadece gözlemlendiğinde render edilmesi, zaman göreceliliği ve negatif zaman gibi fenomenlerin – video oyunlarındaki hatalara benzediğini belirtiyor. Bu “dijital fizik kanıtları”nın bir simülasyonda yaşadığımıza işaret edebileceğini düşünüyor.
Araştırmacıya göre, içinde bulunduğumuz dönemin özellikle ilginç olması – ateşin ya da tekerleğin keşfi gibi basit teknolojiler yerine, gerçekçi sanal evrenler ve süper zeka sistemleri gibi meta teknolojilerin geliştirildiği bir dönemde olmamız – bunun bir simülasyon olma olasılığını artırıyor.
