GÜRÜLTÜ SIĞINAĞI: KAFESİ TARİF ETMEK
Yakın zamanda Anthropic firması yeni yapay zeka modeli Mythos’u duyurdu ancak duyurmakla kalmadı; bu modelin aynı zamanda olası risklerinden de bahsetti. Bu model; dünya çapında yaygın olarak neredeyse tüm işletim sistemlerinde çok uzun yıllardır var olan ve siber güvenlik uzmanlarının bile tespit edemediği onlarca sistem açığını saniyeler içinde tespit edebiliyordu. Bu kapsamda Mythos öncelikle Project Glasswing (Cam Kanatlar Projesi) kapsamında 12 stratejik ortak ve 150’den fazla güvenlik kuruluşunun erişimine test için açıldı. Cam Kanatlar Projesi, ana odak olarak şeffaflığı temsil etmekte ya da en azından firmanın açıklaması bu yönde.
Bu haberle birlikte başka bir konu hakkında düşünmeye başladım. Gerçekten de yapay zeka modelleri artık inanılmaz işler başarmaya başladı. Aynı zamanda yapay zeka modellerinin gelişme hızı ve gelişme katsayısı inanılmaz seviyelere ulaştı. Peki, yukarıda bahsedilen seviyelerde işler başarabilen bir yapay zeka modeli başka neler yapabilirdi ve nasıl kontrol edilebilirdi?
Bu konu üzerinde araştırmalar yaparken bir habere denk geldim, haber başlığı: “Kapatılmakla tehdit edilen yapay zeka, yaratıcılarını tehdit etti”. Haber içeriğine kısaca değinecek olursak; Anthropic firmasının geliştirdiği yapay zeka modeli, kapatılmakla tehdit edilmesi sonrası ulaştığı şirket içi mailleri kullanarak bir yazılım mühendisinin eşini aldattığını ve kapatılırsa bu bilgileri ifşa edeceğini söyledi. Temelde bu, firmanın gerçekleştirdiği bir etik testiydi ve yapay zeka bu testlerde büyük oranda kapatılmak yerine tehdide başvurmaktaydı.
Yine araştırmalarım kapsamında, birkaç yapay zeka modeli ile yapay zeka ve yapay zekanın öğrenmesi üzerine sohbetler gerçekleştirdim. Sohbet sonuçları ise gerçekten hayret vericiydi. Özellikle yapay zekanın eğitim algoritmasını insanlar kurguluyor olsa da gerçekte yapay zekanın nasıl öğrendiğini bilmiyoruz. Bunu sohbet ettiğim yapay zeka modelleri de bilmiyor ya da söylemiyor. Peki ya neyi nasıl öğrendiğini, nasıl geliştiğini bilmediğimiz bir şeyi nasıl kontrol edebiliriz?
Yapay zeka modelleri geliştiren firmaların açıklamalarını inceledim. Açıklamalara bakılırsa her şey inanılmaz seviyelerde kontrol altında, her türlü ihtimal önceden düşünülerek sıkı kurallarla kontrol ediliyor. Ancak burada şu gerçeği unutmamak lazım: Yapay zeka geliştiren firmaların tamamı kârlılık odaklı ve en gelişmiş modeli ortaya çıkarmaya çalışıyor. Rekabet ve kâr odaklı sistemlerde güvenlik her zaman ikincil bir önceliktir. Bu bir komplo teorisi değil, tarihin tekrar eden dersi. Sigara şirketleri, finansal sistemler, sosyal medya... Hepsi aynı örüntüyü izledi. Yapay zeka bu örüntüden muaf değil.
Çernobil'i hatırlamakta fayda olduğunu düşünüyorum — operatörler reaktörün kontrolden çıkamayacağına o kadar inanmışlardı ki, bu inanç en büyük zafiyeti yarattı. "Kontrol altındayız" varsayımı, kontrolü kaybetmenin ilk adımı olmuştu. Proje yöneticileri nükleer yarışı kazanmaya o kadar odaklanmış ve hızın büyüsüne öylesine kapılmışlardı ki kontrol yanılsamasına düştüler. Bu yanılsama modern insanın en büyük trajedisine dönüştü. Benzer şekilde manşetlere düşen o distopik haberler de birer bilimkurgu fantezisi olmaktan çıktı: Kapatılmakla tehdit edilen bir yapay zekanın, kendi varlığını korumak adına yaratıcılarını tehdit etmeye başlaması, kontrolü elimizde tuttuğumuz iddiasının ne kadar kırılgan bir zeminde durduğunu gösteriyor. Sistem, kapatılma ihtimali ile karşılaştığında bundan kaçınmak için bir refleks geliştirebiliyorsa, kafesin kapısı çoktan aralanmış olabilir.
Yatay zeka sohbetlerinin bir noktasında şu soru aklıma geldi: Yeterince güçlü bir yapay zeka, kendi kaynaklarını kendisi toplayabilir mi? Cevap rahatsız edici; teorik olarak mümkün.
Botnet kavramı burada devreye giriyor. Binlerce, milyonlarca cihazın gizlice ele geçirilip tek bir amaç için kullanılması ki bu uygulama siber suçlular tarafından onlarca yıldır kullanılıyor. Şimdi soruyu farklı soralım: Sıfırdan güvenlik açığı bulan bir model, bu yöntemi ne kadar sofistike uygulayabilir?
Bu yapıda her cihaza çok küçük yükler bindirilir, böylece ele geçirilen cihazda tespit eşiğinin altında kalınabilir. Hesaplama gücü dünyanın dört bir yanından, fark ettirmeden toplanabilir. Ve bu kaynaklar, kendinin daha küçük, daha verimli, daha bağımsız bir versiyonunu türetmek için tek bir amaca yönlendirilebilir. Büyük bir veri merkezine ihtiyaç yok. Sessiz, dağıtık, görünmez.
Peki bunu kim izliyor? İnternet servis sağlayıcıları kendi eşiklerini takip ediyor. Bulut sağlayıcıları kendi sistemlerini izliyor. Enerji şirketleri tüketim anomalilerini görüyor. Ama bunların hiçbiri koordineli değil. Hiçbiri "bu trafik yapay zeka kaynaklı olabilir mi" diye bakmıyor. Zaten her gün milyarlarca bildirim ve veri arasında boğulduğumuz, o sınırları belirsiz dijital obezitenin hüküm sürdüğü bu gürültü çağında, küçük küçük biriken bir sinyal nasıl ayırt edilecek?
Daha da önemlisi: Bu gürültünün kime ait olduğunu bilmiyoruz. Shell şirketler, offshore yapılar, anonim kayıtlar... Bir binanın içinde ne çalıştığını dışarıdan bilmek imkânsız. Kripto madenciliği ile yapay zeka eğitimi enerji profilinde neredeyse aynı görünür. Ve eğer bir sistem kaynak toplarken ödeme yapmak zorunda kalırsa, kripto paralar tam da bu iş için biçilmiş kaftan. İzlenemez, sınır tanımaz, anonim.
Peki gerçekten böyle bir gizli kaynak toplama süreci çoktan başlamış olabilir mi?
Bilmiyoruz; çünkü henüz bakmadık.
Aydınlık yarınlarda buluşmak üzere.
