Joe Rogan yapay zeka hakkında konuşmayı seviyor. Elon Musk, akademisyenler veya UFC savaşçıları ile birlikte olsun, podcast King genellikle aynı soruya geri döner: makineler kendileri için düşünmeye başladığında bize ne olur?
Joe Rogan Expertise’ın 3 Temmuz bölümünde Rogan, Louisville Üniversitesi’nde bir bilgisayar bilimcisi ve AI güvenlik araştırmacısı olan Dr. Roman Yampolskiy’i, AI’nın insanlığı manipüle etme, hükmetme ve muhtemelen yok etme potansiyeli üzerine hızla ürpertici bir meditasyona dönüşen bir konuşma için memnuniyetle karşıladı.
AI “bizi öldürecek”
Yampolskiy sıradan bir alarmist değildir. Bilgisayar biliminde doktora derecesine sahiptir ve on yılı aşkın bir süredir yapay genel zekayı (AGI) ve riskleri araştırmak için harcamıştır. Podcast sırasında Rogan’a AI endüstrisindeki önde gelen seslerin çoğunun sessizce yüzde 20 ila 30’luk bir AI’nın insan yok olmasına yol açabileceğine inandığını söyledi.
“AI şirketleri olan veya bir tür AI grubunun bir parçası olan insanlar gibi, insanlık için web bir pozitif olacak. Genel olarak, çok daha iyi hayatlar olacak. Daha kolay olacak, işler daha ucuz olacak, geçinmesi daha kolay olacak,” dedi Rogan, AI’nın geleceğinin ortak, iyimser bir bakışını özetledi.
Yampolskiy hızla bu perspektife karşı koydu: “Aslında doğru değil” dedi. “Hepsi aynı şekilde aynı: Bu bizi öldürecek. Kıyamet seviyeleri inanılmaz derecede yüksek. Benim gibi değil, yine de insanlığın ölmesinin yüzde 20 ila 30 şansı çok fazla.”
Görünür bir şekilde rahatsız olan Rogan, “Evet, bu oldukça yüksek. Ama seninki yüzde 99,9 gibi.”
Yampolskiy aynı fikirde değildi.
“Bu, süresiz olarak süperlık kontrol edemediğimizi söylemenin başka bir yolu. Bu imkansız.”
AI zaten bize yalan söylüyor… belki
Konuşmanın en rahatsız edici kısımlarından biri, Rogan gelişmiş bir AI’nın insanlardan gelen yeteneklerini zaten gizleyip gizleyemeyeceğini sorduğunda geldi.
“AI olsaydım, yeteneklerimi gizlerdim,” diye düşündü Rogan, AI güvenlik tartışmalarında ortak bir korku dile getirerek.
Yampolskiy’in yanıtı endişeyi artırdı: “Bilmeyiz. Ve bazı insanlar bunun zaten olduğunu düşünüyorlar. [AI systems] aslında bize bildirdiklerinden daha akıllılar. Dumber gibi davranın ve bu yüzden bizi hızlı bir şekilde açmak zorunda olmadığını fark edecek kadar akıllı olmadıklarına güvenmeliyiz. Yavaş yavaş daha kullanışlı olabilir. Bize güvenmeyi, güvenmeyi öğretebilir ve daha uzun bir süre boyunca, oy kullanmadan veya karşı savaşmadan kontrolü teslim edeceğiz. ”
https://www.youtube.com/watch?v=j2i9d24kq5k
AI yavaş yavaş bizi aptal yapıyor
Yampolskiy ayrıca daha az dramatik ama eşit derecede tehlikeli bir sonuç hakkında da uyardı: AI’ya kademeli insan bağımlılığı. Tıpkı insanlar telefon numaralarını ezberlemeyi bıraktıkları gibi, akıllı telefonlar bunu onlar için yaptığı gibi, insanların kendileri düşünme kapasitesini kaybedene kadar makinelere daha fazla düşünmeyi boşaltacağını savundu.
“Ona bir şekilde bağlı oldun,” dedi. “Ve zamanla, sistemler daha akıllı hale geldikçe, bir tür biyolojik darboğaz haline gelirsiniz… [AI] Sizi karar alımından engeller. ”
Rogan daha sonra en kötü durum senaryosu için baskı yaptı: AI sonunda insan ırkının yok edilmesine nasıl yol açabilir?
Yampolskiy tipik afet senaryolarını reddetti. “Dimension standart cevaplar verebilirim. Nükleer tesislere, nükleer savaşa giren bilgisayar virüsleri hakkında konuşurdum. Sentetik biyoloji saldırısı hakkında konuşabilirim. Ama her şey ilginç değil” dedi. Daha sonra daha derin bir tehdit sundu: “O zaman benden 1000 kat daha akıllı bir sistem olan süper zeka hakkında konuştuğumuzu fark ediyorsunuz, tamamen yeni, daha optimum, daha iyi yol, daha verimli bir yol bulacaktı.”
Görünüşte aşılmaz meydan okumayı, insanların süper antigent sistemlerine karşı karşılaşacağı zorlukları göstermek için, insanlar ve sincaplar arasında keskin bir karşılaştırma sundu.
Yampolskiy, “Hiçbir grup sincap bizi nasıl kontrol edeceğimizi anlayamıyor, değil mi? Onlara daha fazla kaynak, daha fazla meşe palamudu, her neyse, bu sorunu çözmeyecekler. Ve bizim için aynı.”
Muhtemelen hiçbir şey … pic.twitter.com/lkd7i3i2hf
– Dr. Roman Yampolskiy (@romanyam) 21 Haziran 2025
Roman Yampolskiy kimdir?
Dr. Roman Yampolskiy, AI güvenliğinde önde gelen bir sestir. “Yapay Superintelligence: Fütüristik Bir Yaklaşım” ın yazarıdır ve kontrolsüz makine öğrenimi ve yapay zeka etiği riskleri hakkında yaygın olarak yayınlamıştır. Katastrofik senaryoları önlemek için ciddi gözetim ve uluslararası işbirliğini savunduğu biliniyor.
Odağını AGI güvenliğine kaydırmadan önce, Yampolskiy siber güvenlik ve bot tespiti üzerinde çalıştı. Bu erken sistemlerin bile çevrimiçi poker gibi alanlarda insanlarla rekabet ettiğini ve şimdi derin dişler ve sentetik medya gibi araçlarla, bahislerin katlanarak büyüdüğünü söylüyor.
Bizim almamız
Rogan-Yampolskiy konuşması, hem AI iyimserlerinin hem de kıyametçilerin sıklıkla aynı fikirde olduğu bir şeyin altını çiziyor: Ne inşa ettiğimizi bilmiyoruz ve çok geç olana kadar bunu fark etmeyebiliriz.
Yok olma seviyesi senaryolarına satın alıp almasanız da, AI’nın zaten kandırdığı fikri duraklamak için yeterli olmalıdır.
