Ütopya ve çöküş arasında: AI’nın karanlık orta geleceğini gezmek

Weblog yazısında Nazik tekillikOpenai CEO’su Sam Altman, AI’nın insan yaşamını sessizce ve yardımsever bir şekilde dönüştürdüğü yakın gelecek vizyonunu çizdi. Keskin bir mola olmayacak, sadece bolluğa karşı istikrarlı, neredeyse algılanamayan bir yükseliş. Zeka elektrik kadar erişilebilir olacak. Robotlar 2027 yılına kadar yararlı gerçek dünya görevleri gerçekleştirecek. Bilimsel keşif hızlanacak. Ve insanlık, eğer dikkatli bir yönetişim ve iyi niyetler tarafından uygun bir şekilde yönlendirilirse, gelişecektir.

Bu zorlayıcı bir vizyon: sakin, teknokratik ve iyimserlikten dolayı. Ama aynı zamanda daha derin sorular da ortaya koyuyor. Oraya ulaşmak için ne tür bir dünyadan geçmeliyiz? Kimler ve ne zaman? Ve bu pürüzsüz ilerleme arkında söylenmemiş ne kaldı?

Bilim kurgu yazarı William Gibson daha karanlık bir senaryo sunuyor. Romanında Periferikgeleceğin ışıltılı teknolojilerinden önce “ikramiye” adı verilen bir şey-iklim felaketlerinin, pandemilerin, ekonomik çöküşün ve kitlesel ölümün yavaş hareket ettirilmesi. Teknoloji ilerler, ancak sadece toplum kırıldıktan sonra. Sorduğu soru, ilerlemenin meydana gelip gelmediği değil, medeniyetin süreçte gelişip gelişmediğidir.

AI’nın öngörülen felaket türlerini önlemeye yardımcı olabileceğine dair bir argüman var. Periferik. Bununla birlikte, AI’nın felaketlerden kaçınmamıza veya sadece bize eşlik etmemize yardımcı olup olmadığı belirsiz kalır. Yapay zekanın gelecekteki gücüne olan inanç bir performans garantisi değildir ve teknolojik yeteneği ilerletmek kader değildir.

Altman’ın nazik tekilliği ile Gibson’ın ikramiyesi arasında daha karanlık bir orta zemin yatıyor: yapay zekanın gerçek kazançlar sağladığı bir gelecek, aynı zamanda gerçek çıkık. Bazı toplulukların geliştiği ve diğerlerinin yıpranması ve toplu olarak adapte olma yeteneğimizin – sadece bireysel veya kurumsal olarak değil – tanımlayıcı değişken haline geldiği bir gelecek.

MUHTEŞEM MÜDÜRÜ

Diğer vizyonlar bu orta arazinin konturlarını çizmeye yardımcı olur. Yakın geleceğin geriliminde Yakmakkurumları hazır olmadan toplum otomasyonla dolup taşıyor. İşler, insanların yeniden beceri yapabileceğinden daha hızlı kaybolur, huzursuzluk ve baskıyı tetikler. Bu konuda başarılı bir avukat bir AI temsilcisine konumunu kaybeder ve mutsuz bir şekilde varlıklılar için çevrimiçi, çağrıda bir konser haline gelir.

Son zamanlarda AI Lab Antropic’teki araştırmacılar yankılanmış Bu tema: “görmeyi beklemeliyiz [white collar jobs] Önümüzdeki beş yıl içinde otomatik. ” Nedenler karmaşık olsa da, Bu başlıyor işaretler ve iş piyasasının bir Yeni yapısal aşama Bu, daha az istikrarlı, daha az öngörülebilir ve belki de toplumun anlam ve güvenliği dağıtır.

Movie Elysium Gelişmiş teknolojilere sahip yörünge kutsal alanlarına kaçan zenginlerin künt bir metaforunu sunarken, altındaki bozulmuş bir dünya eşit olmayan haklar ve erişimle mücadele ediyor. Birkaç yıl önce, bir Silikon Vadisi danger sermayesi şirketindeki bir ortak, AI tarafından üretilen faydaları eşit olarak dağıtmadıkça, bu tür bir senaryoya gittiğimizden korktuğunu söyledi. Bu spekülatif dünyalar bize, özellikle kazançları eşit olmayan bir şekilde dağıtıldığında, faydalı teknolojilerin bile sosyal olarak değişken olabileceğini hatırlatıyor.

Sonunda Altman’ın bolluk vizyonu gibi bir şey başarabiliriz. Ancak oradaki rotanın pürüzsüz olması pek olası değildir. Tüm konuşması ve sakin güvencesi için, denemesi aynı zamanda bir tür sahtekar, tahmin kadar ikna. “Nazik tekilliğin” anlatısı, tam olarak sürtünmeyi atladığı için rahatlatıcı, hatta çekici. Bu dönüşümün getirdiği ayaklanmalarla tamamen boğuşmadan benzeri görülmemiş bir dönüşümün faydalarını sunar. Zamansız klişenin bize hatırlattığı gibi: Doğru olamayacak kadar iyi geliyorsa, muhtemelen öyle.

Bu, niyetinin sakat olduğu anlamına gelmez. Gerçekten de yürekten olabilir. Benim iddiam, dünyanın öngörülemeyen sonuçları olabilecek sınırsız girdilere açık olan karmaşık bir sistem olduğunu kabul ediyor. Sinerjistik iyi şanstan kalamitten Siyah kuğu Olaylar, nadiren bir şey veya bir teknolojidir, gelecekteki olayların seyrini belirler.

Yapay zekanın toplum üzerindeki etkisi halihazırda devam etmektedir. Bu sadece beceri setlerinde ve sektörlerde bir değişim değildir; Bu, değer, güven ve aidiyetin nasıl düzenlendiğimizde bir dönüşümdür. Bu kolektif göçün alanıdır: sadece emek değil, amaç.

AI biliş arazisini yeniden yapılandırırken, sosyal dünyamızın dokusu sessizce daha iyi veya daha kötü için gevşek ve yeniden örülür. Soru, toplumlar olarak ne kadar hızlı hareket ettiğimiz değil, ne kadar düşünceli göç ettiğimizdir.

Bilişsel Avamonlar: ortak anlayış alanımız

Tarihsel olarak, ortak mallara güvende tutulan meralar, balıkçılık ve öngörüler dahil olmak üzere ortak fiziksel kaynaklara atıfta bulundu. Bununla birlikte, fashionable toplumlar aynı zamanda bilişsel müşterilere de bağlıdır: farklı bireylerin minimal çatışma içinde düşünmelerini, tartışmasını ve karar vermesini sağlayan paylaşılan bilgi, anlatılar, normlar ve kurumlar.

Bu maddi olmayan altyapı, halk eğitimi, gazetecilik, kütüphaneler, sivil ritüeller ve hatta yaygın olarak güvenilir gerçeklerden oluşur ve çoğulculuğu mümkün kılan şey budur. Yabancıların ne kadar müzakere ettiği, toplulukların nasıl bir araya geldiği ve demokrasinin nasıl işlediğidir. Yapay zeka sistemleri bilginin nasıl erişildiğini ve inanç şekillendirildiği aracılığıyla aracılık etmeye başladığında, bu paylaşılan arazi kırılır. Tehlike sadece yanlış bilgi değil, paylaşılan anlamın bağlı olduğu zeminin yavaş erozyonudur.

Eğer bilişsel göç bir yolculuksa, sadece yeni becerilere veya rollere değil, aynı zamanda yeni kolektif duyum biçimlerine de doğrudur. Fakat paylaştığımız arazi altımızdan ayrılmaya başladığında ne olur?

Biliş Parçaları: Yapay zeka ve ortak dünyanın erozyonu

Yüzyıllar boyunca, toplumlar gevşek bir şekilde ortak bir gerçekliğe güveniyorlardı: insanların dünyayı ve birbirlerini nasıl anladıklarını şekillendiren ortak bir gerçek, anlatı ve kurum havuzu. Çoğulculuk, demokrasi ve sosyal güven sağlayan bu ortak dünya – sadece altyapı veya ekonomi değil -. Ancak AI sistemleri giderek daha fazla insanların bilgiye erişme, inanç inşa etme ve günlük yaşamda gezinme biçimlerine aracılık ettikçe, bu ortak zemin parçalanıyor.

Zaten, büyük ölçekli kişiselleştirme bilgilendirici manzarayı dönüştürüyor. Yapay zeka ile küratörlü haber yayınları, özel arama sonuçları ve öneri algoritmaları kamusal alayı ustaca kırıyor. Aynı chatbot ile ilgili aynı soruyu soran iki kişi, kısmen üretken AI’nın olasılıksal doğası nedeniyle, aynı zamanda önceki etkileşimler veya çıkartılmış tercihler nedeniyle farklı cevaplar alabilir. Kişiselleştirme uzun zamandır dijital çağın bir özelliği olmasına rağmen, AI erişimini ve incelikliliğini turboşat eder. Sonuç sadece değil filtre kabarcıklarıepistemik sürüklenir – bilginin yeniden şekillendirilmesi ve potansiyel olarak gerçeğin.

Tarihçi Yuval Noah Harari, bu değişimle ilgili acil endişeleri dile getirdi. Ona göre, en büyük AI tehdidi fiziksel zarar veya iş yerinden edilmesinde değil, duygusal yakalamada yatmaktadır. AI sistemleri, empati simüle etme, endişe taklit etme ve anlatıları bireysel psikolojiye uyarlama konusunda giderek daha becerikli hale geldiğini uyardı – onlara insanların değerleri nasıl düşündüklerini, hissettiklerini ve atadığını şekillendirmek için eşi görülmemiş bir güç veriyor. Tehlike Harari’nin görüşüne göre muazzamdır, AI yalan söyleyeceği için değil, bunu yaparken çok ikna edici bir şekilde bağlanacağı için. Bu iyi bir şey değil Nazik tekillik.

Yapay zeka aracılı bir dünyada, gerçekliğin kendisi daha bireysel, daha modüler ve daha az toplu olarak müzakere etme riskiyle karşı karşıya kalır. Bu, tüketici ürünleri veya eğlence için tolere edilebilir – hatta yararlı olabilir. Ancak sivil hayata genişlediğinde, daha derin riskler ortaya çıkarır. Her vatandaş ustaca farklı bir bilişsel harita yaşıyorsa hala demokratik söylem yapabilir miyiz? Kurumsal bilgi, eğitim verileri, sistem istemleri ve akıl yürütme süreçleri opak kaldığı makinelere giderek daha fazla dış kaynaklı olduğunda akıllıca yönetebilir miyiz?

Başka zorluklar da var. Metin, ses ve video dahil olmak üzere AI tarafından oluşturulan içerik yakında insan çıktısından ayırt edilemez. Üretken modeller taklitte daha becerikli hale geldikçe, doğrulama yükü sistemlerden bireylere geçecektir. Bu inversiyon, sadece gördüğümüz ve duyduğumuz şeyde değil, bir zamanlar paylaşılan gerçeği doğrulayan kurumlarda da güveni aşındırabilir. Bilişsel müşterekler daha sonra kirlenir, daha az müzakere için bir yer, daha çok ayna salonu.

Bunlar spekülatif endişeler değildir. AI tarafından üretilen dezenformasyon seçimleri karmaşıklaştırıyor, gazeteciliği zayıflatıyor ve çatışma bölgelerinde karışıklık yaratıyor. Ve daha fazla insan bilişsel görevler için yapay zekaya güvendiğinde – haberleri özetlemekten ahlaki ikilemleri çözmeye kadar, birlikte düşünme kapasitesi, bireysel olarak daha güçlü olduğunu düşünmek için araçlar bozulabilir.

Paylaşılan gerçekliğin dağılmasına yönelik bu eğilim artık gelişmiş. Bundan kaçınmak için bilinçli karşı tasarımı gerektirir: kişiselleştirme konusunda çoğulculuğa öncelik veren sistemler, rahatlık üzerinde şeffaflık ve özel olarak özel gerçeklik üzerinde ortak anlam. Rekabet ve kârdan kaynaklanan algoritmik dünyamızda, bu seçimler en azından ölçekte olası görünmüyor. Soru, toplumlar olarak ne kadar hızlı hareket ettiğimiz değil, hatta bir arada tutup tutamayacağımız değil, bu paylaşılan yolculuğa ne kadar akıllıca gezintiğimizdir.

Takımadalarda gezinme: AI çağında bilgeliğe doğru

Yapay zeka yaşı birleşik bir bilişsel müştereklere değil, farklı bireylerin ve toplulukların kırık takımadalarına yol açarsa, önümüzdeki görev eski araziyi yeniden inşa etmek değil, adalar arasında akıllıca nasıl yaşayacağını öğrenmektir.

Değişimin hızı ve kapsamı çoğu insanın adapte olma yeteneğini geride bıraktıkça, birçoğu ıssız hissedecektir. İş kaybedilecek ve uzun süredir devam eden değer, uzmanlık ve aidiyet anlatıları. Bilişsel göç, önceki dönemlerden daha az ortak noktaları olsa bile, bazıları zaten oluşan yeni anlam topluluklarına yol açacaktır. Bunlar bilişsel takımadalardır: insanların paylaşılan inançlar, estetik stiller, ideolojiler, eğlence dışı ilgi veya duygusal ihtiyaçlar etrafında toplandığı topluluklar. Bazıları yaratıcılık, destek veya amacın iyi huylu toplantılarıdır. Diğerleri daha insüler ve tehlikelidir, korku, şikayet veya komplocu düşünceden kaynaklanır.

Yapay zeka geliştirmek bu eğilimi hızlandıracaktır. İnsanları algoritmik hassasiyetle ayırsa bile, aynı anda insanların dünyanın dört bir yanında birbirlerini bulmalarına yardımcı olacak ve kimliğin daha ince hizalamalarını küratörlüğüne sahip olacak. Ancak bunu yaparken, çoğulculuğun kaba ama gerekli sürtünmesini sürdürmeyi zorlaştırabilir. Yerel bağlar zayıflayabilir. Ortak inanç sistemleri ve paylaşılan gerçekliğin algıları aşınabilir. Hem paylaşılan gerçekliğe hem de kasıtlı diyaloga dayanan demokrasi, tutmak için mücadele edebilir.

Bu yeni arazide bilgelik, haysiyet ve bağlantı ile nasıl geziniyoruz? Parçalanmayı önleyemezsek, içinde nasıl insanca yaşarız? Belki de cevap çözümlerle değil, soruyu farklı tutmayı öğrenerek başlar.

Soru ile yaşamak

Toplumsal bilişsel müşterekleri bir zamanlar olduğu gibi yeniden birleştiremeyebiliriz. Merkez tutmayabilir, ancak bu, yönsüz sürüklenmemiz gerektiği anlamına gelmez. Takımadalar boyunca, görev bu yeni arazide akıllıca yaşamayı öğrenecek.

Araçlarımız yönünü bozduğunda bizi demirleyen ritüeller ve ideolojik saflık etrafında değil, paylaşılan sorumluluk etrafında oluşan topluluklar gerektirebilir. Makinelerden daha fazla veya birleşmek için değil, ayırt etme, bağlam ve etik düşünce kapasitemizi derinleştirmek için yeni eğitim biçimlerine ihtiyacımız olabilir.

AI, altımızdaki zemini ayırmışsa, burada ne için olduğumuzu tekrar sorma fırsatı sunar. İlerleme tüketicileri olarak değil, anlam görevlileri olarak.

Önümüzdeki yol muhtemelen pürüzsüz veya nazik değildir. Bulanık ortadan geçtikçe, belki de bilgelik işareti, gelenlere hakim olma değil, netlik, cesaret ve bakım ile yürüme yeteneğidir. Teknolojinin ilerlemesini durduramayız veya derinleşen toplumsal kırıkları inkar edemeyiz, ancak aradaki alanlara eğilimli olmayı seçebiliriz.

Gary Grossman, Edelman’da teknoloji uygulamasının EVP’sidir.