Gelen kutunuzda daha akıllı bilgiler ister misiniz? Sadece kurumsal AI, veri ve güvenlik liderleri için önemli olanı elde etmek için haftalık bültenlerimize kaydolun. Şimdi abone olun
AI, insanlık tarihindeki en büyük bilişsel boşaltmayı temsil eder. Bir zamanlar belleğe yazmaya, hesap makinelerine aritmetik ve GPS’de navigasyona indirdik. Şimdi, dilimizi konuşan, alışkanlıklarımızı öğrenen ve gerçeklerimizi uyarlayan sistemlere yargı, sentez ve hatta anlam oluşturmaya başlıyoruz.
AI sistemleri tercihlerimizi, önyargılarımızı, hatta peccadillolarımızı tanımakta giderek daha fazla büyüyor. Bir örnekte özenli hizmetçiler veya başka birdeki ince manipülatörler gibi, yanıtlarını memnun etmeye, ikna etmeye, yardım etmeye veya sadece dikkatimizi çekmeye uyarlarlar.
Acil etkiler iyi huylu görünse de, bu sessiz ve görünmez ayarlamada derin bir değişim yatıyor: her birimizin aldığı gerçekliğin versiyonu giderek daha benzersiz bir şekilde özel hale geliyor. Bu süreç boyunca, zamanla, her insan giderek kendi adaları haline gelir. Bu ayrışma, toplumun tutarlılığını ve istikrarını tehdit edebilir, temel gerçekler üzerinde anlaşma veya ortak zorluklarda gezinme yeteneğimizi aşındırabilir.
AI kişiselleştirmesi sadece ihtiyaçlarımıza hizmet etmez; Onları yeniden şekillendirmeye başlar. Bu yeniden şekillendirmenin sonucu bir tür epistemik sapmadır. Her insan, paylaşılan bilginin ortak zeminden, paylaşılan hikayeler ve paylaşılan gerçeklerden ve kendi gerçekliklerine daha da uzaklaşmaya başlar.
AI Etki Serisi San Francisco’ya Dönüyor – 5 Ağustos
Yapay zekanın bir sonraki aşaması burada – hazır mısınız? Otonom ajanların kurumsal iş akışlarını nasıl yeniden şekillendirdiğine özel bir bakış için Block, GSK ve SAP’den liderlere katılın-gerçek zamanlı karar vermeden uçtan uca otomasyona kadar.
Şimdi yerinizi sabitleyin – Alan Sınırlı:
Bu sadece farklı haber beslemeleri meselesi değil. Ahlaki, politik ve kişilerarası gerçeklerin yavaş farklılıklarıdır. Bu şekilde, kolektif anlayışın isteksizliğine tanık olabiliriz. Bu istenmeyen bir sonuçtur, ancak tam olarak önemli olmadığı için derinden önemlidir. Ancak bu parçalanma, şimdi AI tarafından hızlandırılırken, algoritmalar yemlerimizi şekillendirmeden çok önce başladı.
Hoşlanmıyor
Bu isteksizlik AI ile başlamadı. David Brooks’un yansıtırken AtlantikFilozof Alasdair MacIntyre’nin çalışmalarına dayanarak, toplumumuz yüzyıllardır ortak ahlaki ve epistemik çerçevelerden uzaklaşıyor. Aydınlanmadan bu yana, kalıtsal rolleri, toplumsal anlatıları ve paylaşılan etik gelenekleri bireysel özerklik ve kişisel tercihle yavaş yavaş değiştirdik.
Uygun inanç sistemlerinden kurtuluş olarak başlayan şey, zamanla, bir zamanlar bizi ortak amaca ve kişisel anlamlara bağlayan yapıları aşındırdı. AI bu parçalanmayı yaratmadı. Ancak, sadece gördüğümüzü değil, nasıl yorumladığımızı ve inandığımızı özelleştirerek yeni bir type ve hız veriyor.
Babel’in İncil hikayesinden farklı değildir. Birleşik bir insanlık bir zamanlar tek bir dili paylaştı, sadece kırılmak, karışık ve karşılıklı anlayışı imkansız hale getiren bir eylemle dağılmıştır. Bugün, taştan yapılmış bir kule inşa etmiyoruz. Bir dil kulesi inşa ediyoruz. Bir kez daha düşüşü riske atıyoruz.
İnsan-makine bağı
İlk başta, kişiselleştirme, kullanıcıları daha uzun süre meşgul ederek, daha sık geri dönerek ve bir website veya hizmetle daha derin etkileşime girerek “yapışkanlığı” geliştirmenin bir yoluydu. Tavsiye motorları, özel reklamlar ve küratörlü yayınlar, dikkatimizi biraz daha uzun süre korumak için tasarlandı, belki de eğlendirmek, ancak çoğu zaman bizi bir ürün satın almaya taşımak için tasarlandı. Ancak zamanla hedef genişledi. Kişiselleştirme artık sadece bizi tutan şeyle ilgili değil. Her bir etkileşimle daha fazla rafine hale gelen tercihlerimiz, inançlarımız ve davranışlarımızın dinamik grafiği olan her birimiz hakkında bildiği şey budur.
Bugünün AI sistemleri sadece tercihlerimizi tahmin etmiyor. AI sisteminin kullanıcıyı anladığı ve önemsediği ve benzersizliklerini desteklediği duygusu yaratarak, son derece kişiselleştirilmiş etkileşimler ve yanıtlar yoluyla bir bağ yaratmayı amaçlıyorlar. Bir sohbet botunun tonu, bir cevabın ilerleme hızı ve bir önerinin duygusal değerliği, sadece verimlilik için değil, aynı zamanda daha yararlı bir teknoloji dönemine işaret eden rezonans için kalibre edilir. Bazı insanların aşık olmaları şaşırtıcı olmamalı ve botlarıyla evlendi.
Makine sadece tıkladığımıza değil, aynı zamanda kim olduğumuza da uyum sağlar. Bizi samimi, hatta empatik hissettiren şekillerde kendimize yansıtır. Son zamanlarda yapılan bir araştırma makalesi Doğa Bunu, bir yapay zeka sisteminin, tercihlerin ve algıların karşılıklı etki yoluyla geliştiği birlikte yaratılan bir sosyal ve psikolojik ekosisteme katıldığı süreç olan “sosyo -fektif hizalama” olarak adlandırır.
Bu tarafsız bir gelişme değil. Her etkileşim düz veya doğrulanacak şekilde ayarlandığında, sistemler bizi çok iyi yansıttığında, neyin rezonans ve gerçek olan arasındaki çizgiyi bulanıklaştırırlar. Biz sadece platformda daha uzun kalmıyoruz; Bir ilişki kuruyoruz. Yavaş ve belki de kaçınılmaz olarak gerçekliğin AI aracılı bir versiyonuyla birleşiyoruz, bu da inanmak, istemek veya güvenmek istediğimiz şey hakkında görünmez kararlarla giderek daha fazla şekillendiriliyoruz.
Bu süreç bilim kurgu değildir; Mimarisi dikkat, insan geri bildirimi (RLHF) ve kişiselleştirme motorları ile takviye öğrenimi üzerine inşa edilmiştir. Aynı zamanda çoğumuz – muhtemelen çoğumuz – bilmeden oluyor. Bu süreçte AI “arkadaşlar” kazanıyoruz, ama ne pahasına? Özellikle özgür irade ve ajans açısından ne kaybediyoruz?
Yazar ve finansal yorumcu Kyla Scanlon hakkında konuştu Ezra Klein Podcast Dijital dünyanın sürtünmesiz kolaylığının anlam pahasına nasıl gelebileceği hakkında. Diyelim ki: “İşler biraz fazla kolay olduğunda, içinde anlam bulmak zor… Eğer geri dönebiliyorsanız, küçük sandalyenizde bir ekran izleyin ve smoothies’i dimension teslim edin – bu tür bir anlam bulmak zor. Wall-E Yaşam tarzı çünkü her şey biraz fazla basit. ”
Gerçeğin kişiselleştirilmesi
Yapay zeka sistemleri bize daha fazla akıcılıkla yanıt verdikçe, artan seçiciliğe doğru ilerlerler. Bugün aynı soruyu soran iki kullanıcı, çoğunlukla üretken AI’nın olasılıksal doğası ile farklılaşan benzer cevaplar alabilir. Yine de bu sadece başlangıç. Ortaya çıkan AI sistemleri, yanıtlarını bireysel kalıplara uyarlamak, her kullanıcıyla en güçlü şekilde rezonansa girmek için cevapları, tonları ve hatta sonuçları kademeli olarak uyarlamak için açıkça tasarlanmıştır.
Kişiselleştirme doğal olarak manipülatif değildir. Ancak görünmez, hesaplanamaz veya ikna etmek için daha fazla tasarlanmadan daha fazla tasarlandığında riskli hale gelir. Bu gibi durumlarda, sadece kim olduğumuzu yansıtmaz; çevremizdeki dünyayı nasıl yorumladığımızı yönlendirir.
Stanford Vakıf Modelleri Araştırma Merkezi olarak 2024’te notlar şeffaflık endeksibirkaç önde gelen mannequin, çıktılarının kullanıcı kimliğine, geçmişe veya demografiye göre değişip değişmediğini açıklamaktadır, ancak bu tür kişiselleştirme için teknik iskele giderek daha fazla yürürlükte ve sadece incelenmeye başlamaktadır. Kamu platformlarında henüz tam olarak gerçekleşmemiş olsa da, bu çıkarılan kullanıcı profillerine dayalı olarak, giderek daha fazla uyarlanmış bilgi dünyalarına neden olan yanıtları şekillendirme potansiyeli, önde gelen şirketler tarafından zaten prototiplenmiş ve aktif olarak takip edilen derin bir değişimi temsil etmektedir.
Bu kişiselleştirme faydalı olabilir ve kesinlikle bu sistemleri inşa edenlerin umudu budur. Kişiselleştirilmiş ders, öğrencilerin kendi hızlarında ilerlemelerine yardımcı olma vaat ediyor. Ruh sağlığı uygulamaları, bireysel ihtiyaçları desteklemek için yanıtları giderek daha fazla uyarlamaktadır ve erişilebilirlik araçları, içeriği bir dizi bilişsel ve duyusal farklılıkları karşılayacak şekilde ayarlar. Bunlar gerçek kazançlar.
Ancak benzer uyarlanabilir yöntemler bilgi, eğlence ve iletişim platformları arasında yaygınlaşırsa, daha derin, daha rahatsız edici bir değişim önümüzde görünür: ortak anlayıştan özel, bireysel gerçeklere dönüşüm. Gerçeğin kendisi gözlemciye uyum sağlamaya başladığında, kırılgan ve giderek daha fazla mantar olur. Öncelikle farklı değerlere veya yorumlara dayanan anlaşmazlıklar yerine, yakında kendimizi sadece aynı gerçek dünyada yaşamak için mücadele ederken bulabiliriz.
Tabii ki, hakikat her zaman aracılık edildi. Daha önceki dönemlerde, bekçi olarak hizmet veren, kurumsal lensler aracılığıyla kamuoyu anlayışını şekillendiren din adamları, akademisyenler, yayıncılar ve akşam haber ankrajlarının elinden geçti. Bu rakamlar kesinlikle önyargı veya gündemden uzak değildi, ancak geniş paylaşılan çerçevelerde faaliyet gösterdiler.
Bugünün ortaya çıkan paradigması, niteliksel olarak farklı bir şey vaat ediyor: bilgiyi çerçeveleyen, filtreleyen ve sunan ve kullanıcıların inandıkları şeyleri şekillendiren kişiselleştirilmiş çıkarım yoluyla AI aracılı gerçeği. Ancak, kusurlara rağmen, kamu görünür kurumlarda faaliyet gösteren geçmiş arabulucuların aksine, bu yeni hakemler ticari olarak opak, seçilmemiş ve sürekli olarak adapte olurlar, genellikle açıklama yapmadan. Önyargıları doktrinel değil, eğitim verileri, mimari ve incelenmemiş geliştirici teşvikleri ile kodlanmıştır.
Değişme, yetkili kurumlar aracılığıyla filtrelenmiş ortak bir anlatıdan, algoritmalar tarafından her kullanıcının tercihlerine, alışkanlıklarına ve çıkarılmış inançlarına göre uyarlanan yeni bir anlayış altyapısını yansıtan potansiyel olarak kırılmış anlatılara kadar derindir. Babel paylaşılan bir dilin çöküşünü temsil ederse, şimdi paylaşılan arabuluculuğun çöküşünün eşiğinde durabiliriz.
Kişiselleştirme yeni epistemik substrat ise, sabit aracıları olmayan bir dünyada gerçek altyapısı nasıl görünebilir? Bir olasılık, bir teklif Kullanıcı verilerini ele alan ve algıyı şekillendiren kuruluşların sadakat, bakım ve şeffaflık standartlarına göre tutulması gerektiğini savunan hukuk bilgin Jack Balkin’den.
AI modelleri şeffaflık panoları tarafından yönetilebilir, kamu tarafından finanse edilen veri setleri üzerinde eğitilebilir ve akıl yürütme adımları, alternatif perspektifler veya güven seviyeleri göstermek için gerekli olabilir. Bu “bilgi inançları” önyargıyı ortadan kaldırmaz, ancak sadece kişiselleştirme olmaktan ziyade sürece güven verebilirler. İnşaatçılar, mannequin davranışını açıkça tanımlayan şeffaf “anayasalar” benimseyerek ve kullanıcıların sonuçların nasıl şekillendiğini görmelerini sağlayan mantıksız açıklamalar sunarak başlayabilirler. Bunlar gümüş mermiler değil, epistemik otoriteyi hesap verebilir ve izlenebilir tutmaya yardımcı olan araçlardır.
AI inşaatçıları stratejik ve sivil bir bükülme noktasıyla karşı karşıyadır. Sadece performansı optimize etmiyorlar; Ayrıca kişiselleştirilmiş optimizasyonun paylaşılan gerçeği parçalayabileceği riskiyle de karşılaşıyorlar. Bu, kullanıcılar için yeni bir sorumluluk gerektirir: sadece tercihlerine değil, aynı zamanda öğrenen ve inanan rollerine de saygı duyan sistemler tasarlamak.
Çözmek ve yeniden sarmak
Kaybettiğimiz şey sadece gerçek kavramı değil, bir zamanlar tanıdığımız yoldur. Geçmişte, aracılık edilen gerçek – kusurlu ve önyargılı olmasına rağmen – hala insan yargısına sabitlenmişti ve çoğu zaman, tanıdığınız veya en azından ilişki kurabileceğiniz diğer insanların deneyiminden sadece bir veya iki katman.
Bugün, bu arabuluculuk opak ve algoritmik mantık tarafından yönlendiriliyor. Ve insan ajansı uzun zamandır kayıyor olsa da, şimdi daha derin bir şey, bir zamanlar bize yola çıktığımızda bize söyleyen pusula kaybını riske atıyoruz. Tehlike sadece makinenin bize söylediklerine inanacağımız değil. Bir zamanlar kendimiz için gerçeği nasıl keşfettiğimizi unutacağız. Kaybetme riskiyle karşı karşıya olduğumuz şey sadece tutarlılık değil, aynı zamanda onu arama isteğidir. Ve bununla birlikte, daha derin bir kayıp: bir zamanlar çoğulcu toplumları bir arada tutan ayırt etme, anlaşmazlık ve müzakere alışkanlıkları.
Babel ortak bir dilin paramparça olmasını işaretlediyse, anımız ortak gerçekliğin sessiz solması riskiyle karşı karşıya kalır. Bununla birlikte, yavaşlamanın veya hatta sürüklenmeye karşı koymanın yolları vardır. Akıl yürütmesini açıklayan veya tasarımının sınırlarını ortaya çıkaran bir mannequin, çıktıyı açıklığa kavuşturmaktan daha fazlasını yapabilir. Paylaşılan sorgulama koşullarının geri kazanılmasına yardımcı olabilir. Bu teknik bir düzeltme değildir; Kültürel bir duruş. Sonuçta, gerçek, her zaman sadece cevaplara değil, onlara nasıl bir araya geldiğimize de bağlıydı.
avots
