AI bize hayatın hemen hemen her yönünde, telefonlardan ve uygulamalardan arama motorlarına ve hatta bize zorlanıyor sürüşbir nedenden dolayı. Şimdi fırında yapay zeka asistanları ve sohbet botları ile internet tarayıcıları almamız, bazı insanların bugün bilgi aramak ve tüketmek için interneti kullanma şeklinin birkaç yıl önce bile çok farklı olduğunu gösteriyor.
Ancak AI araçları, çalışması gereken kisvenin altında kişisel verilerinize brüt erişim seviyeleri istemektedir. Bu tür erişim regular değildir, ne de normalleştirilmemelidir.
Çok uzun zaman önce, App Retailer’daki görünüşte zararsız görünümlü ücretsiz “el feneri” veya “hesap makinesi” uygulamasının neden kişilerinize, fotoğraflarınıza ve hatta gerçek zamanlı konum verilerinize erişim istemeye çalışacağını sorgulamakta haklı olacaksınız. Bu uygulamaların bu verilerin işlev görmesi gerekmeyebilir, ancak verilerinizden para kazanarak bir veya iki dolar kazanabileceklerini düşünürlerse talep ederler.
Bu günlerde AI o kadar farklı değil.
Örnek olarak şaşkınlığın en son AI ile çalışan internet tarayıcısı Kuyruklu Yıldızı’nı alın. Kuyruklu yıldız, kullanıcıların yerleşik AI arama motoru ile cevap bulmasına ve e-postaları ve takvim olaylarını özetlemek gibi rutin görevleri otomatikleştirmelerine olanak tanır.
Tarayıcı ile yakın zamanda uygulanan bir uygulamada, TechCrunch, bir kullanıcının Google takvimine erişim istediğinde tarayıcının, taslakları yönetme ve e-postalar gönderme, kişilerinizi indirme, tüm takvimlerinizin bir kopyasını alma ve hatta şirketinizin tüm çalışanı seçme yeteneği de dahil olmak üzere, kullanıcının Google hesabına geniş bir izin istediğini ve hatta şirketinizin tüm çalışanı seçeneği alma yeteneğini istediğini buldu.
Şaşkınlık, bu verilerin çoğunun cihazınızda yerel olarak saklandığını söylüyor, ancak yine de şirket hakları veriyorsunuz Erişim ve Kullanım Herkes için AI modellerini geliştirmek de dahil olmak üzere kişisel bilgileriniz.
Şaşkınlık, verilerinize erişim istemekte yalnız değildir. Örneğin, çağrılarınızı veya iş toplantılarınızı kopyalayarak measurement zaman kazandırmaya söz veren, ancak AI asistanının gerçek zamanlı özel görüşmelerinize, takvimlerinize, kişilerinize ve daha fazlasına erişmesini gerektiren AI uygulamalarının bir eğilimi vardır. Meta da, AI uygulamalarının henüz yüklenmemiş kamera rulosunda depolanan fotoğraflara dokunma da dahil olmak üzere AI uygulamalarının erişim isteyebileceği sınırları take a look at ediyor.
Sinyal Başkanı Meredith Whittaker kısa süre önce AI ajanlarının ve asistanlarının “beyninizi bir kavanoza koyma” için kullanımını benzetti. Whittaker, bazı AI ürünlerinin bir restoranda bir masayı saklamak veya bir konser için bilet rezervasyonu gibi her türlü sıradan görevi nasıl yapmayı vaat edebileceğini açıkladı. Ancak bunu yapmak için, AI, internet sitesini yüklemek için tarayıcınızı açmanın izninize ihtiyaç duyduğunu söyleyecektir (AI’nın depolanmış şifrelerinize, yer işaretlerinize ve göz atma geçmişinize erişimine izin verebilir), rezervasyon yapmak için bir kredi kartı, tarihi işaretlemek için takviminiz de bir arkadaşınızla paylaşmak için kişilerinizi açmayı isteyebilir.
Verilerinize dayanan AI asistanlarının kullanılmasıyla ilişkili ciddi güvenlik ve gizlilik riskleri vardır. Erişime izin verirken, o andan itibaren en iyi bilgilerinizin tüm anlık görüntüsünün haklarını, gelen kutunuzdan, mesajlarınızdan ve yıllarca tarihli takvim girişlerinden ve daha fazlasını veriyorsunuz. Tüm bunlar, görünüşte zaman kazandıran bir görev gerçekleştirmek için – ya da Whittaker’ın noktasına kadar, sizi aktif olarak düşünmek zorunda olmaktan kurtarır.
Ayrıca, AI temsilcisine sizin adınıza özerk bir şekilde hareket etme izni veriyorsunuz ve zaten işleri yanlış yapmaya ya da bir şeyleri oluşturmaya eğilimli bir teknolojiye muazzam miktarda güven koymanızı gerektiriyor. Yapay zeka kullanmak, AI modellerinin daha iyi performans göstermesini sağlamak için verilerinize dayanan bu AI ürünlerini geliştiren kâr arayan şirketlere güvenmenizi gerektirir. İşler ters gittiğinde (ve çok şey yaptıklarında), AI şirketlerindeki insanlar için işlerin neden işe yaramadığını anlamak için özel istemlerinizi incelemek yaygın bir uygulamadır.
Güvenlik ve gizlilik açısından, AI’yi en kişisel verilerinize bağlamanın basit bir maliyet-fayda analizi, en özel bilgilerinize erişimden vazgeçmeye değmez. Bu izin seviyelerini isteyen herhangi bir AI uygulaması, tıpkı her an konumunuzu bilmek isteyen el feneri uygulaması gibi alarm zillerinizi çalmalıdır.
AI şirketlerine teslim ettiğiniz veri toplama göz önüne alındığında, kendinize ne elde ettiğinizin gerçekten buna değip değmediğini sorun.
