Sağlık ve İnsan Hizmetleri Sekreteri Robert F. Kennedy Jr., Gıda ve İlaç İdaresi gibi ajansların üretken yapay zeka araçlarını kullanmak için büyük bir baskı yaptı. Aslında, Kennedy kısa süre önce Tucker Carlson’a AI’nın yakında yeni ilaçları “çok, çok hızlı” olarak onaylamak için kullanılacağını söyledi. Ancak CNN’den yeni bir rapor tüm en kötü korkularımızı teyit ediyor. FDA’nın AI aracı Elsa, sahte çalışmalar tükürüyor.
CNN, FDA’da mevcut ve eski çalışanlarla konuştu, bunlardan üçü ELSA’yı toplantı notları ve özetleri oluşturmak gibi yararlı olarak tanımladıkları iş için kullandı. Ancak bu FDA çalışanlarından üçü CNN’ye anlattı ELSA’nın, AI’da yaygın olarak “halüsinasyon” olarak adlandırılan bir şey olan varolmayan çalışmaları oluşturduğunu. Bu çalışanlara göre AI ayrıca araştırmayı yanlış tanıtacak.
İsimsiz bir FDA çalışanı CNN’ye verdiği demeçte, “İki kez kontrol etmek için zamanınız olmayan her şey güvenilmez. Güvenle halüsinasyon yapıyor” dedi.
Ve bu tüm AI chatbots ile ilgili büyük sorun. Doğruluk için çift kontrol edilmeleri gerekir, çoğu zaman çıktılarının kalitesini önemsiyorlarsa, bilgisayarın arkasındaki insan için daha da fazla iş yaratırlar. AI’nın gerçekten zaman kazandırması konusunda ısrar eden insanlar, son zamanlarda programcıların bir çalışması ile görevlerin aldığını gösteren son zamanlarda kendilerini kandırıyor. % 20 daha uzun Yapay zeka ile, ikna olmuş insanlar arasında bile daha verimli oldukları.
Kennedy’nin Amerika Make America (Maha) Komisyonu Mayıs ayında daha sonra sahte çalışmalar için alıntılarla doldurulduğu tespit edilen bir rapor yayınladı. Kâr amacı gütmeyen haber outlet Notus’tan yapılan bir analiz, belirtilen en az yedi çalışmanın bile mevcut olmadığını ve belirli bir çalışmada gerçekte söylenenleri daha fazla tanıttığını buldu. Komisyonun bu raporu oluşturmak için Elsa’yı kullanıp kullanmadığını hala bilmiyoruz.
FDA Komiseri Marty Makary başlangıçta Elsa’yı 2 Haziran’da ajansa konuşlandırdı ve Gizmodo’ya sızan bir dahili slayt, sistemin “uygun maliyetli” olduğunu ve ilk haftasında sadece 12.000 dolara mal oldu. Makary, Elsa’nın ilk duyurulduğunda “programın önünde ve bütçenin önünde” olduğunu söyledi. AI Teşkilatı. Ama ödediğinizi alıyormuşsunuz gibi görünüyor. Çalışmanızın doğruluğunu umursamıyorsanız, Elsa, kapıyı daha hızlı eğilmenize izin vermek için harika bir araç gibi geliyor ve ABD’de halk sağlığı için potansiyel olarak gerçek sonuçları olabilecek çöp çalışmaları üretmek için
CNN, bir FDA çalışanı ELSA’dan yeni bir ilaç üzerinde 20 sayfalık bir kağıdın tek paragraf bir özeti oluşturmasını isterse, bu özetin doğru olup olmadığını bilmenin basit bir yolu olmadığını belirtiyor. Ve özet az ya da çok doğru olsa bile, 20 sayfalık raporda uzmanlığa sahip herhangi bir insan için büyük bir kırmızı bayrak olacak bir şey varsa? Bir şeyin kaçırılıp kaçırılmadığını veya özetin doğru olup olmadığını bilmenin tek yolu raporu gerçekten okumaktır.
CNN ile konuşan FDA çalışanları, belirli bir sınıftaki kaç ilacın çocuklar için onaylandığı gibi temel sorular sorarak ELSA’yı take a look at ettiklerini söyledi. Elsa güvenle yanlış cevaplar verdi ve düzeltildiğinde görünüşte özür dilese de, bir robotic “üzgün” olmak gerçekten hiçbir şeyi düzeltmiyor.
Kennedy AI’nın FDA’nın yeni ilaçları onaylamasına izin vereceğini söylediğinde iş akışının konuşlandırıldığını hala bilmiyoruz, ancak Haziran ayında ifade edildi Bir Home alt komitesine “uyuşturucu onaylarının hızını artırmak” için zaten kullanıldığını. Aşırı aşırılık anti-aşı inançları onu halk sağlığı lideri olmasını engellemeyen sekreter, kanıtlanmamış teknolojileri ana akım bilime enjekte etmeye niyetli görünüyor.
Kennedy ayrıca Kongre’ye her Amerikalının önümüzdeki dört yıl içinde giyilebilir bir sağlık cihazıyla bağlanmasını istediğini ifade etti. Olduğu gibi, Başkan Trump’ın cerrah generali seçimi Casey Means, diyabetik olmayan insanlarda glikoz seviyelerini izleyen seviyeler adı verilen bir giyilebilir şirkete sahip. Uzmanlara göre, diyabetsiz kişilerin glikoz seviyelerini sürekli olarak izlemeleri için kesinlikle hiçbir neden yok. Kennedy’nin yakın bir müttefiki, Senato tarafından henüz doğrulanmadı.
FDA, Ajansın Elsa’nın sahte çalışma sorununu ele almak için ne yaptığını Çarşamba günü e -postayla gönderilen sorulara yanıt vermedi. Makary, CNN’ye Elsa’nın “potansiyel olarak halüsinasyon” yapabileceğini kabul etti, ancak bu diğer büyük dil modellerinden ve üretken AI’dan “farklı” değil. Ve bu konuda yanlış değil. Sorun şu ki, AI sürekli olarak sadece bir şeyler uydururken amaca uygun değildir. Ancak bu, AI’nın bir şekilde sihir olduğuna inanmaya devam etmesini engellemeyecek.
