Gıda ve İlaç İdaresi’nin Sağlık ve İnsan Hizmetleri Sekreteri tarafından Robert F. Kennedy, Jr. tarafından ilaç onaylarını kısaltmak için devrimci bir çözüm olarak lanse edilen yeni AI aracı başlangıçta çözümlerden daha fazla halüsinasyona neden oluyor.
ELSA olarak bilinen AI Chatbot, FDA çalışanlarına toplantı notları ve e -postalar gibi günlük görevlerde yardımcı olmak için tanıtıldı ve aynı zamanda önemli uygulama verileri aracılığıyla sıralayarak daha hızlı ilaç ve cihaz onayını destekledi. Ancak, FDA içeriden gelenlere göre CNN ile konuştu Anonimlik altında, chatbot halüsinasyonlarla doludur, genellikle tıbbi çalışmalar üretir veya önemli verileri yanlış yorumlar. Araç, çalışanlar tarafından kesildi, kaynaklar incelemelerde kullanılamayacağını ve çalışanların vaat edildiğini önemli bir dahili belgelere erişemediğini söylüyor.
Sağlık Veri ihlali beş milyondan fazla Amerikalıyı etkiler
Bir FDA çalışanı CNN’ye verdiği demeçte, “Bu güvenle halüsinasyon yapıyor,” dedi. Kaynaklara göre, araç genellikle FDA’nın araştırma alanları, ilaç etiketleri hakkında yanlış cevaplar sağlar ve harici tıbbi dergilerden üçüncü taraf alıntılara bağlanamaz.
Aracın zaten klinik inceleme protokolüne entegre edildiğine dair ilk iddialara rağmen, FDA Komiseri Marty Makary CNN’ye aracın yalnızca “organizasyonel görevler” için kullanıldığını ve çalışanlar için gerekli olmadığını söyledi. FDA’nın AI başkanı yayına, aletin halüsinasyon riski altında olduğunu ve diğer LLM’lerle aynı riski taşıdığını itiraf etti. Her ikisi de hata yaptığına şaşırmadıklarını ve daha fazla take a look at ve eğitime ihtiyaç olduğunu söyledi.
Püre Işık Hızı
Ancak tüm LLM’lerin hayat kurtaran tıbbı onaylama işi yoktur.
Ajans, FDA’nın Biyolojik Değerlendirme ve Araştırma Merkezi (CBER) ve yapay zeka yazımı, AI inovasyonunun eşlik eden bir ajans için öncü bir öncelik olduğunu yazdığı Vinay Prasad ile Haziran ayında yeni ajan aracını duyurdu. Amerikan Tıp Derneği Dergisi (Jama) Makale. Cihaz ve ilaç uygulamalarını inceleyen araç, FDA’nın bir başlatılmasının ardından uzun ve sıklıkla kritikleştirilmiş ilaç onay süreleri için bir çözüm olarak atıldı. AI destekli bilimsel inceleme pilotu.
Trump yönetimi, hükümetin yeni açılan AI eylem planında ilan edilen yeni AI araçlarını take a look at etmek ve dağıtmak için FDA destekli AI Mükemmellik Merkezleri kurmak için son federal rehberlik de dahil olmak üzere, hızlandırılmış bir “Amerika’nın ilk” AI gündeminin arkasındaki devlet kurumlarını topladı. Birçoğu, agresif itme ve deregülasyon çabalarının yeni teknolojinin gerekli gözetiminden kaçınmasından endişe ediyor.
Eylem Planı, “Amerika’nın sağlık hizmeti gibi en kritik sektörlerinin çoğu, teknolojinin güvensizlik veya anlayış eksikliği, karmaşık bir düzenleyici manzara ve açık yönetişim ve threat azaltma standartlarının eksikliği gibi çeşitli faktörler nedeniyle özellikle yavaşlatılıyor.” “Koordineli bir federal çaba, Amerikan endüstrisinde AI için dinamik, ‘önce deneme’ kültürü oluşturmada faydalı olacaktır.”
