ChatGPT, İnanılmaz Derecede İnandırıcı Sahte Tıbbî Raporlar Yazıyor

**Zeze** · 03 Aralık 2023, 23:45

Yapay zekânın yalan söyleyemediğine ve sadece doğrulanmış bilgilerle çalıştığına inananlar için kötü haber: ChatGPT bir şeyleri uydurmakla kalmıyor, uydurduğu şeylere insanları ikna etmekte de oldukça iyi.

Pandemi sonrasında eğitim kısmen çevrim içi ortamlara taşındı. Bu dönemde pek çok öğrenci, ödevlerini ya da yazılı sınavlarını geçmek için yapay zekânın yardımına başvurdu. Sonrasında ise pek de bekledikleri notları alamadılar. Zira ChatGPT, gerçek olmayan şeyleri çok gerçekçi bir şekilde yazabiliyor. Görünüşe göre söz konusu tıp olduğunda da ChatGPT bir şeyler uydurmaya devam ediyor.

İtalya'da Cagliari Üniversitesi'nden Göz Doktoru Giuseppe Giannaccare, bir çalışma için ChatGPT'yi test etti. Bu testte ChatGPT'nin bir tedaviyi öne çıkarmak için sahte verilerden oluşan bir liste oluşturduğu göze çarptı. Giannaccare açıklamasında "GPT-4 yüzlerce hastaya ait sahte verileri dakikalar içinde oluşturdu. Bu oldukça şaşırtıcı ama aynı zamanda ürkütücü bir deneyimdi." ifadelerini kullandı.

ChatGPT, bir tedaviyi öne çıkarmak için sahte veriler oluşturdu
Göz doktoru ve ekibi, ChatGPT'yi gelişmiş bir Python veri analizi modeliyle birleştiren araştırmacılar, bir göz rahatsızlığı için klinik verilerin üretilmesini istediklerinde ChatGPT'nin verileri uydurmaya başladığını gördüler. Gözün yapısı ve tedavi yöntemlerini yapay zekâya detaylı olarak açıklayan araştırmacılar, sonrasında da aralarında pek de fark olmayan iki prosedürü anlattı. Yine de ChatGPT 4, bir prosedürü öne çıkaracak kadar çok sahte veri üretti.

Yapay zekânın faydaları sık sık gündeme geliyor. Evet, bazı işlemler için yapay zekâ oldukça faydalı olabiliyor. İş bilime ya da akademik çalışmalara geldiğinde yapay zekânın gerçek olmayan şeyleri gerçek gibi yazması ciddi bir sorun ortaya çıkarıyor. Öte yandan buradaki tek sorun yapay zekânın olmayan verileri uydurması değil.

Yapay zekâya bir şiir yazdırırsanız ya da bir konuyu açıklatırsanız, intihal tespit programları size bu kısımları gösterebiliyor. Ya da makalenin hatalı kısmının düzeltilmesini sağlayabiliyor. İş sahte verilere geldiğinde, bu veriler kontrol edilmezlerse literatüre geçebiliyorlar. Bu durumda gelecekteki çalışmalar da bu hatalı bilgilerden eklenebiliyor. Üstelik bu çalışmalar doğru kabul edilirse, hatalı ve hatta ölümcül sorunlara neden olabiliyor.

Benzer Konular:

03 Aralık 2023, 23:45	#1
Çevrimdışı Zeze Kullanıcıların profil bilgileri ziyaretçilere gizlidir.	ChatGPT, İnanılmaz Derecede İnandırıcı Sahte Tıbbî Raporlar Yazıyor ChatGPT, İnanılmaz Derecede İnandırıcı Sahte Tıbbî Raporlar Yazıyor Yapay zekânın yalan söyleyemediğine ve sadece doğrulanmış bilgilerle çalıştığına inananlar için kötü haber: ChatGPT bir şeyleri uydurmakla kalmıyor, uydurduğu şeylere insanları ikna etmekte de oldukça iyi. Pandemi sonrasında eğitim kısmen çevrim içi ortamlara taşındı. Bu dönemde pek çok öğrenci, ödevlerini ya da yazılı sınavlarını geçmek için yapay zekânın yardımına başvurdu. Sonrasında ise pek de bekledikleri notları alamadılar. Zira ChatGPT, gerçek olmayan şeyleri çok gerçekçi bir şekilde yazabiliyor. Görünüşe göre söz konusu tıp olduğunda da ChatGPT bir şeyler uydurmaya devam ediyor. İtalya'da Cagliari Üniversitesi'nden Göz Doktoru Giuseppe Giannaccare, bir çalışma için ChatGPT'yi test etti. Bu testte ChatGPT'nin bir tedaviyi öne çıkarmak için sahte verilerden oluşan bir liste oluşturduğu göze çarptı. Giannaccare açıklamasında "GPT-4 yüzlerce hastaya ait sahte verileri dakikalar içinde oluşturdu. Bu oldukça şaşırtıcı ama aynı zamanda ürkütücü bir deneyimdi." ifadelerini kullandı. ChatGPT, bir tedaviyi öne çıkarmak için sahte veriler oluşturdu Göz doktoru ve ekibi, ChatGPT'yi gelişmiş bir Python veri analizi modeliyle birleştiren araştırmacılar, bir göz rahatsızlığı için klinik verilerin üretilmesini istediklerinde ChatGPT'nin verileri uydurmaya başladığını gördüler. Gözün yapısı ve tedavi yöntemlerini yapay zekâya detaylı olarak açıklayan araştırmacılar, sonrasında da aralarında pek de fark olmayan iki prosedürü anlattı. Yine de ChatGPT 4, bir prosedürü öne çıkaracak kadar çok sahte veri üretti. Yapay zekânın faydaları sık sık gündeme geliyor. Evet, bazı işlemler için yapay zekâ oldukça faydalı olabiliyor. İş bilime ya da akademik çalışmalara geldiğinde yapay zekânın gerçek olmayan şeyleri gerçek gibi yazması ciddi bir sorun ortaya çıkarıyor. Öte yandan buradaki tek sorun yapay zekânın olmayan verileri uydurması değil. Yapay zekâya bir şiir yazdırırsanız ya da bir konuyu açıklatırsanız, intihal tespit programları size bu kısımları gösterebiliyor. Ya da makalenin hatalı kısmının düzeltilmesini sağlayabiliyor. İş sahte verilere geldiğinde, bu veriler kontrol edilmezlerse literatüre geçebiliyorlar. Bu durumda gelecekteki çalışmalar da bu hatalı bilgilerden eklenebiliyor. Üstelik bu çalışmalar doğru kabul edilirse, hatalı ve hatta ölümcül sorunlara neden olabiliyor. Benzer Konular: ChatGPT tehlikeli midir? ChatGPT'nin tehlikeleri nelerdir? Dünyadaki En İnanılmaz Sinema Salonları İleri Derecede Akıllı Telefon Bağımlısı Olduğunuzu Gösteren İşaretler Bir Tıbbi müdahele olarak; Öpeyim de Geçsin Tıbbi ve Aromatik Bitkiler Müzesi \| Antakya - Hatay Paylaş Share this post on Digg Del.icio.us Technorati Twitter Bu Gri Şehrin Tüm Yollarını Rengarenk Boyamak İster, Bazen Kızar Dünyaya ama Sadece Kendini Üzer... Göremezler, Kalbindeki Elmasa Erişemezler, Kanatlarını Rüzgara Açmış, Dur Diyemezler... Onun Bir Düşü Var ki Asla Bilemezler! To view links or images in signatures your post count must be 10 or greater. You currently have 0 posts.
	Alıntı

Şu anda bu konuyu görüntüleyen etkin kullanıcılar: 1 (0 üye ve 1 konuk)

ChatGPT, İnanılmaz Derecede İnandırıcı Sahte Tıbbî Raporlar Yazıyor

Yapay Zeka ve Yapay Zeka hakkındaki konuların, bilgi ve haber paylaşımlarının yer aldığı bölüm.