Bad Chatty
New member
Bana ne reçete edildi? Günde bunun ne kadarını yutabilirim? Hangi yan etkiler var? İlaç kullanan herkes çoğu zaman doktor ya da eczacı yerine internete başvurmayı tercih ediyor. Ancak yeni bir araştırmaya göre bu tehlikeli olabilir.
Yapılan bir araştırmaya göre yapay zeka destekli arama motorları ve chatbotlar ilaçlar hakkında güvenilir bilgi sağlamıyor. Erlanger araştırmacıları “BMJ Quality & Safety” uzman dergisinde, yanıtların sürekli olarak hatalı, eksik ve anlaşılması zor olduğunu yazdı.
Bu nedenle kullanıcılara dikkatli olmalarını tavsiye ediyor ve uyarılar talep ediyorlar. Araştırmanın temel bulgusu, chatbot yanıtlarının kalitesinin henüz kullanıcıların güvenli kullanımı için yeterli olmadığıdır.
Ayrıca, Erlangen Üniversitesi Deneysel ve Klinik Farmakoloji ve Toksikoloji Enstitüsü'nden baş yazar Wahram Andrikyan şöyle açıkladı: “Bu nedenle, chatbot tarafından sağlanan bilgilerin profesyonel tavsiyenin yerini alamayacağının açık bir göstergesi önemlidir.”
Hatalar sıradan insanlar tarafından tanınamaz
Araştırmanın çıkış noktası hastaların kendilerine reçete edilen ilaçlar hakkında internette bilgi edinmekten hoşlandıkları deneyim oldu. Bu nedenle, Nisan 2023'te araştırma ekibi, Microsoft arama motoru Bing'in yapay zeka destekli sohbet robotuna, bunların nasıl alınacağı, yan etkileri veya kontrendikasyonları da dahil olmak üzere ABD'de en çok reçete edilen 50 ilaç hakkında on yaygın soruyu sordu.
Andrikyan, chatbot'un genel olarak soruları yüksek düzeyde eksiksizlik ve doğrulukla yanıtladığını söyledi. Ancak bazı sorularda durum böyle değildi. Andrikyan şöyle özetledi: “Bu, hastalar için bir risk oluşturuyor çünkü sıradan tıp uzmanları, yapay zeka tarafından oluşturulan yanıtların doğruluğunu ve eksiksizliğini kendileri değerlendiremiyorlar.”
Uzman, geçen yılki çalışmadan bu yana, entegre chatbot işlevlerine sahip yapay zeka destekli arama motorlarında hızlı bir ilerleme kaydedildiğini vurguladı. Ancak iyileştirmeler yeterli değildir ve hasta güvenliğine yönelik riskler bir sonraki duyuruya kadar devam etmektedir.
Ancak chatbotlar farklı veri setleriyle eğitildiğinden diğer teknik sistemlerin güvenlik ve kalitesini de incelemenin mantıklı olduğuna inanıyor.
dpa/cel
Yapılan bir araştırmaya göre yapay zeka destekli arama motorları ve chatbotlar ilaçlar hakkında güvenilir bilgi sağlamıyor. Erlanger araştırmacıları “BMJ Quality & Safety” uzman dergisinde, yanıtların sürekli olarak hatalı, eksik ve anlaşılması zor olduğunu yazdı.
Bu nedenle kullanıcılara dikkatli olmalarını tavsiye ediyor ve uyarılar talep ediyorlar. Araştırmanın temel bulgusu, chatbot yanıtlarının kalitesinin henüz kullanıcıların güvenli kullanımı için yeterli olmadığıdır.
Ayrıca, Erlangen Üniversitesi Deneysel ve Klinik Farmakoloji ve Toksikoloji Enstitüsü'nden baş yazar Wahram Andrikyan şöyle açıkladı: “Bu nedenle, chatbot tarafından sağlanan bilgilerin profesyonel tavsiyenin yerini alamayacağının açık bir göstergesi önemlidir.”
Hatalar sıradan insanlar tarafından tanınamaz
Araştırmanın çıkış noktası hastaların kendilerine reçete edilen ilaçlar hakkında internette bilgi edinmekten hoşlandıkları deneyim oldu. Bu nedenle, Nisan 2023'te araştırma ekibi, Microsoft arama motoru Bing'in yapay zeka destekli sohbet robotuna, bunların nasıl alınacağı, yan etkileri veya kontrendikasyonları da dahil olmak üzere ABD'de en çok reçete edilen 50 ilaç hakkında on yaygın soruyu sordu.
Andrikyan, chatbot'un genel olarak soruları yüksek düzeyde eksiksizlik ve doğrulukla yanıtladığını söyledi. Ancak bazı sorularda durum böyle değildi. Andrikyan şöyle özetledi: “Bu, hastalar için bir risk oluşturuyor çünkü sıradan tıp uzmanları, yapay zeka tarafından oluşturulan yanıtların doğruluğunu ve eksiksizliğini kendileri değerlendiremiyorlar.”
Uzman, geçen yılki çalışmadan bu yana, entegre chatbot işlevlerine sahip yapay zeka destekli arama motorlarında hızlı bir ilerleme kaydedildiğini vurguladı. Ancak iyileştirmeler yeterli değildir ve hasta güvenliğine yönelik riskler bir sonraki duyuruya kadar devam etmektedir.
Ancak chatbotlar farklı veri setleriyle eğitildiğinden diğer teknik sistemlerin güvenlik ve kalitesini de incelemenin mantıklı olduğuna inanıyor.
dpa/cel