Egyelőre nem megbízhatóak a chatbotok orvosi diagnózis terén
Egyelőre nem érdemes a mesterséges intelligenciához fordulni az egészséget érintő tanácsokért, derül ki a hvg.hu írásából.
Egy friss kutatás szerint az Egyesült Államokban már 6-ból 1 ember használja is a technológiát egészségügyi tanácsokért, legalább havi egyszer.
Pedig úgy tűnik, hogy ez nem igazán jó ötlet. A chatbotokba fektetett túlzott bizalom ugyanis kockázatokat rejthet magában, mivel az emberek nem tudják, hogy ilyen információkat kell megadni ahhoz, hogy a legjobb egészségi ajánlás legyen az eredmény – hívja fel a figyelmet az Oxford Egyetem friss tanulmánya.
A vizsgálat egy kétirányú kommunikációs zavart tárt fel – magyarázza Adam Mahdi, a tanulmány társszerzője. Megjegyzi: a chatbotokat használó emberek nem hoztak jobb döntéseket azoknál, akik hagyományos módszerekre, például az internetes keresésre, vagy a saját ítélőkészségükre támaszkodtak.
Vizsgálataikhoz körülbelül 1300 embert toboroztak a szakemberek az Egyesült Királyságban. Valamennyiek orvosok által írt szituációkat kaptak, a feladat pedig az volt, hogy azonosítsák a lehetséges egészségügyi állapotokat a chatbotok, valamint a saját módszereik segítségével – és derítsék ki, milyen teendők lehetnek szükségesek.
Az alanyok a ChatGPT alapértelmezett modelljét (GPT-4o), a Meta Llama 3-at, valamint a Cohere’-féle Command R+-t használták. A szakemberek szerint a résztvevők a chatbotok hatására nemcsak nehezebben azonosítottak egy egészségügyi állapotot, de még azt is nagyobb valószínűséggel becsülték alá, hogy mennyire súlyos, amit megállapítottak – írja a hvg.hu.
Mahdi úgy véli, az emberek sokszor kihagytak kulcsfontosságú részleteket, amikor a chatbotnak vázolták a problémát, de kétirányú volt a gond: időnként a chatbotok is nehezen értelmezhető válaszokat adtak vissza.
