Nem létező agyi struktúrát azonosított a Med-Gemini
Bryan Moore neurológus felhívta a figyelmet egy, a Google által 2024 májusában publikált kutatási tanulmányban szereplő kirívó tévedésre, írja az Index.
A dokumentumban a kutatók azt mutatták be, ahogy a Med-Gemini agyi képalkotó felvételeket elemez, az AI az egyik leleten azonban valami olyat azonosított, ami egyszerűen nem létezik az emberi testben, írja az Index.
A Google utólag elismerte a hibát, és az AI-ról szóló blogposztját is javította, ám a cikk írásakor a hivatalos kutatási tanulmányban továbbra is a téves megnevezés szerepelt. A cég magyarázata szerint az AI valószínűleg összekeverte a valóban létező törzsdúcokat (bazális ganglionokat) és az alapi verőeret (arteria basilaris), így jött létre a basilaris ganglion, ami nem létezik. A Google szerint a „baziláris” a „bazális” szó „gyakori téves átirata, amelyet a Med-Gemini a tanítóadatokból tanult meg”.
Az eset heves reakciókat váltott ki szakmai körökben. „Amiről itt szó van, az rendkívül veszélyes. Két betű, de óriási a jelentősége” – nyilatkozta a The Verge-nek Maulin Shah, a Providence egészségügyi rendszer orvosinformatikai igazgatója. A szakértők szerint az ehhez hasonló „hallucinációk”, vagyis amikor az AI magabiztosan közöl valótlan információkat, egy kórházi környezetben akár emberéleteket is veszélyeztethetnek.
A kínos hiba ellenére a Google teljes gőzzel halad előre az egészségügyi AI-megoldások fejlesztésével. Nemrég jelentették be, hogy a sokszor szintén hibás információkat közlő AI Áttekintések (AI Overviews) funkciójuk már egészségügyi tanácsokat is ad, valamint egy „AI társtudós” fejlesztésén is dolgoznak.
