Orvosi AI-forradalom helyett hitelességi válság?
A tanulmányok elemzése és az AI-alapú diagnosztikai eszközök gyakorlati használata alapján valójában inkább hitelességi válságról, mintsem forradalomról beszélhetünk, írja a 444.
Az elmúlt egy évben olyan mennyiségben töltöttek fel tanulmányokat kutatók a hagyományos ellenőrzés előtt preprint szerverekre, vagy jelentettek meg már ellenőrzés után orvosi szaklapokban a mesterséges intelligencia orvosdiagnosztikai felhasználásáról, hogy valóban úgy tűnhetett, a koronavírus-járvány elhozta az AI-forradalmat az orvoslásban. Cassey Ross, a Stat orvosi hírlap technológiai szakírójának cikke alapján azonban ez inkább tűnik délibábnak. Mint írja, a tanulmányok elemzése és az AI-alapú diagnosztikai eszközök gyakorlati használata alapján valójában inkább hitelességi válságról, mintsem forradalomról beszélhetünk.
A tényleg százával készült tanulmányokból több mint négyszázat a Cambridge-i Egyetem kutatócsapata tanulmányozott át, és arra a megrázó következtetésre jutott, hogy kivétel nélkül mindben volt végzetes, a tanulmány eredményét teljes mértékben megkérdőjelező hiba. "Revelációként hatott, és igazán meglepő is volt, hogy hány módszertani hiba volt ezekben", mondta a Statnak Ian Selby radiológus, a cambridge-i kutatócsoport tagja.
A kutakodásaik során kiderült, hogy a betegségeket diagnosztizáló algoritmusokat gyakran nagyon kicsi, ráadásul egy forrásból származó adatmintákkal tanították, melyek egyáltalán nem is voltak változatosak, sőt, még az is előfordult, hogy újra és újra felhasználták ezeket az adatokat a gépi tanuláshoz és a teszteléshez. Ez pedig főbenjáró bűn: mivel az AI kevés mintából tanul, majd hatékonyságát ugyanazon a mintán elemzik, félrevezetően meggyőző teljesítményt nyújthat. Selby, bár maga AI-hívő, ez alapján arra jutott, hogy nem nagyon lehet hinni ezekben a tanulmányokban.
A teljes cikket ITT olvashatja
