Nem az orvosoktól kell várni a megbízhatatlan MI-asszisztensek korlátozását
Egy újabb kutatás sürget átfogó szabályozást a gépi tanuló rendszerek egészségügyi környezetben való alkalmazására, írja a Bitport.hu.
Egy február végén közölt kutatás annak a módját keresi, hogy az egészségügyi szakemberek hogyan konzultálhatnának minél kisebb rizikó mellett a megbízhatatlan szoftverasszisztensekkel. A The Register beszámolója alapján két tucat elismert technológiai és egészségügyi szakértő vállalkozott a vezető modellek fals kimeneteinek katalogizálására és elemzésére, hogy annak alapján hatékonyabb szabályokat alkothassanak az MI egészségügyi célú alkalmazására.
A szerzők (akik nem minden esetben teljesen függetlenek a nagy szállítóktól) ugyanis elismerik az új eszközökben rejlő lehetőségeket a klinikai döntések és az orvosi kutatás támogatásától egészen az egészségügyi ellátás minőségének és biztonságának javításáig, és szigorú korlátozások helyett inkább speciális taxonómiát alkotnának a speciális felhasználásban tapasztalható hibákról. Erre egyrészt azért lenne szükség, mert a pontatlanságok azonnali következményekkel vannak a betegellátásra, másrészt az ilyen típusú hallucinációk szakkifejezésekkel és látszólag koherens logikával nehezítik a szakértői közreműködés nélküli felismerését.
A kutatásban általános célú nagy nyelvi modellek (LLM-ek) képességeit értékelték célzott klinikai feladatokon, és egyes modellek ugyan jobban teljesítettek másoknál, összességében mindegyik program borzalmas hallucinációs rátával dolgozott. A szerzők szerint kiderült ugyan, hogy a jelenlegi LLM architektúrák viszonylag erős mintázatfelismerési és diagnosztikai következtetési képességekkel rendelkeznek az orvosi esetleírások feldolgozásakor, de alapvető feladatokkal (mondjuk a részletes tényszerű és időbeli információk pontos kinyerésével és szintetizálásával) már komoly problémáik vannak.
Ennek alapján a kutatók sürgetik a szabályozást és a hibákért való jogi felelősség megállapítását is, ami egyelőre minimum szürke zónának számít, írja a Bitport.hu.
