Megbízhatóbbá teszi a képalkotást a Wigner kutatóközpont új módszere
A képfeldolgozó mesterséges intelligencia megbízhatóságának növelésére dolgoztak ki új módszert a Wigner kutatóközpont munkatársai.
A HUN-REN Wigner Fizikai Kutatóközpont Orbán Gergő vezette kutatócsoportja argentin partnerekkel együttműködésben solgozta ki a módszert, a kutatás eredményeiről az IEEE Transactions on Pattern Analysis and Machine Intelligence című szakfolyóiratban számoltak be.
A HUN-REN Wigner Fizikai Kutatóközpont honlapján olvasható közlemény szerint a mélytanuló rendszerek esetében nemcsak a jó döntés meghozatala, hanem a döntés biztonságának felmérése is kulcsfontosságú. A magyar és argentin szakemberek által kifejlesztett eljárás javítja ezt a bizonytalanságkezelést, ami jelentős előrelépést hozhat az orvosi képalkotásban, emellett közelebb vihet az emberi látás működésének pontosabb megértéséhez is.
A kutatás a NeuroAI területéhez kapcsolódik, amely az idegrendszer és a mesterséges intelligencia (MI) működése közötti párhuzamokat vizsgálja. Ennek célja kettős: egyrészt az agy működésének jobb megértése segíthet hatékonyabb gépi intelligencia kialakításában, miközben a mesterséges rendszerek vizsgálata új ötleteket adhat az idegrendszer kutatásához.
A kutatók arra keresték a választ, hogyan tudná a mesterséges intelligencia pontosabban jelezni, mennyire biztos abban, amit egy képről kikövetkeztet.
A vizsgálat középpontjában a variációs autoenkóderek (VAE) álltak. Ezek olyan mély generatív modellek, amelyek egy kép lényeges jellemzőit tömör, belső reprezentációban rögzítik, majd ebből képesek újra felépíteni a képet. Arra is alkalmasak, hogy ne csak egy következtetést adjanak, hanem annak bizonytalanságát is megbecsüljék.
A kutatók ugyanakkor megállapították, hogy a hagyományos VAE-k bizonytalanságbecslése több gyakori képfeldolgozási helyzetben - például a kép kontrasztjának változásakor, zajos vagy sérült adatoknál, illetve a tanítási mintáktól jelentősen eltérő képek esetén - hibásan működhet.
A probléma kiküszöbölésére a kutatócsoport a klasszikus gépi látásból ismert megoldással egészítette ki a modellt, és létrehozta az Explaining-Away Variational Autoencoder (EA-VAE) elnevezésű új változatot. A beépített új tényező segítségével a modell képes elkülöníteni, hogy a képen látható változás magából az ábrázolt objektumból ered-e, vagy csupán a teljes kép fényereje, kontrasztja módosult. A többféle képi adaton végzett tesztek igazolták, hogy az új modell következetesebb bizonytalanságbecslést ad.
A közlemény kiemeli: a kutatás különlegessége, hogy az EA-VAE működésében megjelent a biológiai látórendszerben is széles körben megfigyelhető úgynevezett divizív normalizáció. Ez a számítási mechanizmus az idegsejtek aktivitását a környező sejtek működéséhez viszonyítva szabályozza. A szakemberek így nem csupán az MI teljesítményét javították, hanem egy olyan megoldáshoz jutottak, amelynek működési elve a biológiai idegrendszerben is jelen van.
A bizonytalanság helyes felmérése kiemelten fontos azokban az alkalmazásokban, ahol egy tévesen magabiztos döntés súlyos következményekkel járhat. Egy orvosi kép elemzésekor például nemcsak az számít, hogy az algoritmus milyen elváltozást azonosít, hanem az is, hogy mennyire biztos ebben. Egy jól kalibrált rendszer jelezheti, ha az adott kép szokatlan vagy nehezen értelmezhető, és ezért emberi szakértő ellenőrzésére van szükség.
A módszer emellett minden olyan képfeldolgozó rendszerben előnyt jelenthet, amelynek változó fényviszonyokkal, zajjal, sérült adatokkal vagy korábban nem látott képekkel kell megbirkóznia.
A kutatás így egyszerre mutat utat a megbízhatóbb mesterséges intelligencia és a biológiai látás pontosabb modellezése felé - áll a HUN-REN Wigner Fizikai Kutatóközpont összegzésében.
