Mesterséges intelligencia elbírálhatja-e a tudást?

A mesterséges intelligencia (AI) veszélyes vizekre vezeti a tudományt, írja Janne I. Hukkinen, a University of Helsinki interdiszciplináris kutatásokat tanulmányozó környezetmérnök professzora az új technológiák kultúrára gyakorolt hatásaival foglalkozó amerikai havilapban. A profitorientált tudományos szaklapkiadók ugyanis a hatékonyság növelése érdekében növekvő mértékben használják az AI-t annak eldöntésében, hogy mely kutatások érdemesek publikálásra és melyek nem. Ennek következtében a peer review folyamata átalakulóban van, és az emberek közötti interakciókat kezdi felváltani az ember és gép közötti kommunikáció.

Mindez azért alapvetően fontos, mert a peer review a tudomány működésének egyik alapja: a kutatók valamennyi tudományágban kollégáikkal vitatkozva javítják munkájuk minőségét. És bár a peer review-nak vannak hibái, széles körben elismert, hogy ez biztosítja a tudomány minőségi kontrolljának legjobb módját, fejti ki Hukkinen.

Az elmúlt években azonban annyira megszaporodtak a tudományos cikkek, hogy a szaklapkiadók alig bírják feldolgozni őket (2014-ben pl. 28.000 szaklapban több mint 1,8 millió tanulmány jelent meg), ezért olyan kiadói software-rendszereket vezettek be, amelyek révén megpróbálják csökkenteni az emberi hozzájárulást a tudományértékelési folyamatban. Mint a környezetmérnök professzor írja, ezek a kiadói rendszerek valójában mesterséges intelligenciák, amelyeket plágium-ellenőrző software-rel láttak el; a benyújtott tanulmány tartalma alapján javasolják, hogy profiljuk, tudományos teljesítményük és érdekütközéseik értékelése alapján mely szakembereket kérje fel a szerkesztő a kézirat értékelésére, majd automatikusan intézik a szereplők közötti levelezést is.

Bár a kéziratok minőségével, jelentőségével és újdonságával kapcsolatos végső döntéseket ma még emberek – a szerkesztők - hozzák meg, ha a folyamat a jelenlegi úton halad tovább, ez nem sokáig lesz így. A tanuló algoritmusok ugyanis képesek a review egész folyamatának menedzselésére, a kiadói adatbázisok használatával elemzik a szakemberek profilját, korábbi kommentárjaikat és szerkesztői értékelésüket, továbbá felismerik a kéziratok változásait. Az AI nagy segítség lehet a peer review folyamatában, azonban nem lenne jó, ha teljesen átvenné az emberek szerepét.

Ezért alapvetően fontos elgondolkoznunk azon, hogy kinek áll jogában az AI felhasználását szabályozni, mivel a tudástermelés mikéntje mindannyiunkat érint, és ma már a tanulmányok több mint 50%-át megjelentető, öt legnagyobb tudományos szaklapkiadó (Elsevier, Taylor & Francis, Springer, Wiley-Blackwell, Sage) mind kiadói software-rendszereket használ. Szervezeti szabályokat kell tehát hozni, amelyekben lefektetjük, hogy mit tehet meg az AI, és mit nem.

Egy AI egyébként arra is képes, hogy a számára alkotott kutatói-kiadói instrukciók alapján maga hozzon létre tudományos kéziratot, amit aztán be lehet nyújtani egy másik AI-rendszerhez elbírálásra – minek bajlódnának ezután a kutatók maguk cikkírással, ha publikációs listájuk gyorsan bővíthető lesz más módszerekkel is?

Az AI felhasználása a tudományértékelésben a szabályozáson kívül további kérdéseket is felvet a tudomány jövőjével kapcsolatosan, pl. hogyan változik majd meg a szakcikkek írása, ha a szerzők tudják, hogy szövegeiket nem ember, hanem AI bírálja el? Az AI magasrendű racionalitásra képes, azonban az értékek iránt kevésbé fogékony, így pl. képtelen két tudományos szempontból egyenlő értékű tanulmány között annak alapján különbséget tenni, hogy melyiknek van nagyobb társadalmi relevanciája. Az AI annak megítélésére sem képes, hogy mi bizonyul majd új tudásnak, azonban generálhat erre saját kritériumokat, és akkor alapjaiban fog megváltozni kultúránk, figyelmeztet a finn kutató.