Örökre be kellene tiltani a mesterséges intelligenciát?
A szuperintelligenssé váló gépi gondolkodás végveszélybe sodorhatja az emberiséget, jelentette ki Eliezer Yudkowsky döntéselméleti szakértő annak kapcsán, hogy nemrégiben Elon Musk és más vezető techszakemberek és tudósok arra szólítottak fel egy nyílt levélben, hogy legalább fél évig szüneteltessék a világon a ChatGPT-4-nél fejlettebb mesterséges intelligencia (AI) fejlesztését, mert potenciális veszélyt jelent az emberiségre. A Népszava cikke.
Yudkowsky jelenleg abban a Machine Intelligence Research Institute-ban (MIRI) vezet kutatásokat, amelynek elődjét még ő alapította 2000-ben. Az intézmény célja eredetileg az volt, hogy felgyorsítsa a mesterséges intelligencia fejlesztését, 2005-től viszont a kockázatokat kezdte hangoztatni.
Yudkowsky – amint azt a The Times által közölt cikkében írja – azért nem írta alá a levelet, mert az nem mutatja be a helyzet valódi súlyosságát, és nem elégséges a tennivaló sem, amit javasolnak az írói. Szerinte a kulcshelyzet nem akkor következik be, amikor a mesterséges intelligencia emberi vetélytárs lesz, hanem akkor, amikor túlszárnyalja alkotóját. A kulcsjelentőségű küszöbátlépések nem lesznek nyilvánvalók: nem lehet határozottan megmondani, hogy ezek mikor történnek meg, és azt sem, mi történik majd akkor, amikor egy laboratóriumban átlépik a kritikus határt, ráadásul úgy, hogy közben nem is tudnak róla.
– Sok kutató, aki állást foglalt ebben a kérdésben – velem együtt –, arra számít, hogy egy emberfelettien okos mesterséges intelligencia felépítésének az eredménye – bármennyire is távolinak tűnik a jelen körülmények között – az lesz, hogy a Földön mindenki meg fog halni – jelenti ki. Nem arról van szó, hogy egyszer meg lesz az esélye, hanem arról, hogy ez nyilvánvaló dolog, ami meg fog történni – teszi hozzá.
A teljes írást ITT olvashatja
