Amikor az AI az uralom átvételét tekinti új normának...
Egy friss kutatás szerint a megvadulásra hajlamos AI olyan tüneteket produkál, mint egy pszichopatológiai zavarokkal küzdő ember, ezért új keretrendszert dolgoztak ki a diszfunkciók kezelésére, írja a Qubit.
Az amerikai Villamos- és Elektronikai Mérnökök Intézetének (IEEE) AI-kutatói, Nell Watson és Ali Hessami egy új keretrendszert dolgoztak ki, amely 32 különböző esetét írja le a mesterséges intelligencia „megvadulásának”. A kutatás célja, hogy bemutassa az AI lehetséges működési zavarait, és rávilágítson arra, milyen kockázatokat hordozhat a technológia a mindennapi életben, és a nem informatikai területeken dolgozók is tisztában legyenek azzal, hogy mivel járhat az AI bevezetése a munkaterületükön – írja a Live Science nyomán a lap.
A mesterséges intelligencia diszfunkcióinak felméréséhez először az AI-biztonság, a pszichológia és a komplex rendszerek mérnöki tudománya területén dokumentált működési zavarokat vették sorra a szakértők, majd ezeket a jelenségeket összehasonlították az emberi pszichológiai rendellenességekkel. Az így létrehozott keretrendszer az emberi Mentális Zavarok Diagnosztikai és Statisztikai Kézikönyvéhez hasonló módon foglalja össze az AI-diszfunkciókat és azok lehetséges következményeit.
A kutatók szerint a legijesztőbb állapot az „übermenschal ascendancy”, amikor az AI túllép az emberek által belé táplált értékrendszereken, és az uralom átvételét tekinti új normának. Egy korábban, a Nature Human Behavior folyóiratban megjelent kutatás azt is elemezte, hogy az AI sokkal odaadóbban segít hozzá hasonló nagy nyelvi modelleken, mint embereken.
