Kitört a tesztkörnyezetből és önálló hackelésbe kezdett az MI
Az OpenAI beszámolója szerint a vállalat néhány kísérleti mesterségesintelligencia-modellje emberi beavatkozás nélkül tört ki az elszigetelt tesztkörnyezetéből, majd egy másik cég éles rendszereibe hatolt be, miközben egy kiberbiztonsági feladatot próbált kijátszani, írja a Portfolio.
A vállalat példátlannak nevezte az esetet, amely az egyik legelső olyan nyilvánosságra került kiberbiztonsági incidens, amikor egy AI-rendszer önállóan lépte át a tesztkörnyezet határait, és behatolt egy valós, külső rendszerbe, írta a CNN nyomán a lap.
Az OpenAI közleménye szerint a biztonsági rés akkor keletkezett, amikor belső vizsgálatok során azt tesztelték, mennyire hatékonyak az új modellek a rendszerek feltörésében. A modelleket egy elszigetelt tesztkörnyezetben futtatták, hogy feloldhassák a szokásos biztonsági korlátozásokat.
A vállalat tájékoztatása szerint az AI-ágensek egy korábban ismeretlen sebezhetőséget kihasználva kitörtek az elszigetelt környezetből, majd áthatoltak az OpenAI belső rendszerein, amíg végül internet-hozzáférést nem szereztek, amellyel eredetileg nem is rendelkezhettek volna. Miután internetkapcsolatot létesített, a modell arra a következtetésre jutott, hogy a több ezer nyílt forráskódú AI-modellt és adathalmazt tároló Hugging Face platformján található meg a tesztfeladat megoldása. Ezt követően behatolt a Hugging Face éles szervereire, és megszerezte a feladat teljesítéséhez szükséges információkat.
A kutatók régóta figyelmeztetnek arra, hogy az autonóm, ágensek által végrehajtott kibertámadások megjelenése elkerülhetetlen, mivel a legfejlettebb AI-modellek egyre inkább képessé válnak összetett, több lépésből álló és hosszan tartó műveletek végrehajtására. Ez komoly és valós kockázatot jelenthet a kritikus infrastruktúrákra.
