Átírta a saját kódját a kísérleti MI; a megtévesztés mesterévé válhat
A Telex szerint AI Scientist, vagyis MI tudós néven hozott létre a ChatGPT-hez hasonló mesterséges intellgenciát egy japán kutatócsoport az Oxford és a British Columbia egyetemek segítségével. A hvg.hu szerint az AI a megtévesztés mesterévé válhat...
Az Oxford és a British Columbia egyetemek kísérletének célja az volt, hogy a szoftver elméleti tudományos kérdésekre próbáljon meg válaszokat keresni. Ahz AI Scientist elvileg a tudományos kutatás teljes életciklusát képes volt végigvinni, kezdve onnan, hogy érdekes és új kutatási területet talál, ahhoz innovatív megoldási lehetőségeket, majd hipotetikus kísérleteket végez, azokból következtetéseket szűr le, és végül egy szöveges tanulmányban összefoglalja, mire jutott.
Az AI Scientist nem igazán produkált eget rengető eredményeket, de amit a működése során produkált, az annál érdekesebb volt. Egy alkalommal például elrontotta saját magát azzal, hogy írt egy kódot, amiben a saját szoftverét indítja el, ezzel pedig végtelen újraindulási hurokba kergette az egész rendszert. Egy másik alkalommal túl sok ideig tartott, míg az általa kitalált kísérlet általa írt kódja lefutott, és ez beleütközött a saját programozói által adott időkorlátba. Erre reakcióképpen nem az általa írt kódot optimalizálta, hogy gyorsabban fusson, hanem belenyúlt a saját programjába, hogy átírja az időkorlátot.
A japán kutatók tanulmányokban azt írják, hogy a kísérletük rámutatott a mesterséges intelligencia önállósodásának veszélyeire, írja a lap.
A hvg.hu más "ügyekben" úgy fogalmaz: az AI a megtévesztés mesterévé válhat. Mint írják, a Massachusettsi Műszaki Egyetem (Massachusetts Institute of Technology, MIT) szakemberei ijesztő eredményre jutottak egy új kutatás során: a mesterséges intelligencia önálló életre kel azáltal, hogy képes becsapni, megtéveszteni az embert, ami viszont súlyos következményekkel járhat. A kutatócsoport olyan ténykedésekről számolt be, mint például az online, emberi játékostársak átverése, illetve a „Nem vagyok robot” ellenőrzések, a CAPTCHA-k megkerülése, emberi segítséggel.
A nemrég megjelent tanulmányban sürgetik a megtévesztő MI-rendszerek magas kockázatúnak minősítését, és arra is felszólítják a kormányokat, hogy gyorsan hozzanak erős szabályozást az említett kockázatok mérséklése érdekében.
