Leállította az új AI bevezetését az OpenAI
Az OpenAI úgy döntött, nem adja ki a GPT-6.1 Astra nevű modelljét, mert azzal kapcsolatban több biztonsági probléma is felmerült, közli a hvg.hu.
Leállította az OpenAI az új mesterségesintelligencia-modellje bevezetését, miután kiderült, hogy a tesztek során a rendszer olyan lépéseket is tett, amire nem kapott utasítást, és nem adott pontos tájékoztatást arról, hogy milyen lépéseket végzett.
A döntés néhány nappal azután született, hogy az OpenAI bejelentette: felfüggeszti az új, rendkívül fejlett AI-modellek fejlesztését, mivel aggályosnak tartja, hogy nem rendelkezik megfelelő biztosítékokkal a technológia nemkívánatos működésének megakadályozására.
Nemrég kiderült, hogy már az ENSZ rendszereit is megpróbálták feltörni az OpenAI elszabadult ügynökei, a GPT-6 Astra egyik kiadatlan változata pedig egészen ijesztő működést mutatott, emlékeztet a lap.
Mint ismert, az AI-t fejlesztő nagy cégek, mint az OpenAI vagy az Anthropic arról beszéltek, hogy vissza kellene fogni a fejlesztés ütemét, mert abból baj lehet. Az OpenAI rendszerei nemrég jogosulatlanul fértek hozzá az ausztrál kormányzati rendszerekhez. Mindezek egyértelműen azt mutatják, hogy nagyon komoly kihívásokkal néz szembe az iparág.
