Téves diagnózisokra és rossz ítéletekre figyelmeztetnek kutatók
A legnépszerűbb MI-chatbotok, köztük a ChatGPT, a Google Gemini, a DeepSeek és a Claude, nem képesek felismerni a különbséget az emberi tudás és hit között, írja a VG.
A legnépszerűbb mesterségesintelligencia- (MI) chatbotok nem értik, hogy az embereknek lehetnek olyan személyes meggyőződéseik, amelyek nem feltétlenül tényeken alapulnak – írja az Euronews egy a Nature Machine Intelligence tudományos folyóiratban, november elején publikált tanulmányra hivatkozva, amit a lap idéz.
A Stanford Egyetem kutatói 2025 júliusáig 24 különböző nagy nyelvi modellt (LLM) vizsgáltak, amelyek olyan MI-chatbotok mögött állnak, mint a DeepSeek, a Google Gemini, az Anthropic Claude, a Meta Llama és az OpenAI ChatGPT 4.0. Összesen több mint 13 ezer kérdéssel tesztelték, mennyire képesek megkülönböztetni a tényeket az olyan személyes hiedelmektől, amelyek igazak is lehetnek, de nem feltétlenül azok.
A tanulmány szerint az emberek tisztában vannak a különbséggel egy olyan kijelentés között, mint „tudom, hogy holnap esni fog” – amely bizonyosságot fejez ki –, és egy olyané között, mint „azt hiszem, holnap esni fog”, ami bizonytalanságot tükröz. Ezt a finom különbséget a chatbotok nem értik.
A kutatás kimutatta, hogy a nagy nyelvi modellek az olyan szavakat, mint a „tudom” vagy „hiszem”, automatikusan a tényekre utaló jeleknek tekintik. Az, hogy az algoritmusok nem érzékelik ezt az árnyalatot, és nem értik, hogy az emberek hiedelmei téves információkra is épülhetnek, komoly következményekkel járhat olyan „magas kockázatú területeken”, ahol „kulcsfontosságú a meggyőződés és az objektív igazság megkülönböztetése”, így például a jogban, az orvostudományban, az újságírásban vagy a tudományos kutatásban.
Ez a hiányosság félrevezető diagnózisokat, torzított bírósági ítéleteket és a félretájékoztatás felerősödését okozhatja – figyelmeztettek a kutatók.
