Kockázatos „diagnózisokat” ad a Google AI Overviews
A brit Mind mentálhigiénés szervezet egyéves, átfogó vizsgálatot indított a mesterséges intelligencia és a mentális egészség összefüggéseinek feltérképezésére, közli az ATV.
A döntés hátterében azok az oknyomozó riportok állnak, amelyek rávilágítottak: a Google keresőjébe integrált, havi 2 milliárd felhasználót elérő AI Overviews funkció több esetben félrevezető és veszélyes tanácsokat adott pszichiátriai és mentális kérdésekben.
Rosie Weatherley, a Mind tartalmi vezetője arra figyelmeztet, hogy az algoritmus által generált összefoglalók a keresési találatok felett, határozott, „klinikai” stílusban jelennek meg. Ez a „definitív válasz” látszatát kelti, ami miatt a felhasználók nem görgetnek tovább a hiteles, részletes szakmai forrásokhoz. A keresési folyamat idő előtti lezárása különösen kockázatos krízishelyzetben, amikor a beteg kritika nélkül fogadhatja el a leegyszerűsített válaszokat, írja az ATV.
A szervezet célzott keresési tesztjei során az AI Overviews több szakmai súlyú hibát is vétett. A mentális zavarokat kizárólag „kémiai egyensúlyhiányra” vezette vissza, bizonyos esetekben az éhezést egészségesnek tüntette fel, és valótlan adatokat közölt az ellátórendszeri jogosultságokról és a támogatásokról.
A Mind kritikája szerint a Google jelenlegi „whack-a-mole” (eseti hibajavító) megközelítése nem elegendő. Bár a direkt öngyilkossági tartalmakat a keresőmotorok már hatékonyan szűrik, az AI Overviews „semleges tényként” tálalt dezinformációi rejtett, de súlyos kockázatot jelentenek.
A szervezet hangsúlyozza: bár az AI-ban van hosszú távú potenciál, a jelenlegi algoritmusok kontextus nélküli válaszai a mentális egészségügyi információkeresés területén jelentős biztonsági rést képeznek.
