Rasszista egészségügyi kockázatelemző algoritmus
Az Index szerint színes bőrűekkel szemben lett előítéletes egy egészségügyi algoritmus; nem tudni, hány embert érintett a probléma.
Az algoritmust az egészségügyi szolgáltatók használták a magas kockázatú ellátások ellenőrzésére. Azonnal megjelölte azokat a pácienseket, akiknek komplex ellátásra volt szükségük, és jelzett az orvosoknak és a személyzetnek, hogy rájuk jobban oda kell figyelni.
Az elsődleges szempont a spórolás volt, valamint hogy az egészségügyi dolgozók jobban tudjanak gazdálkodni az idejükkel, de azt is nézte, hogy kire mennyit költöttek a közelmúltban.
Kiderült, hogy azonos tünetekkel rendelkező fehér emberek nagyobb eséllyel jutottak több vizsgálathoz és jobb ellátáshoz, mint a feketék. A nagy különbség még a kutatókat is meglepte, hiszen jelenleg a színes bőrűek 17,7 százaléka kapott több figyelmet, míg ha ez az előítélet nem lett volna a rendszerben, akkor 46,5 százalékuk kaphatott volna jobb ellátást. Azt vették észre az adatok elemzése során, hogy egy színes bőrű embernek sokkal súlyosabb tüneteket kellett produkálnia, hogy a rendszer úgy értékelje, extra vizsgálatokra és orvosi konzultációra van szüksége.
A kutatók szerint egyértelműen fontos az egészségügyben a költséghatékonyság, ugyanakkor ha eleve elfogult a rendszer, akkor az az algoritmusban is torzítást eredményez.
