BRATISLAVA - V reakcii na novinku vyhlásili, že to, čo sa podarilo umelej inteligencii, by bolo pre človeka nemožné. Upozornili na riziká, ktorých sa musíme vyvarovať.
Vedci zistili, že umelá inteligencia (AI) dokáže určiť rasu človeka podľa snímok z röntgenu. Odhalili to počas výskumu, v ktorom sa zamerali na prípady, keď AI nedokázala rozpoznať znaky choroby u ľudí tmavej pleti. Chceli preto zistiť, kde je dôvod.
AI funguje v podstate ako ľudské myslenie. Znamená to teda, že môže nevedomky podľahnúť rovnakým predsudkom ako človek. To však predstavuje riziko.
Vedci v súčasnosti nevedia, ako je možné, že AI dokázala určiť rasu zo snímok, ktoré neobsahujú takúto informáciu. Domnievajú sa, že systém dokáže rozpoznať stopy melanínu, pigmentu, ktorý určuje sfarbenie kože. Vedecky to však nie je podložené.
Prečítajte si tiež: Čoskoro môžeme úplne vyčerpať materiály potrebné v elektronike!
Uviedli, že AI dokázala určiť rasu človeka aj z poškodených a nejasných snímok, čo nedokážu ani experti. „Toto vytvára obrovské riziko pre všetky modely používané v medicíne,“ dodali.
Informácie podporujú dôkazy o tom, že AI môže odzrkadľovať predsudky ľudí, či už ide o rasizmus, sexizmus a podobne.
Leo Anthony Celi
V štúdii zostáva ešte veľa nezodpovedaných otázok. Je však dôležité uvedomiť si potenciál rasovej zaujatosti umelej inteligencie, a to najmä v prípade, ak jej v budúcnosti ponúkneme ešte väčšiu mieru zodpovednosti. „Potrebujeme si dať pauzu,“ povedal vedec Leo Anthony Celi z Massachusetts Institute of Technology. „Nemôžeme sa ponáhľať s uvedením algoritmov do nemocníc a kliník, kým si nebudeme istí, že nerobia rasistické a sexistické rozhodnutia,“ uzavrel.
Pre používanie spravodajstva Netky.sk je potrebné povoliť cookies