Самообучаваща се система с изкуствен интелект може да идентифицира расата на някого само по рентгеновите му снимки.

Използвайки стотици хиляди съществуващи рентгенови изображения, етикетирани с подробности за расата на пациента, екип от изследователи от САЩ, Канада и Тайван е захранил базата с данни на изкуствения интелект.

След това учените са започнали да му дават нови за него рентгенови снимки. Системата познава расата на пациентите в 90% от случаите.

"Целта ни бе да извършим цялостна оценка на способността на AI да разпознава расовата идентичност на пациента от медицински изображения", пишат изследователите в публикуваната си статия.

В момента учените не са сигурни защо AI системата е толкова добра в идентифицирането на расата от изображения, които не съдържат такава информация, поне не на повърхността. Дори когато е предоставена ограничена информация, чрез премахване на улики за костната плътност например или фокусиране върху малка част от тялото, системата продължава да се представя изключително добре.

"Нашето откритие е, че AI може точно да познае расата, дори от повредени, изрязани и шумирани медицински изображения", пишат изследователите.

Учените обаче са притеснени, че това може да накара изкуствения интелект да взема "расистки решения" в бъдеще.

"Не можем да бързаме да въвеждаме алгоритмите в болници и клиники, докато не сме сигурни, че те не вземат расистки или сексистки решения", заявяват учените от проекта.

Изследването е публикувано в The Lancet Digital Health.