Медицинский ИИ оказался расистом даже после правильного обучения

Более высокую точность прогнозирования когнитивных изменений на основе МРТ головного мозга для белого населения показал медицинский алгоритм машинного обучения, 1 мая сообщает британское интернет-издание о технологиях The Register.

Международная группа исследователей решила добиться одинаковой точности прогнозирования когнитивных изменений на основе алгоритма искусственного интеллекта (ИИ), используя скорректированные наборы данных функциональной магнитно-резонансной томографии (фМРТ) мозга.

Обычно модели ИИ, обученные на имеющихся медицинских наборах данных, показывают разные результаты для различных групп населения. Как правило, такие модели показывают лучший результат для белого населения, поскольку для этой категории попросту больше данных. За это подобные алгоритмы даже называли расистскими.

Исследователи обучили модель на сбалансированном между белокожим и чернокожим населением наборе данных. Точность прогнозирования для негритянского населения выросла, но осталась ниже, чем для белокожего.

Дальнейшее изучение проблемы показало, что есть другие слои данных, которые больше связаны с белокожим населением. В частности, принято сопоставлять снимки фМРТ со стандартными шаблонами, которые сделаны, в основном, по данным белокожих.

Аналогичная ситуация с данными используемых при построении прогноза психометрических тестов и другой информации и классификации и сопоставления. Наличия более сбалансированного набора первичных данных недостаточно, чтобы алгоритмы ИИ были менее предвзятыми, считают исследователи.