Twitter приносит извинения за «расистский» алгоритм обрезки изображений

Извинения за «расистский» алгоритм обрезки изображений принесла администрация Twitter, 21 сентября сообщает The Guardian.

На выходных пользователи начали замечать недостатки в функции обрезки. Первым, кто обратил внимание на эту проблему, был аспирант Колин Мэдленд, который обнаружил проблему в программе для видеоконференций Zoom. Когда белый Мэдланд опубликовал изображение себя и своего чернокожего коллеги, Twitter автоматически обрезал изображение коллеги и оставил только Мэдленда.

Другие пользователи продолжили эксперименты, в том числе предприниматель Тони Арьери, который обнаружил, что алгоритм вырезает изображение сенатора США Митча МакКоннелла и Барака Обамы.

Аналогичные результаты были получены для фотомоделей, персонажей Симпсонов, Ленни и Карла, и даже для золотых и черных лабрадоров.

В своем заявлении представитель Twitter признал, что у компании есть над чем поработать. «Наша команда провела тест перед отправкой модели и не нашла доказательств расовой или гендерной предвзятости. Но из этих примеров ясно, что нам нужно провести более глубокий анализ. Мы продолжим освещать наши исследования, и откроем исходный код нашего анализа, чтобы другие могли его просмотреть».

Напомним, Twitter не первая технологическая компания, которая столкнулась с явной расовой предвзятостью в своих алгоритмах. В 2018 году, было выявлено, что Google запретил размещение фотографий горил, шимпанзе или других обезьян, после того, как неоднократно переклассифицировались изображения черных людей с этими терминами.