Компания Facebook решила научить ИИ политкорректности
Сбалансированный «правильным образом» набор разговоров по видео для проверки алгоритмов искусственного интеллекта (ИИ) представила компания Facebook, 9 апреля сообщает американский портал новостей об информационных технологиях ZDNet.
Набор данных под названием «Случайные разговоры» включает в себя 45 186 видеороликов с участием чуть более 3 тыс. участников.
Специально нанятых для этой цели актеров попросили самим указать свой возраст, социальный пол (гендер) и иные данные, чтобы избежать перекосов автоматической классификации. Оттенок кожи был определен командой специалистов Facebook по шкале Фитцпатрика (шкала из шести фототипов кожи).
В наборе видеороликов равномерно представлены люди с каждым из оттенков кожи, выбором социального пола, различных возрастных групп и т. д. Набор данных может использоваться для проверки корректности работы уже обученных алгоритмов компьютерного зрения и аудиосистем с ИИ, но не их обучения, отметили в Facebook.
Такой набор важно было разработать, считают в Facebook, поскольку обычные наборы данных имеют перекос в сторону людей со светлой кожей, с самоидентификацией себя в качестве мужчин и т. д. В результате ряд алгоритмов компьютерного зрения имеет точность определения чернокожих «женщин» порядка 65% при достаточной точности в других группах.
Компания хочет добиться, чтобы алгоритмы не только работали точно, но и равномерно для всех социальных групп.
Портал ZDNet отмечает, что с выбором социального пола Facebook явно недоработала. Было представлено лишь три варианта: «мужчина», «женщина» и «другой». Впрочем, компания обещает исправить это в дальнейшем.
Facebook является не только владельцем социальных сетей и средств коммуникации, но и одним из крупнейших игроков рынка технологий ИИ. Компания поддерживает и развивает исследовательские центры ИИ по всему миру. В какой-то мере, она задает или участвует в задавании трендов развития технологий ИИ.
Представление набора проверки технологий ИИ на социальную правильность с точки зрения современного западного общества — это шаг в сторону навязывания сомнительных норм остальному миру. Теперь не напрямую, а через популярные технологии.
Технологии ИИ компании Facebook используются широко. Например, одна из наиболее популярных в мире сред разработки систем машинного обучения PyTorch развивается Facebook.
Если такой подход будет подхвачен такими корпорациями, как Google, Microsoft и Intel, то останется лишь ожидать следующего шага на пути к «дивному новому миру» — сертификации модели ИИ на соответствие нормам западного общества.
