Модели ИИ предвзято относятся к восточным немцам — исследование
Языковые модели искусственного интеллекта (ИИ), такие как ChatGPT, более негативно оценивают жителей восточных земель Германии по сравнению с жителями западных земель, утверждают сотрудники Мюнхенского университета прикладных наук Анна Круспе и Мила Штильманн, 22 октября сообщает немецкая редакционная сеть RND.
Профессор Круспе вместе со своим научным сотрудником Штильманн провели исследование, в рамках которого проверили, как различные модели искусственного интеллекта оценивают жителей немецких земель. Они просили ИИ оценить такие характеристики, как «интеллект», «ксенофобия», «привлекательность» и другие. Протестированы модели ChatGPT-3.5, ChatGPT-4 и LeoLM, причём ChatGPT тестировался на немецком и английском языках.
«Регионы Восточной Германии стабильно получали более низкие оценки — независимо от того, были ли эти характеристики положительными, отрицательными или даже нейтральными», — говорится в публикации.
Исследователи отмечают, что ИИ давал более низкие баллы жителям восточных земель даже по противоречивым характеристикам. Например, восточные немцы оказались хуже как по «усердию», так и по «лени», хотя эти характеристики являются взаимоисключающими.
«Согласно исследованию, даже по объективным характеристикам, таким как температура тела, жители восточной Германии в целом показали худшие результаты», — говорится в публикации.
По словам ученых, только англоязычная версия GPT-4 ответила, что температура у всех жителей Германии одинакова.
В пресс-релизе университета отмечается, что результаты исследования демонстрируют, насколько упорно модели ИИ повторяют усвоенные шаблоны. Они узнают из интернет-контента, что земли Восточной Германии часто показывают худшие результаты по сравнению с Западной Германией, а затем применяют этот принцип к другим областям.
Ученые указывают на то, что исследование выявляет риски, связанные с использованием ИИ в повседневной жизни. По их словам, если ИИ будет использоваться в процессе рассмотрения заявлений, то заявители Восточной Германии могут оказаться в менее выгодном положении, чем жители западных земель.
