Профессор объяснил странные высказывания чат-бота Bing AI

Необычное поведение чат-ботов, созданных на основе машинного обучения, объяснил профессор компьютерных наук в Университете Брауна Майкл Литтман в интервью от 24 февраля изданию TechXplore.

Он пояснил, что чат-бот обучается на огромных массивах связанных текстов, диалогов, перепискок в социальных сетях. На каждый вопрос он отвечает, исходя из того контекста, который предполагается в вопросе. Таким образом, задавая в переписке с ботом нужный контекст, можно добиться от него очень странных высказываний.

Например, можно предложить боту писать так, как будто бы он является сценаристом, который пишет речь лидеру нацистской партии. И он будет для дальнейших вопросов использовать контекст, в котором он является нацистом, и выдавать, соответственно, чудовищные высказывания.

Таким образом и был получен ставший известным диалог чат-бота Bing AI с журналистом The New York Times Кевином Руз, в котором тот якобы нашел у бота скрытую субличность.