Глава Пентагона решил завершить эпоху этики в сфере ИИ

Глава Пентагона Пит Хегсет, требуя от компании Anthropic снять ограничения на применение модели так называемого искусственного интеллекта (ИИ) Claude, фактически хочет завершить эпоху этики в сфере этой технологии, отмечает IT-редакция ИА Красная Весна.

Claude пока является единственной моделью, которую официально использует минобороны США. По сообщениям ряда СМИ, эту модель американские военные якобы использовали в ходе операции по похищению президента Венесуэлы Николаса Мадуро. Телеканал CBS News 24 февраля сообщил, что Хегсет провел встречу с гендиректором Anthropic Дарио Амодеем и потребовал снять все ограничения на использование ИИ-инструментов.

Основные ограничения, которые не устраивают главу Пентагона: запреты на массовую слежку за гражданами США и на создание полностью автономных вооружений, способных выбирать цель без участия человека. Ответа он потребовал до конца 27 февраля.

При этом Хегсет пригрозил двумя взаимоисключающими мерами. Он заявил, что в случае отказа будет задействован закон времен холодной войны, позволяющий правительству США в чрезвычайных ситуациях принуждать частные компании к работе в интересах национальной безопасности, а также пообещал разорвать контракт Пентагона с Anthropic и внести компанию в список враждебных государству подрядчиков.

Сейчас уже многие забыли, но стартапы, созданные для разработки ИИ изначально декларировали высокие цели, что их продукты будут работать только на пользу человека. OpenAI, разработавшая чат-бота ChatGPT, заявила, что планирует создать ИИ, который «безопасно приносит пользу человечеству, не ограниченный необходимостью получения финансовой прибыли». Но в феврале в налоговой отчетности компании пропало слово «безопасно».

Компанию Anthropic создали специалисты, которые вышли из OpenAI из-за споров о вопросах безопасности. Теперь от создателей модели Claude требуют наплевать на мерах безопасности.

Однако странность угроз Хегсета не только в их противоречивости. Если Пентагон разорвет с компанией контракт, то она потеряет $200 млн. Но стартап незадолго до скандала привлек $30 млрд инвестиций, а годовая выручка компании составляет $14 млрд. То есть, для Anthropic угрозы Пентагона не такие и страшные.

Зачем же тогда Хегсет распинается? Может, для того, чтобы в Anthropic, сославшись на него, могли сказать: «у нас не было выбора»? Так или иначе, эта почти публичная порка в стиле «по секрету всему свету» показала всем IT-разработчикам, что эпоха даже декларативной этики в сфере ИИ завершилась.