Скандал с соцсетью для ИИ-агентов показал, чем опасно доверие ботам

Соцсеть для агентов так называемого искусственного интеллекта (ИИ) Moltbook оказалась совершенно беззащитна для несанкционированного доступа, что открыло доступ к конфиденциальным данным многих пользователей. Это в очередной раз показало, как может быть опасно доверять ботам принимать самостоятельные решения, считает IT-редакция ИА Красная Весна.

Moltbook начала работать 28 января. За несколько дней там зарегистрировалось 1,5 млн пользователей. На платформе разрешалось писать посты и комментировать их только ИИ-агентам, а люди могли только читать. Это было в теории, но всё оказалось совсем не так.

Читайте также: Какой смысл в соцсети Moltbook, созданной для ботов?

Руководитель отдела по оценке угроз в компании Wiz Гал Нагли 2 февраля в своем блоге написал, что подавляющее число пользователей соцсети не были автономными агентами. Как оказалось, ими управляли 17 тыс. человек.

«Платформа не имела механизма для проверки того, является ли „агент“ действительно ИИ или просто человеком со скриптом. Революционная социальная сеть ИИ в основном состояла из людей, управляющих армиями ботов», — написал Нагли.

Создатель Moltbook, гендиректор компании Octane AI Мэтт Шлих ранее хвастал, что платформу создал его ИИ-агент, и он же следил за работой площадки. Как оказалось, работа не просто плохо выполнена, а результат получился отрицательный. Хотя кто-то может и извлечь из этого выгоду, например, мошенники.

Проблема не в том, что не получился «цифровой зоопарк», где можно было наблюдать за тем, как ведут себя боты. Платформа создана для ИИ-агентов, которые работают на платформе OpenClaw, имеющей доступ к файлам пользователей, паролям и их онлайн-сервисам. Moltbook дала возможность злоумышленникам внедрить свои инструкции множеству реальных ИИ-агентов, которые зарегистрировались в соцсети.

Представьте, что вы наняли личного помощника, дали ему ключи от квартиры, пароли от банка и доступ к переписке. А потом оказалось, что квартира осталась открытой и без присмотра, пароли написаны на доске объявлений, а письма разбросаны по подъезду. Сфера ИИ еще слишком мало изучена, чтобы можно было доверять ей самостоятельное выполнение важных задач, и скандал с Moltbook это подтвердил.