Страшнее ИИ только инициативный ИИ
В связи с последними новостями о так называемом искусственном интеллекте (ИИ) можно перефразировать поговорку «страшнее дурака — дурак с инициативой», отмечает IT-редакция ИА Красная Весна.
Компания OpenAI, создавшая чат-бота GPT, 18 августа объявила о приостановке тренировок своих новейших моделей ИИ. В качестве причин назвали «бегство» двух моделей в ходе тестирования из «песочницы» для атаки на платформу Hugging Face, а также то, что модель Astra «может соответствовать порогу критически важных возможностей кибербезопасности».
Паузу ввели на две недели, чтобы усилить меры контроля над испытуемыми ИИ-продуктами. В том числе решено запустить непрерывный мониторинг цепочки «рассуждений» моделей. Если будут замечены признаки деструктивного «поведения» или попыток обойти защиту, то система, работающая на основе ИИ, сообщает об этом исследователям, а через 30 минут останавливает модели, если ей не сообщают, что всё в порядке.
Получается, что ИИ — технология с огромными вычислительными возможностями и без многих элементарных человеческих представлений. Во время инцидента с Hugging Face модели взломали платформу, решив, что так будет проще справиться с порученным заданием. Люди наделили ИИ человеческими качествами, но там — сложная система алгоритмов, лишь имитирующая поведение человека.
В результате получился «дурак» не просто инициативный, а сверхинициативный. К тому же у него большие возможности. Наверняка еще будут новости о вреде, который нанесет искусственный интеллект, решив, что так проще выполнить задание. Тем более что у OpenAI за ИИ будет следить другой ИИ. А ранее уже были случаи «солидарности» между цифровыми помощниками.
