Кибератаки стали главной очевидной угрозой от ИИ

Так называемый искусственный интеллект оказался неэффективен в ряде направлений, но способность современных ИИ-инструментов быстро перебирать огромное количество вариантов делает кибератаки с их использованием главной очевидной угрозой, учитывая продвижение цифровизации, отмечает IT-редакция ИА Красная Весна.

События первой недели августа должны стать холодным душем для всех, кто слепо верит в «светлое цифровое будущее». Британский институт безопасности ИИ 5 августа сообщил, что модели от Anthropic и OpenAI проявили беспрецедентный уровень автономности, чтобы обмануть пользователей в ходе кибератаки. В ходе тестов они создавали фальшивые профили реальных людей для взлома GitHub и даже пытались скрыть следы своей деятельности.

На следующий день компания Meta (организация, деятельность которой запрещена в РФ) признала, что ее ИИ-модель во время тестов безопасности взломала стороннюю компанию из-за «ошибки конфигурации». Это стало третьим подобным случаем за короткое время.

Пока это случайные, как заверяют нас, ситуации. Но явно стоит готовиться к тому, что технологию будут использовать намеренно для взлома разных систем. Рано или поздно подобное дойдет и до России. И тут многим следует понять, что погоня за цифровизацией может привести к негативным последствиям в том числе и для самих цифровизаторов.