28 стран договорились обуздать искусственный интеллект

Соглашение о сотрудничестве и взаимодействии в области «передового» искусственного интеллекта (ИИ) подписали США и другие страны 6 ноября в ходе саммита в Блетчли-парке, сообщает Fox News.

Соглашение, названное «Декларация Блетчли», подписанное 28 странами предполагает ограничение рисков, связанных с ИИ на ближайшие годы и требует от подписантов подотчетности в принимаемых ими мерах по этому поводу.

«Мы призываем всех участников обеспечить соответствующую контексту прозрачность и подотчетность в своих планах по измерению, мониторингу и смягчению потенциально вредных возможностей и связанных с ними последствий, которые могут возникнуть, в частности, для предотвращения неправильного использования и проблем контроля, а также усиления других рисков», — сказано в декларации.

Ключевые моменты, обозначенные в декларации, это: «выявление рисков безопасности ИИ» и «разработка соответствующей политики, основанной на рисках, для обеспечения безопасности в свете таких рисков».

Для реализации постановлений декларации будут создаваться соответствующие институты.

Британский институт, о создании которого было объявлено в 3 ноября 2023 года, должен служить потенциальным глобальным центром «международного сотрудничества в области… безопасного развития». Чтобы предотвращать потенциальные риски, он должен будет сотрудничать с ведущими компаниями в области ИИ.

Институт обязан будет «тщательно тестировать новые типы передовых ИИ до и после их выпуска, чтобы устранить потенциально вредные возможности моделей ИИ, включая изучение всех рисков, от социального вреда, такого как предвзятость и дезинформация, до самых маловероятных, но крайних рисков, таких как полная потеря человечеством контроля над ИИ».

Кстати, саммит состоялся в Блетчли-парке, где Алан Тьюринг создал первый «компьютер».

30 октября 2023 года Белый дом опубликовал указ об ИИ, требующий от компаний делиться рисками национальной безопасности с федеральными службами государственной безопасности (ФБР и т. д.).

Президент США Джо Байден сказал, что этот указ содержит «самые радикальные меры, когда-либо предпринимавшиеся для защиты американцев от потенциальных рисков, связанных с системами искусственного интеллекта».

Основатель Tesla и генеральный директор «X» Илон Маск ранее заявлял, что видит «высокую вероятность» того, что ИИ «уничтожит человечество».