Крупный инцидент с ИИ возможен в 2026–2027 годах — Хинтон
Крупный инцидент с использованием ИИ может произойти в конце 2026 года или в 2027 году и стать «тревожным звонком», сопоставимым с аварией на Чернобыльской АЭС, предупредил нобелевский лауреат Джеффри Хинтон, 9 ноября сообщает Hi-Tech Mail со ссылкой на The Guardian.
В качестве вероятных сценариев он назвал атаку с применением ИИ на энергосистему, чреватую масштабным отключением электричества, либо сбой, который на неделю парализует финансовую сферу. По мнению Хинтона, человечеству, возможно, стоило бы вообще не создавать нейросети.
Он считает, что уже в ближайшее десятилетие — или раньше — станет понятно, получится ли держать риски под контролем или технология обернется массовой безработицей, ростом социального неравенства и культурными проблемами.
Ученый упрекнул руководителей крупнейших ИИ-компаний в приоритете прибыли над безопасностью и потребовал независимой проверки передовых моделей до их выпуска. При этом, по его ощущениям, контроль над ситуацией у человечества пока сохраняется.
Напомним, тревогу о рисках ИИ ранее высказывали и другие фигуры отрасли: Билл Гейтс допускал гибель до миллиарда человек из-за использования технологии злоумышленниками и призывал власти США ввести госконтроль, а глава Anthropic Дарио Амодеи — замедлить разработку из-за угрозы автономных агентов, способных за 6–12 месяцев задействовать ботнеты и нанести ущерб на сотни миллиардов долларов.
