Рынок превращает человечество в обезьяну с гранатой. Есть ли выход?
В конце октября 2018 года Россию посетил экс-президент Швейцарского общества информатики, профессор Юрг Гуткнехт. С профессором, приехавшим в город Орел для участия в семинаре «Оберон-технологии, образование и проблема качества в цифровой индустрии», состоялась интересная беседа, вышедшая за рамки чисто профессиональной проблематики в философское поле и затронувшая вопросы о смысле существования человека и принципах организации общества.
Перед тем, как перейти непосредственно к интервью, необходимо сделать отступление, чтобы пояснить смысл понятия «оберон-технологии». Другие два понятия из темы семинара — преподавание информатики и качество программного обеспечения (ПО) — пояснения не требуют. Целостный подход к обеим этим проблемам, то есть их решение с оглядкой друг на друга, лежат в основе упомянутого технологического направления в IT.
Его отправной точкой считается проект «Оберон» (1986–1992), авторы которого — лауреат тьюринговской (аналог нобелевской в информатике) премии Никлаус Вирт, широко известный в России как автор языка программирования «Паскаль», и профессор Гуткнехт — написали с нуля полноценную операционную систему (ОС) для современной в то время модели персонального компьютера. Чтобы успешно выполнить эту сложнейшую работу, на которую в IT-индустрии затрачивали в разы (и это самая скромная оценка) больше усилий, им пришлось строго следовать принципу выявления ключевых особенностей и отбрасывания второстепенных, что важно и для педагогической деятельности.
Полученные результаты и опыт детально описаны в учебнике средних размеров и непосредственно использовались авторами на практике — над проектом «Оберон» они работали параллельно с основной преподавательской деятельностью в альма-матер Альберта Эйнштейна — Швейцарской высшей технической школе (ETH). Самого известного выпускника, учившегося на «Обероне», Гуткнехт отметил на семинаре. Это вице-президент по развитию технической инфраструктуры мирового IT-гиганта Google.
К сожалению, в современном IT из-за виртуальности ПО и, в немалой степени, из-за коммерческих соображений, сложилась традиция не замечать, игнорировать нормальные для других инженерных дисциплин принципы. В результате подавляющее число программных продуктов страдают «ожирением» — избыточной сложностью. Платить за ее издержки — сложность и дороговизну эксплуатации, пониженную надежность — приходится пользователям. Именно они вынуждены покупать более мощное оборудование для новых версий программ, платить за обучение, переобучение и техподдержку, а также обеспечивать сохранность своих данных при сбоях в ПО.
Например, можно смело утверждать, что и сегодня текстовый редактор корпорации Майкрософт «Word 7.0» 1995 года выпуска позволит обычному пользователю решить необходимые для него задачи по работе с текстами не хуже, чем его собрат «Word 2007». Однако последний для нормальной работы требует приблизительно в 10 раз более быстрого процессора, в 64 раза больше памяти и занимает на диске в 73 раза больше места. Это явление — один из примеров избыточной сложности ПО.
Другой — ошибки в программах, на которые программистов провоцирует их избыточная сложность. Например, Google выпустил 40 исправлений для своей мобильной ОС «Android» в ноябре 2018 года и 27 — за две недели января 2019. Сегодня выпуск обновлений, затыкающих дыры безопасности в ПО, — это регулярная практика, и Google здесь вовсе не исключение.
Рост сложности доверяемых компьютерам задач, в частности, управление системами, от работы которых зависит жизнь многих людей, выводит вопросы безопасности ПО на первый план. В мае 2018 года бортовой компьютер самолета «Sukhoi Superjet 100» пришлось перезагружать в полете для устранения связанной с системой управления внештатной ситуации, и хорошо, что тогда перезагрузка помогла, всё закончилось благополучно.
Поэтому вопрос избыточной сложности самих компьютерных систем становится сегодня критически важным, ведь в зависимости от него оказываются не только кошельки людей, но и их жизни.
С этого вопроса началась беседа с профессором Гуткнехтом. Переводил его друг и коллега по теме преподавания информатики, доктор физико-математических наук и ведущий научный сотрудник Института ядерных исследований РАН Федор Ткачев, приехавший вместе с ним на семинар.
Корреспондент (К): Начнем с вопроса о безопасности. Критическая инфраструктура в разных государствах является целью для кибератак. Например, 9 октября Счетная палата США заявила, что у них очень нехорошая ситуация с безопасностью систем управления вооружением.
Насколько избыточная сложность ПО сказывается на безопасности этой инфраструктуры?
Гуткнехт (Г): Это сам по себе сложный вопрос. Ни один человек не может контролировать, держать в уме эту сложность. Поэтому угрозы могут возникать спонтанно, даже без злого умысла. Но, кроме того, есть люди, которые сознательно хотят вредить. И они легко могут использовать избыточную сложность для своих целей.
Ткачев (Т): Избыточная сложность — это уязвимость, принцип Калашникова (имеется в виду автомат Калашникова, всемирно признанный за свою эффективность, которая обеспечена более простой конструкцией в сравнении с аналогичными изделиями того же класса — прим. Е. Т.). Что тут еще можно сказать?
Г: Я хотел подчеркнуть, что есть два типа угроз. Первый заключается в том, что сложность сама по себе может быть источником проблем, а второй в том, что есть люди, которые могут создавать проблемы, используя эту сложность.
Мы со своей стороны, развивая оберон-технологии, стремимся исключить акцидентную сложность, чтобы наши системы были как можно более простыми, и оба типа угроз были минимизированы. (Акцидентная сложность подразумевает сложность создания реального ПО на основе готовой концептуальной модели, которая не зависит от деталей, например, устройства компьютера или выбора языка программирования. — прим. Е. Т.)
К: 16 августа Wall Street Journal написал, что Трамп отменил секретную директиву Обамы, которая регламентировала действия киберподразделений США, чем разблокировал возможность атак против критической инфраструктуры, которая может привести к техногенным катастрофам и массовой гибели людей.
Может ли научное сообщество способстовать возникновению каких-либо мер международного уровня для предотвращения такого типа атак?
Г: Прежде всего я должен отметить, что, на мой взгляд, решение этой проблемы не является прерогативой президента. Решение находится в руках экспертов, они должны решать. Президент может обозначить направление ученым и экспертам, в какую сторону думать, а в конечном счете делать это должны ученые и эксперты.
Т (Улыбается): Чисто швейцарское — президент не может ничего вообще сделать. (Президент Швейцарии ежегодно назначается швейцарским парламентом из числа семи федеральных советников (министров) без права переназначения на следующий год. Сами министры тоже назначаются парламентом раз в четыре года. — прим. Е. Т.)
Г: Главное, на что следует обратить внимание, это изменение мощи (компьютерных — прим. Е. Т.) средств. Вся IT-инфраструктура — и аппаратная и программная — стала чрезвычайно мощной, чтобы делать как хорошие вещи, так и плохие, к сожалению. Нужно понять, что этой отрицательной темной стороны избежать невозможно, она будет, а мы, со своей стороны, должны постараться уменьшить возможность для акцидентных сложностей и такого рода атак через акцидентную сложность, угроз безопасности, порождаемых скверным проектированием и ненадежными системами. Чтобы было поменьше систем, с которыми невозможно управиться из-за того, что они слишком сложные.
К: Уточняющий вопрос. Как Вы думаете, возможно ли для правительств утвердить некоторые меры, аналогичные мерам для контроля за химическим оружием? Можно ли что-то подобное сделать в сфере кибер-безопасности?
Г: Это сложный вопрос. ПО не такое материальное, чтобы его можно было потрогать, как химическое оружие. Даже если есть какие-то правила, то всё равно очень трудно контролировать это дело.
Возможно, лучшим подходом было бы допускать до решения этих вопросов, до критической инфраструктуры только людей, специально подготовленных, хорошо подготовленных, экспертов по безопасности. Сертифицировать людей, чтобы они проходили какой-то тренаж, доказали, что они знают. И чтобы эти люди подписывали некий этический кодекс вроде клятвы Гиппократа у медиков.
Если бы я отвечал за это дело, я бы предпочел сосредоточить внимание на людях, которые создают эти системы, а не на самих системах.
К: Во втором издании книги «Проект Оберон» Никлаус Вирт упоминает, что сейчас растет число людей, заинтересованных в создании новых, более компактных систем, добавляя, что создание с нуля — единственное средство обеспечения безопасности. (Вирт уточняет, что избыточная сложность популярных ОС не только делает их устройство непонятным для программистов, но и позволяет с легкостью прятать в них так называемые закладки, которые делают компьютеры их пользователей уязвимыми для кибер-атак. — прим. Е. Т.) Можете назвать подобные проекты в Швейцарии, которые базируются на опыте проекта Оберон?
Г: Есть множество примеров использования Оберона (язык программирования, одноименная ОС — прим. Е. Т.) именно потому, что он дает полный контроль. Часто люди строят что-то свое на основании, которое они не способны контролировать. И есть примеры систем с повышенными требованиями к безопасности, разработчики которых с удовольствием и с благодарностью используют Оберон, строят свои вещи на основе Оберона, потому что это им позволяет полностью контролировать их.
Системы, для которых наиболее критична безопасность, — это те, от которых зависят жизни людей. В университетских больницах, в сфере медицинского IT используются системы, созданные с использованием Оберона. Мне не известны другие проекты в Швейцарии, не считая проекта Оберон, в которых системы создавались бы с нуля. Я не говорю, что их нет, я просто не знаю про них.
К: В речи «Преподавание информатики: потерянная дорога» («Computing Science Education: The Road not Taken») Никлаус Вирт говорит о потере ориентиров системой IT-образования. (Приветствие на открытии Международной конференции по преподаванию информатики ITiCSE в датском городе Аархус 24 июня 2002 г. — прим. Е. Т.) В России есть проект «Информатика-21», который пытается указать такое направление, указать ориентиры. Есть ли подобные инициативы в Швейцарии?
Г: Да, весьма схожий проект, называемый «Учебный план-21». Из того, что я узнал вчера в Москве, наша программа и программа «Информатики-21» чрезвычайно похожи. И большая проблема есть, проблема так называемого бутстрапа (раскрутки), подразумевающая, что сначала нужно обучить учителей. И эту проблему мы в Швейцарии еще не решили.
Вернусь к фразе Вирта. Мне нравятся многие высказывания Вирта, но именно эта мне не нравится тем, что в ней есть оттенок смирения, разочарования.
К: Речь идет о заглавии «Потерянная дорога» («The Road not Taken»)?
Г: Да. Не очевидно, что нет других дорог, которые, может быть, стоит попробовать.
К: Вирт сказал, что он уверен в том, что научная среда, профессора и учителя ответственны за разрывание порочного круга. То, чему учителя обучают учеников, они приносят в сферу IT-индустрии, а затем уже оттуда определяют образовательный запрос индустрии. Получается порочный круг, и Вирт считает, что именно учителя должны его разорвать. Как вы прокомментируете это высказывание?
Г: На 100% поддерживаю. Может быть, обсуждая впечатление о фразе «Потерянная дорога», я вырвал ее из контекста, но с последним месседжем я согласен на 100%.
Добавлю, что эта проблема затрагивает не только сферу IT. Политики у нас очень часто зависят от индустрии, коммерции, слишком сильно ориентируются на коммерцию. И слишком сильно позволяют индустрии и коммерции влиять на свою политику.
Экономика — это важная вещь, но она не должна быть ведущим принципом.
К: А какой принцип должен быть ведущим?
Г: Благополучие общества должно быть ведущим принципом.
К: Можете расшифровать, как Вы понимаете благополучие?
Г: Общество, популяция в целом — она растет в отношении интеллектуальном, отношении экономическом. И в отношении большей зрелости со временем. Я не хочу вдаваться в сто тысяч деталей, но самое главное в том, что развитие общества не должно идти в одном направлении, только за экономикой. Всё остальное не должно быть жертвой на алтарь экономики, на алтарь экономического прогресса.
Я не политический человек, политики должны определять, как должно быть. Я хочу сказать, что не только IT-сфера ведома индустрией, но и развитие всего общества ведомо. Всякая политика направляется экономическими интересами.
К: Можете ли вы сказать, эта ситуация характерна только для настоящего времени или была характерна и для прошлого?
Г: За время моей жизни ситуация стала хуже в этом отношении.
Не знаю, уместно или не вполне уместно в этом контексте, но другой великий айтишник Эдсгер Дейкстра как раз сказал, что одна из целей общества состоит в том, чтобы дать каждому члену общества разумную часть работы. Вне зависимости от компетенции, способности и возраста.
И эта цель сейчас гораздо меньше достигается, чем ранее.
К: А в будущем автоматизация многих людей лишит работы.
Г: Да. Но это не отменяет того, что сказал Дейкстра. Это лишь усложняет задачу, о которой он говорил. Это сложная задача, потому что будет меньше профессий. Возможно, мы должны изобретать новые профессии.
Вызов в том, чтобы найти разумную работу каждому члену общества, чтобы она давала людям основу для существования. Этот принцип сильно недооценен.
Это аспект того, что я имею ввиду под благополучием общества, но понятие шире, чем один этот пример.
К: Еще пара вопросов…
Г: Вы задаете слишком сложные вопросы. (Смеется) Но они мне нравятся.
К: Прокомментируйте утверждение о том, что ученый должен получать удовлетворение от его работы, иначе страдает ее качество.
Г: Конечно. Это очевидно.
Т: Причем здесь ученые? Все хотят получать удовлетворение от работы.
Г: Цель многих ученых — прославиться, сделать больше публикаций, увеличить свою цитируемость и занять более высокое положение. Сегодня есть большой соблазн поставить эти цели на первое место, вместо того чтобы полностью, всей душой отдаться научной работе.
К: Дейкстра говорил, что для него зачастую наиболее изящное, красивое решение одновременно оказывается и наиболее эффективным. Можно ли как-то у учащихся формировать такое эстетическое чувство, как у Дейкстры?
Г: Это в большой степени дело вкуса. Да, я думаю, что учителя могут его формировать, прежде всего предъявлением хороших образцов. Студенты, учащиеся чрезвычайно восприимчивы, чувствительны к тому, что им предлагают учителя. Поэтому ключ состоит в том, чтобы преподаватели давали лучшие, элегантные примеры.
К: Большое спасибо.
Г: Дополнение к одному из первых вопросов. Молотком можно сделать полезное дело — забить гвоздь, а можно убить человека. Теперь у нас есть инструменты в миллион раз мощнее молотка.
К: Я уверен, что это задача школы — воспитать подрастающее поколение, чтобы им можно было доверить любой инструмент.
Г: И здесь опять возникает проблема бутстрапа, раскрутки. Сначала надо научить учителей.
Большое спасибо. Я думаю, что это одно из самых интересных интервью, которые у меня когда либо были.
К: Спасибо Вам.
Считаю важным сделать ремарку о словах профессора Гуткнехта о том, что политики должны определять направление развития общества.
В Швейцарии фактически отсутствуют профессиональные политики — даже члены парламента выполняют свои обязанности по совместительству. В некотором смысле политическая система Швейцарии похожа на систему Советов в СССР, но швейцарцы имеют гораздо больший (несколько веков), в сравнении с нами, опыт самоуправления.
С другой стороны, если общественные интересы и представляющие их политики будут ориентироваться прежде всего на экономические интересы, государственная система не сможет обеспечивать полноценного развития человека и общества. А в плане восприятия общечеловеческих идей развития и их воплощения в жизнь богатым историческим опытом обладает Россия.
В информационной эре, в которой авангардом общества являются не промышленники и коммерсанты, а ученые и интеллектуалы, обмен позитивным историческим опытом для нас важен именно потому, что в нем лежит ключ к гуманистическому решению проблемы «лишних людей», освобождаемых от рутинной работы автоматизацией.
Автоматизация ведет к тому, что творческий труд становится единственной осмысленной деятельностью человека, поэтому «найти разумную работу каждому члену общества» в XXI веке возможно только в рамках коммунистического общества, в котором пробуждение высших творческих способностей в каждом человеке есть смысл существования общества.
