ИИ нельзя применять повсеместно из-за фундаментального ограничения
Попытки внедрить системы искусственного интеллекта в гуманитарные сферы, например, в образование, обречены из-за особенностей того, как устроено само обучение нейронных сетей, отмечает IT-редакция ИА Красная Весна.
Один из основателей OpenAI Андрей Карпаты (известен, в том числе, как автор термина «вайб-кодинг») в публикации в X пояснил, что есть причина, по которой огромные успехи нейросетей в одних сферах не всегда сопряжены с их способностью решать задачи в других. Это связано с механизмом положительного подкрепления, который является ключевой частью обучения моделей.
Дело в том, что на входе этого обучения ей подают множество примеров: это — «хорошо», это — «плохо». Соответственно, модель перестраивается так, чтобы выдавать хороший результат и не допускать того, что изначально выделено как неподходящее.
Причина того, что ИИ так выстрелил в ИТ-сфере, прежде всего в программировании, в том, что для этих задач практически всегда можно сказать, хорошее это решение или нет — потому что программа либо дает точный ответ, либо ошибается. В каком-то смысле, модель «радуется», как человек, решивший задачу, и пытается перестроиться так, чтобы эта «радость» больше повторялась в будущем.
Поэтому для подобного рода задач, где такой ответ можно дать четко, нейросети могут давать всё более глубокий и серьезный результат. Напротив, гуманитарные задачи, например, «напиши сочинение на тему», не могут оцениваться по шкале «да» или «нет». Хорошее ли сочинение? Получил ли ребенок образование? Излечили ли человека? Кто прав в судебном споре и почему?
Это гораздо более сложные вопросы, чем те, на которые можно дать четкий ответ при обучении моделей, и именно поэтому в подобных сферах ИИ сегодня дает неубедительный результат. И это фундаментальная, а не временная технологическая проблема.
Поэтому попытки дать ИИ всё большие полномочия за пределами технической сферы изначально не способны дать ожидаемый от них «волшебный» результат, как это всё-таки происходит сегодня в сфере ИТ, тогда как большей части общества происходящее пока не настолько заметно.
Другое дело, что есть еще классы задач, в которых есть такие четкие ответы. Например, военная сфера. Цель либо поражена, либо нет. Удалось убить, попасть, сбить, утопить или нет. Именно эти данные собираются сегодня на Украине при участии Palantir, а также, например, экс-CEO Google Эрика Шмидта в их военных начинаниях, данные для которых собираются напрямую на поле боя.
И искусственный интеллект, обученный на этих данных, в принципе способен эффективно работать и дать соответствующий результат. Тогда как надежды отечественных «цифровизаторов» на некую чудодейственность применения ИИ где угодно без оглядки на фундаментальные ограничения, особенно в образовании, обречены.
Читайте также: Машины могут уничтожить человечество не из ненависти к нему, а решая задачу
