Популярный журнал фантастики парализован наплывом текстов, созданных ИИ

Нил Кларк, основатель и редактор известного журнала Clarkesworld, публикующего фантастические рассказы, приостановил на неопределенный срок прием заявок на публикацию из-за большого количества текстов, сгенерированных ИИ, и написал об этом 20 февраля на официальной своей странице в Twitter.

Clarkesworld — известный журнал, публикующий рассказы сторонних авторов. Обычный ценник: 12 центов за слово текста, одобренного к публикации. Есть проверка на плагиат и запрет на публикацию машинно-сгенерированных текстов. До января-февраля 2023 авторов, замеченных в нарушении правил, добавляли в черный список. Их было немного, и не было проблем с тем, чтобы их вычислить.

Теперь количество подозрительных заявок на публикацию выросло лавинообразно, и редакция столкнулась с невозможностью эффективного проводить отбор. Кларк принял решение о приостановке публикации и обратился за помощью к специалистам в области ИИ.

Кларк опубликовал график, показывающий рост, числа заблокированных авторов. Если в конце 2022 года их количество составляло менее 25 в месяц, то в январе 2023 уже 100, а в феврале — более 500 человек. Кларк комментирует график: «Просто для ясности, это не количество заявок, которые мы получаем по месяцам. Это количество людей, которых нам пришлось забанить за месяц. До конца 2022 года это был в основном плагиат. Теперь это сгенерированные машиной материалы».

Проблема роста созданного ИИ контента угрожает всем изданиям, в том числе и научным. Многие люди с гуманитарным образованием потенциально могут быть заменены большими языковыми моделями. Сам глава компании OpenAI, создатель ChatbotGPT, заявляет о необходимости ввести правовое регулирование технологии языковых моделей на своей странице в Твиттер. И это не первое подобное его заявление.

Он считает, что человечеству нужно время, что бы оценить риски и понять, что делать в складывающейся ситуации. «Инструменты сегодняшнего поколения ИИ ещё не так опасны, но, потенциально, мы не далеки от действительно пугающих». Он говорит, что ChatbotGPT на столько приблизился к человеческой речи, что люди чувствуют беспокойство, поговорив с моделью, даже если знают, что это всего лишь машина.

Читайте также: В цифровом магазине Amazon обнаружили более 200 книг, написанных нейросетью

Читайте также: ИИ никогда не научится создавать новое и не заменит человека. Мнение