В ФРГ посмеялись над планами DARPA при помощи ИИ делать научные открытия
Мнение по поводу возможности создания «автономного ученого» в результате конкурса, объявленного DARPA (Управление перспективных исследовательских проектов министерства обороны США), опубликовал немецкий журналист Флориан Рётцер 29 декабря в Overton-Magazin.
Рётцер иронизирует, что вдохновившись тем, что чат-боты, такие как ChatGPT, не только генерируют тексты, но даже пишут программный код, люди хотят, чтобы они стали генерировать научные открытия, инновации и гипотезы.
Журналист приводит в пример конкурс, объявленный DARPA, по изучению возможности создания «автономного ученого» с искусственным интеллектом. По его мнению, DARPA сама не уверена в такой возможности, так как предлагает всего 1 млн долларов (89,5 млн руб.) за представление «базовых моделей для научных открытий» с использованием машинного обучения.
Рётцер утверждает, что чат-боты не могут генерировать никаких новых гипотез, так как всё, что они создают, они делают на основе данных, заложенных в них при обучении. И их креативность может быть лишь в той степени, в которой допустима статистическая погрешность при угадывании.
В техническом задании DARPA указано, что агентство ожидает, что «автономный ученый» будет проявлять креативность и сможет генерировать уникальные научные гипотезы. На это журналист возражает, приводя в пример утверждение Томас Куна, доказавшего, что «наука замыкается на известных парадигмах и поэтому не может открыть ничего нового, пока аномалии не станут слишком большими и парадигма не даст трещину».
Журналист задается вопросом, как возможно создать «автономных ученых», которые «должны во многом перешагнуть границы известного и сказанного до сих пор», чтобы открыть новые перспективы, в то время как языковые модели ИИ обучают «политической и моральной корректности» и пытаются избавить от галлюцинаций (также иногда называемые бредом — вымышленные ответы, не имеющие отношения к действительности).
