Финский врач: ошибки ИИ могут подвергнуть пациента опасности

Перевод речи врача в текст с помощью искусственного интеллекта может подвергнуть пациентов риску смерти, заметил финский врач Кейо Эскола, сообщает 25 мая Yle.

Эскола работает в округе Северное Саво. В начале года службы здравоохранения округа уволили десятки секретарей и обработчиков текста, которые ранее преобразовывали диктовки врачей в текст. В округе используется решение для распознавания речи на основе ИИ, разработанное специально для документации по вопросам здоровья и социальной работы. Система преобразует речь в текст в режиме реального времени.

По словам врачей, искусственный интеллект допускает ошибки, которые ставят под угрозу безопасность пациентов. Эскола подчеркнул, что использование искусственного интеллекта в работе увеличило психологическую нагрузку на врачей, которые несут юридическую ответственность за правильность текста. Это также может увеличить риск ошибок в работе с пациентом.

Эскола объясняет, как, например, искусственный интеллект вызывает ошибки в рецептах. Он приводит пример, который мог привести к серьезным последствиям, если бы врач не заметил ошибку. Так, Эскола продиктовал, чтобы пациенту прописали 25 миллиграммов лекарства. Система распознавания речи преобразовала это количество в 2, 0 и 5 миллиграммов.

«В зависимости от фармацевтической субстанции, это может быть либо безопасно, либо очень опасно», — говорит Эскола.

Согласно опыту Эсколы, система распознавания речи также легко упускает из виду слово «нет». Так, по словам врача, его коллега продиктовал, что «у пациента нет опухоли в мозге», а искусственный интеллект написал: «Опухоль пациента в мозге». Система также не распознает некоторые из самых сложных слов в специальных областях, в именах людей и адресах.