Tesla отзывает 50 000 машин в США. Их «мозги» игнорировали знак «Стоп»
Компания Tesla отзывает более 50 000 автомобилей в США из-за агрессивного поведения их искусственного интеллекта, обеспечивающего функцию самоуправления. Машины игнорировали дорожные знаки «Стоп» и проезжали мимо них со скоростью около 9 км в час, не совершая полной остановки, как того требует закон во многих американских штатах, сообщил 3 февраля журнал New Scientist.
Национальное управление безопасности дорожного движения США (NHTSA) выпустило указание об отзыве 53 822 автомобилей, на которых в настоящее время установлена версия прошивки 2020.40.4.10, содержащая функцию «остановка движения». Tesla согласилась отключить ее удаленно на всех этих автомобилях моделей 3, S, X и Y.
Функция остановки при движении была введена Tesla в октябре, но NHTSA заявляет, что неспособность полностью остановиться «может увеличить риск столкновения».
Несмотря на название функции «полное самоуправление», компания требует, чтобы владельцы постоянно были готовы вмешаться и взять контроль на себя, если программное обеспечение создает опасность. Код остается в бета–версии, что означает, что он все еще проходит испытания, но в настоящее время его тестируют более 50 000 человек — большинство из них в США, сообщила Tesla инвесторам в прошлом месяце.
Эта новость вызвала осуждение со стороны участников кампании, озабоченных безопасностью самоуправляемых автомобилей. «Мы обеспокоены тем, что беспилотные автомобили и искусственный интеллект внедряются слишком быстро», — говорит Ник Симмонс из британской благотворительной организации RoadPeace.
Министерство транспорта Великобритании не прокомментировало вопрос издания об испытаниях автономных автомобилей, а Tesla не ответила на запрос редакции о комментариях, сообщает New Scientist.
