Tesla сошла с ума: почему автопилот видит призраков на кладбище

Представьте: вы едете мимо кладбища, и вдруг на экране вашей Tesla появляются фигуры людей, которые бродят между надгробиями. Современная история о призраках? Нет, всего лишь сбой в работе машинного обучения. Эти «призраки с кладбища» — не сверхъестественное явление, а яркий пример того, как система автопилота Tesla, которая полагается только на камеры, испытывает трудности в неоднозначных условиях.

В то время как другие автопроизводители страхуются, используя лидары и радары, Tesla удваивает ставку на камеры. Они в реальном времени передают изображение нейросетям, которые обучены распознавать людей, велосипедистов и автомобили. Такая приверженность системам, основанным исключительно на «зрении», означает, что у автопилота нет никакой подстраховки, когда камеры неверно интерпретируют увиденное.

Видео от DGL.RU

Ошибка в матрице: когда система распознавания дает сбой

Выветрившиеся камни и меняющиеся тени сбивают с толку искусственный интеллект, который рассчитан на ясные дорожные условия. Обстановка на кладбище создает идеальный шторм для алгоритмов Tesla, которые ищут знакомые образы. Старые гранитные памятники, статуи ангелов, которые отбрасывают причудливые тени, и листва, которую колышет ветер, — все это активирует те же нейронные пути, что и при распознавании настоящих пешеходов.

Это явление называется машинной парейдолией. Оно похоже на то, как мы видим лица в облаках, но с потенциально опасными последствиями. ИИ обрабатывает эти визуальные сигналы на основе статистических закономерностей, которые он усвоил из миллионов обучающих изображений. Большинство из них были сделаны в обычных условиях вождения, а не среди викторианских надгробий.

Призраки на шоссе

Эти курьезы на кладбищах связаны с более известной и документированной проблемой безопасности — фантомным торможением на трассе. Владельцы Tesla сообщают о внезапных и резких замедлениях, которые провоцирует проезд под эстакадами, тени или даже форма полуприцепов, которую система ошибочно принимает за угрозу столкновения.

Официальные жалобы показывают, что это не редкость. Некоторые водители сталкиваются с несколькими подобными инцидентами во время обычной поездки. Это создает риск столкновения сзади, если сзади едет плотный поток машин. При этом феномен «фантомного пассажира» официально не признается, что оставляет владельцам самим разбираться в этих цифровых призраках.

Ставка только на зрение

Стратегия Tesla, которая ориентирована только на камеры, — это компромисс между избыточностью датчиков и экономией на затратах и сложности. В то время как конкуренты используют несколько типов датчиков для надежности, Tesla ставит все на нейронные сети, которые обрабатывают данные с 2D-камер. Такой подход отлично работает в идеальных условиях, но дает сбой, когда сталкивается с незнакомыми формами — будь то статуи на кладбище или зоны дорожных работ.

Компания подчеркивает необходимость контроля со стороны водителя и отмечает, что условия окружающей среды влияют на производительность. Ваша Tesla не общается с потусторонним миром. Она лишь демонстрирует вполне реальные ограничения искусственного интеллекта, который пытается ориентироваться в мире, гораздо более сложном, чем тот, что заложен в его обучающих данных.

Tesla разозлила водителей рекламой «Трон: Арес» в навигаторе