Учёные из университета Вашингтона выяснили, что электронные «мозги» автомобилей с системами автономного управления можно легко запутать при помощи искаженных дорожных знаков. Согласно проведённому исследованию, вызвать неадекватную реакцию беспилотных автомобилей можно посредством нескольких цветных стикеров и нескольких знаков, нанесенных на дорожный знак.
В ходе эксперимента выяснилось, что «искаженные наклейками дорожные знаки практически во всех случаях спровоцировали неожиданные реакции системы автономного управления». Это объясняется тем, что «увиденное через камеры во многом определяет поведение автопилота». В частности, в ходе эксперимента на обычный дорожный знак «Stop» было наклеено несколько небольших прямоугольных стикеров, которые, в свою очередь, не перекрывали основное изображение дорожного знака. Однако практически во всех случаях автопилот машины воспринимал этот указатель, как ограничитель скоростного режима.
Аналогичная реакция автопилота была вызвана дорожным знаком «Stop», на котором были нанесены надписи сверху и снизу самого обозначения. Также был произведён эксперимент с дорожным знаком знак «Движение только направо». На указательную стрелку были нанесены серые наклейки. Любопытно, но в этом случае автопилот воспринял этот указатель, как «Stop».Ученые из Вашингтонского университета опубликовали довольно обширный доклад, в котором говорится, что в настоящее время беспилотные автомобили могут вести себя очень опасно и непредсказуемо из-за незначительных вещей, а также насколько просто можно повлиять на поведение такого транспорта при помощи элементарных вещей.
При этом учёные отмечают, что во время эксперимента испытывался автопилот не какого-либо конкретного производителя, а типовой алгоритм для подобных систем.
Источник: sundaynews
