Беспилотные автомобили можно обмануть картинкой
Немецкие ученые показали простой метод, как сбить с толку машину с автопилотомНа то, чтобы вывести нужное сочетание цветов, у исследователей ушло всего несколько часов. Затем они наглядно продемонстрировали, как ведет себя «умная» система, когда встречает эту картинку, и предупредили, что реакция беспилотника может быть непредсказуемой. Например, машина резко свернет или затормозит.
Видео: Max Planck Institute for Intelligent Systems
Выявленная уязвимость обеспокоила ученых. Они опасаются, что в скором будущем, когда беспилотный транспорт получит массовое распространение, этой «обманкой» могут воспользоваться хакеры. Даже маленькое изображение, нанесенное на футболку, может нарушать работу нейронных сетей и привести к катастрофическим последствиям. В настоящее время исследователи работают над решением этой проблемы.
Беспилотные автомобили тестируют в том числе и в Москве. В частности, «Яндекс» выпустил на дороги Hyundai Sonata, оснащенный продвинутым автопилотом. В июле этого года машина попалась на нарушении ПДД – выехала за стоп-линию, пока горел запрещающий сигнал светофора. В самой компании после инцидента заявили, что виновата не умная система, а водитель-испытатель, который в тот момент перевел автомобиль в режим ручного управления.