Автопілот Tesla обдурили наклейками на дорозі

Уразливість працює з використанням невеликих непомітних наклейок, які змушують автопілот Model S 75 міняти поточну смугу руху, повідомляє Depo.ua з посиланням на Ars Technica.

Вдосконалений автопілот Tesla підтримує безліч можливостей, включаючи центрування смуги руху, самостійне паркування та можливість автоматичної зміни смуги руху з підтвердженням від водія. Насамперед він використовує камери, ультразвукові датчики і радар для збору інформації про навколишнє оточення, в тому числі про найближчі перешкоди, рельєф місцевості та зміні смуги руху. Потім він передає дані на бортові комп'ютери, які використовують машинне навчання, щоб в режимі реального часу приймати рішення про те, як краще реагувати.

Дослідники з лабораторії Keen Security в Tencent нещодавно переглянули кілька автоматизованих процесів Tesla, щоб побачити, як вони реагували на зміни змінних середовища. Одним з найяскравіших відкриттів був спосіб змусити Автопілот попрямувати на зустрічний рух. Атака спрацювала, коли експерти наклеїли три наклейки на дорогу. Ці наклейки були майже невидимі для водіїв, але алгоритми машинного навчання, які використовуються автопілотом, визначали їх як лінію, що вказує, що смуга зміщується вліво. Унаслідок цього автопілот попрямував в цьому напрямку.

"Цей тип атаки простий у розгортанні, а матеріали легко отримати. Tesla використовує чисто комп'ютерний зір для розпізнавання смуги руху, і ми виявили, що в цьому експерименті з атаки рішення про водіння транспортного засобу грунтується тільки на результатах розпізнавання смуги руху за допомогою комп'ютерного зору. Наші експерименти довели, що в цій архітектурі є ризики для безпеки", - наголосили автори роботи.

Здатність змінювати рух автомобіля без водія, змінюючи навколишнє середовище, не нова. Наприкінці 2017 року дослідники показали, що наклейки, прикріплені до дорожніх знаків, можуть викликати аналогічні проблеми.

Крім того, дослідникам вдалося активувати склоочисник автомобіля, показавши його камері спеціальні зображення, а також отримати віддалений доступ до бортового комп'ютера та керувати поворотом за допомогою ігрового геймпада. Варто відзначити, що остання уразливість вже усунена в актуальній версії програмного забезпечення автомобілів Tesla.